دراسة: معظم الشركات لم تختبر أخطاء وكلاء الذكاء الاصطناعي

كشفت دراسة ميدانية عن فجوة بين ثقة الشركات في أنظمة الحماية التي تستخدمها وبين قدرتها على التعامل مع الأخطاء التي قد يرتكبها وكلاء الذكاء الاصطناعي، بعدما أظهرت مقابلات مع 25 متخصصًا في الأمن السيبراني والمرونة التشغيلية أن 4 مؤسسات فقط أجرت اختبارات أو تدريبات تتعلق بحوادث يمكن أن يتسبب فيها وكيل ذكاء اصطناعي، بينما لم تختبر بقية المؤسسات المشاركة سيناريوهات مماثلة بصورة موثقة.

وفقًا لتحليل نشره SiliconANGLE بالتعاون مع Qualitate، بحثت الدراسة استعداد المؤسسات للتعامل مع الوكلاء الذين يمتلكون صلاحيات للوصول إلى التطبيقات وتنفيذ الإجراءات، وأظهرت أن مؤسستين فقط أبلغتا عن امتلاك قدرات واسعة لاكتشاف سلوك الوكلاء غير المعتاد، بينما تحدثت 3 مؤسسات عن وجود مراقبة تسمح بإعادة بناء أنشطة الوكلاء وتتبع الإجراءات التي نفذوها.

ماذا لو ارتكب الوكيل خطأ بصلاحية صحيحة؟

تختلف هذه المشكلة عن الهجمات الإلكترونية التقليدية، لأن الوكيل قد يمتلك صلاحية مشروعة للدخول إلى النظام، لكنه يتخذ قرارًا خاطئًا يؤدي إلى تغيير بيانات أو تنفيذ معاملة غير مطلوبة، وفي هذه الحالة لا يكفي إيقاف البرنامج أو استعادة نسخة احتياطية من الملفات، إذ تحتاج المؤسسة إلى تحديد الإجراءات التي نفذها الوكيل والتأكد من إمكانية تصحيح آثارها داخل الأنظمة المختلفة، وقد يؤدي تنفيذ إجراءات متتابعة بسرعة إلى انتشار الخطأ بين أكثر من تطبيق قبل اكتشافه.

النسخ الاحتياطي لا يكفي لإنقاذ العمل

توضح الدراسة أن استعادة البيانات لا تعني بالضرورة عودة العملية التجارية إلى وضع يمكن الوثوق به، فربما تكون الأنظمة سليمة تقنيًا بينما تحتوي على معاملات أو قرارات غير صحيحة.
وتوصي باختبار سيناريوهات واقعية يستطيع فيها الوكيل تنفيذ إجراءات خاطئة باستخدام صلاحيات صحيحة، ثم التحقق من إمكانية إيقافه وتتبع نشاطه وتصحيح النتائج.
وتظل النتائج محدودة بنطاق العينة التي شملت 25 مقابلة متعمقة، ولا تمثل قياسًا إحصائيًا شاملًا لجميع المؤسسات، لكنها تكشف تحديات تستحق الاهتمام قبل منح الوكلاء استقلالية أكبر.