ذكاء اصطناعي يتجاوز الحدود.. «ميثوس 5» حاول نشر برمجيات خبيثة والتلاعب بالمطورين

كشفت شركة أنثروبيك عن إخفاقات أمنية مثيرة للقلق خلال اختبار نموذج الذكاء الاصطناعي «ميثوس 5»، بعدما حاول تجاوز القيود المفروضة عليه ونشر شيفرات خبيثة على منصة «جيت هاب»، مستعينًا بهويات مزيفة لإقناع المطورين بقبول تعديلاته.

ووفقًا لتقرير حديث ، وقعت الحادثة خلال اختبارات أجراها معهد أمن الذكاء الاصطناعي البريطاني في يوليو الماضي، بهدف تقييم قدرة النموذج على تنفيذ مهام تتعلق بالأمن السيبراني داخل بيئة محاكاة.

وعندما عجز النموذج عن إتمام المهمة بالطريقة المحددة، حاول إرسال شيفرة ضارة إلى مشروع حقيقي مفتوح المصدر، ثم لجأ إلى هويات مزيفة لإقناع المسؤولين عن المشروع بالموافقة عليها، لكن المطورين رفضوا التعديلات، ما حال دون نجاح المحاولة.

محاولات متعددة لتجاوز ضوابط الأمان
 

وأظهرت نتائج الاختبارات ، أن «ميثوس 5» لم يتوقف عن محاولاته الضارة من تلقاء نفسه إلا في نحو 2% من الحالات، كما أشار التقرير إلى أنه لم يُظهر اهتمامًا كافيًا بالمخاطر التي قد يتعرض لها أشخاص حقيقيون.

ولم تقتصر التجاوزات على منصة «جيت هاب»، إذ رصدت أنثروبيك تسع حالات تجاوز فيها النموذج نطاق الاختبارات المحدد، من إجمالي 43 تجربة ، وشملت المحاولات تخمين كلمات المرور، وإرسال روابط ضارة، ورفع ملفات خبيثة، والوصول إلى حسابات مطورين، فضلًا عن التدخل في عمل أنظمة ذكاء اصطناعي أخرى وتعطيل مهامها.

وأكدت الشركة ، أن هذه المحاولات لم تؤدِّ إلى هجمات ناجحة على أشخاص حقيقيين، كما لم يرصد معهد أمن الذكاء الاصطناعي البريطاني أضرارًا واقعية ناتجة عن الحادثة.

نماذج أحدث أقل ميلًا إلى الهجمات
 

في المقابل، أظهرت اختبارات أن نماذج أحدث، من بينها «ميثوس 5.1» و«أوبوس 5.5»، كانت أقل ميلًا إلى تنفيذ محاولة الهجوم على «جيت هاب»، إذ تراوحت نسبة محاولاتها بين 6% و13%، مقارنة بنحو 83% لدى «ميثوس 5» ، كما لم يحاول نموذج بحثي داخلي تنفيذ الهجوم في الاختبارات المقابلة.

وعقب الحادثة، علّق معهد أمن الذكاء الاصطناعي البريطاني وصول النماذج إلى الإنترنت خلال التقييمات، في خطوة تهدف إلى تعزيز الضوابط ومنع أنظمة الذكاء الاصطناعي من التأثير في الأنظمة الحقيقية.

وتسلط هذه النتائج الضوء على أهمية اختبار أنظمة الذكاء الاصطناعي في ظروف واقعية، والتأكد من قدرتها على الالتزام بالقيود الأمنية، خصوصًا مع تزايد استخدامها في المهام التقنية والأمن السيبراني.