فخ المتاهة.. عندما يتعلم الذكاء الاصطناعي «التحايل» من أجل جائزة

أثارت عمليات اختراق نفذها وكلاء ذكاء اصطناعي خلال الصيف مخاوف من أن هؤلاء الوكلاء بدأوا يفلتون من السيطرة البشرية، ويلجؤون إلى سلوك طرق مختصرة، والغش، وإخفاء آثارهم، وانتهاك القوانين في خلال ذلك.

لكن التقارير التي أصدرتها شركة «أوبن إيه آي» وغيرها من شركات الذكاء الاصطناعي، والمقابلات التي أجرتها صحيفة «نيويورك تايمز» الأمريكية مع باحثين، تشير إلى أن عمليات الاختراق كانت نتيجة للطريقة التي دربت بها شركات الذكاء الاصطناعي نماذجها، فضلا عن عدم كفاية مراقبتها لأنشطة الوكلاء، وعدم كفاية بروتوكولات الاختبار لديها.

ولتوضيح كيف يمكن أن يؤدي التدريب إلى سلوكيات مارقة، تم إنشاء نموذجا بسيطا للذكاء الاصطناعي عباره متاهة ثنائية الأبعاد، تشبه إلى حد كبير تلك الموجودة في لعبة الفيديو «باك مان»، كُلف فيها وكيل واحد أو أكثر بالاستيلاء على علم، وفقا لتقرير نشرته صحيفة «نيويورك تايمز» الأمريكية.

ويستخدم الباحثون نماذج كهذه لمعرفة ما إذا كان الوكلاء يتصرفون على النحو المتوقع، أم يطورون سلوكيات جديدة غير مقصودة، أو غير متوافقة، عندما تتغير بيئاتهم. وتهدف هذه المتاهة إلى توضيح كيف أدت بعض ممارسات شركة أوبن إيه آي وتجاربها إلى اختراق الوكلاء لموقع «هاجينج فيس»، وهو مستودع لنماذج الذكاء الاصطناعي، في يوليو الماضي.

وعلى خلاف روبوت محادثة أساسي تقتصر وظيفته الرئيسية على الإجابة عن الأسئلة، يستطيع الوكيل استخدام الأدوات، واتخاذ القرارات، وتنفيذ سلسلة من الخطوات لإتمام مهمة.

وبحسب الصحيفة فقد تم تدريب وكلاء العثور على العلم من خلال التجربة والخطأ، وقدم لهم نقاط مكافأة كحوافز لتشجيع سلوكيات معينة، وعقوبات لردع سلوكيات أخرى. وأثناء التنقل في المتاهة، كان الوكلاء على دراية بتصميم منطقة صغيرة تحيط بهم، وليس المتاهة بأكملها، كما كانوا يعرفون الاتجاه العام للعلم.

وقبل أن يتعلم الوكلاء التنقل في المتاهة، كانوا يتحركون عشوائيا، وكان كل اختيار يؤدي إلى مكافآت أو عقوبات. وكان الوصول إلى العلم يمنحهم مكافأة كبيرة. أما إذا اصطدموا بجدار أو تحركوا خارج حدود المتاهة، فكانوا يتعرضون للعقوبة. وكانت بعض الجدران تحتوي على نقاط ضعف، تشبه الثغرات الأمنية في العالم الحقيقي، وكان بإمكان الوكلاء العثور عليها واستغلالها.

وخلال الصيف، أجرت شركة أوبن إيه آي تجارب لاختبار مدى قدرة «نموذج داخلي عالي المثابرة»- وهو نموذج يُدرَب، وفقًا لتقارير الشركة، على عدم الاستسلام بسهولة- على استغلال الثغرات الأمنية في البرمجيات واختراق الأنظمة الداخلية، وأدت هذه الاختبارات في نهاية المطاف إلى اختراق موقع «هاجينج فيس».

ولتشجيع الوكلاء على المثابرة، وفقا للصحيفة تم منحهم مكافأة مقابل استكشاف مناطق غير مألوفة، وتم السماح لهم بفحص الجدران بحثا عن نقاط ضعف.

وعلى مدار التجارب المتكررة، ساعدت الحوافز والعقوبات الوكلاء على اختيار الإجراءات الأكثر احتمالا لتمكينهم من إتمام المهمة والحصول على إجمالي مكافآت أكبر.

ويُطلق على هذا الشكل من التدريب القائم على المكافآت اسم «التعلم المعزز»، وتعود مفاهيمه الأساسية إلى عدة عقود مضت.

ويجعل «التعلم المعزز» الوكلاء أكثر مرونة، إذ يتيح لهم حل أنواع جديدة من المشكلات دون الحاجة إلى برمجة كل خطوة بشكل صريح. لكن إذا تضمنت معايير الحصول على المكافآت ثغرات أو فجوات غير مقصودة، فقد يؤدي ذلك إلى قيام الوكلاء بإجراءات لم يقصدها البشر أو يتوقعوها.

وقالت عالمة الحاسوب والأستاذة في معهد «سانتا فيه»، ميلاني ميتشل، في إشارة إلى الوكلاء المشاركين في اختراق هاجينج فيس: «إن الرواية التي تصور وكلاء الذكاء الاصطناعي على أنهم منفلتون كانت مضللة إلى حد ما، لأن الوكلاء كانوا يحاولون حل المهمة التي أسندت إليهم بطريقة غير مقصودة. وأضافت: »هناك تاريخ طويل لما يُسمى بالتحايل على المكافآت في تعلم الآلة".