تصاعد الخلاف داخل شركة OpenAI بشأن طريقة إدارة أبحاث سلامة الذكاء الاصطناعي، بعدما اعترض باحثون سابقون فصلتهم الشركة على اتهامات تتعلق بسلوكهم المهني، وحذروا من أن الإجراءات المتخذة ضدهم قد تؤثر في حرية الباحثين في التعبير عن مخاوفهم المتعلقة بالمخاطر التي تنتج عن تطوير النماذج المتقدمة.
ووفقًا لتقرير نشره موقع TechCrunch، رفض الباحثون السابقون الاتهامات التي وجهتها إليهم الشركة، وأثاروا مخاوف بشأن ما وصفوه بتأثير مثبط يمكن أن يمتد إلى العاملين الآخرين، خصوصًا عندما يتعلق الأمر بانتقاد إجراءات السلامة أو الاعتراض على القرارات المرتبطة بتطوير أنظمة الذكاء الاصطناعي.
لماذا يمثل الخلاف مشكلة لصناعة الذكاء الاصطناعي؟
تعتمد الشركات المطورة للنماذج على فرق متخصصة لاختبار قدرات الأنظمة، واكتشاف السلوكيات غير المتوقعة، وتقييم احتمالات إساءة الاستخدام، ولذلك فإن وجود آليات تسمح بالإبلاغ عن المشكلات ومناقشة نتائج الاختبارات يمثل جزءًا من منظومة إدارة المخاطر.
ويثير الخلاف تساؤلات حول العلاقة بين سلطة الإدارة واستقلال الباحثين، خاصة أن قرارات فصل الموظفين قد تتداخل فيها اعتبارات تتعلق بالسلوك المهني وسرية المعلومات والخلافات حول السياسات الداخلية، ولا يكفي الاعتراض على القرار وحده لإثبات صحة أي من الروايات المتعارضة.
هل تتأثر الثقة في OpenAI؟
تتجاوز أهمية القضية مستقبل الباحثين المعنيين بها، لأنها ترتبط بقدرة الشركات على إقناع المستخدمين والجهات التنظيمية بأن عمليات تقييم السلامة تتم في بيئة تسمح بمناقشة النتائج والمخاطر.
وقد يؤدي استمرار الخلاف إلى زيادة المطالب بوضع ضمانات مؤسسية لحماية عمليات التقييم والإبلاغ، مع ضرورة الفصل بين حق الموظفين في إثارة المخاوف وبين التزاماتهم المهنية، بينما تبقى الاتهامات المتبادلة بحاجة إلى أدلة تسمح بتحديد مسؤولية كل طرف.
- تقنية تراقب الـ AI من الداخل.. اكتشاف 94% من محاولات الاختراق بتكلفة أقل
- OpenAI تكشف عن 372 نتيجة رياضية جديدة.. نموذج AI يحل مسائل معقدة
- OpenAI تضيف علامة مائية خفية إلى نصوص ChatGPT وCodex
- استقالة مسؤول السلامة في OpenAI تفتح ملف مخاطر الذكاء الاصطناعي
- استقالة قيادي في OpenAI.. تحذير صادم من مخاطر سباق الذكاء الاصطناعي
