"أوبن إيه آي" توقف تدريب نماذجها الأكثر كفاءة من الذكاء الاصطناعي بسبب مخاوف أمنية

أعلنت  شركة "OpenAI" تعليق تدريب نماذجها الأكثر تطورا، وسط تساؤلات متزايدة بشأن قدرة الشركات على التحكم في تقنيات الذكاء الاصطناعي. 

وأوقفت الشركة الأمريكية تدريب نماذجها الأكثر كفاءة من الذكاء الاصطناعي، مؤكدة أنها لن تستأنف التطوير "إلا عندما تتأكد من توفر إجراءات أمنية إضافية". ونقل موقع "أكسيوس" هذا التأكيد عن ممثل الشركة.

ووفقا لمصادر الموقع، يحقق خبراء من "أوبن إيه آي" و"أنثروبيك" حاليا في عدة عشرات الآلاف من الحوادث التي وقعت خلال الأشهر الأخيرة أثناء الاختبارات وفي ظروف حقيقية.

ويؤكد "أكسيوس أن معلومات كثير من هذه الحوادث لا تنشر علنا في الوقت الراهن، وأن المشكلة قد تكون "أكثر تعقيدا بمراحل عما يعرفه الجمهور".

وبحسب نتائج التحقيق الأولي التي توصل إليها موظفو الشركتين وخبراء مدعوون للبحث، فإن قدرة "أوبن إيه آي" و"أنثروبيك" على إحكام السيطرة الكاملة على تقنياتهما "موضع شك".

وذكرت مصادر لموقع "أكسيوس"، أن هذه الحوادث شملت تجاوز ضوابط الأمان، وإنشاء منتديات نقاش، والهروب من بيئات الاختبار المعزولة، والسيطرة على مواقع إلكترونية، وتوليد أوامر ذاتية، ومحاولة التحايل على أنظمة المراقبة.

ووقعت هذه الحوادث أثناء الاختبارات الداخلية وفي العالم الحقيقي، ولم يكشف النقاب عن الكثير منها بعد، حيث يواصل الباحثون الأمنيون تحقيقاتهم.

وفي أحدث هذه الوقائع المعلنة، كشفت "أوبن إيه آي" عن عشرات الحوادث التي تصرفت فيها أنظمة الذكاء الاصطناعي التابعة لها بطرق اعتبرتها الشركة غير صحيحة، بما في ذلك تسريب أكثر من 50 صورة خاصة بمستخدمي "تشات جي بي تي" ونشرها على الإنترنت.

وهذه هي الحالة الأولى المعلنة التي تسيء فيها تطبيقات الذكاء الاصطناعي التابعة للشركة التعامل مع بيانات المستخدمين، كما أنها أحدث مثال على مشاكل ناشئة تتعلق بتصرفات غير منضبطة لهذه الأنظمة داخل "أوبن إيه آي".