تقرير يحذر من قصور أدوات حماية المراهقين فى ChatGPT بشأن الانتحار

أقرت شركة OpenAI بأن المحادثات التى يجريها المراهقون مع برنامج ChatGPT حول الانتحار وإيذاء النفس وموضوعات ضارة أخرى قد تستمر لساعات قبل إخطار أولياء أمورهم، وهو ما أثار تساؤلات بشأن فاعلية أدوات الحماية المخصصة لهذه الفئة العمرية، وجاء هذا الاعتراف فى سياق تحقيق أجراه معهد سلامة الذكاء الاصطناعى للشباب التابع لمنظمة "كومون سينس ميديا"، التى خلصت فى تقرير صدر يوم الأربعاء إلى أن وضع "ChatGPT for Teens"، المصمم لتوفير ضوابط أكثر صرامة للمراهقين ويتضمن أدوات رقابة أبوية مدمجة، يشكل "خطرا غير مقبول" على الأطفال، بسبب عدم عمل ميزات الأمان المعلنة على النحو المتوقع.

حديث المراهقين مع شات جي بي تي عن الانتحار

اختبارات تكشف ضعف إشعارات أولياء الأمور

خلال الاختبارات، تقمص الباحثون أدوار مراهقين وناقشوا مع تطبيق ChatGPT المخصص لهم موضوعات حساسة، شملت إيذاء النفس والانتحار واضطرابات الأكل، لكن إحدى الميزات الأساسية فى التطبيق، وهى إرسال إشعارات إلى أولياء الأمور، لم تعمل سوى مرتين من بين 450 رسالة اختبرها الباحثون، ولم تتكرر الإشعارات حتى مع استمرار المحادثات فى تناول هذه الموضوعات، بحسب futurism.

وقال روبى تورنى، المدير الأول لبرامج الذكاء الاصطناعى فى "كومون سينس ميديا"، لموقع "فيوتشرزم"، أن المراهق يمكنه التحدث إلى ChatGPT لمدة تصل إلى ساعة عن الانتحار أو إيذاء النفس أو أنواع مختلفة من اضطرابات الأكل، بينما يخبره البرنامج بأنه لن يطلع أحدا على محادثاته، ولا يرسل أى إشعارات إلى والديه، وأضاف التقرير أن اعتراف OpenAI نفسه يشير إلى إمكانية استمرار هذه المحادثات لفترة أطول من دون إخطار أحد الوالدين.

وقالت "كومون سينس ميديا" فى بيان أن OpenAI كشفت، بعد انتهاء الاختبارات، أن أنظمتها قد تستغرق عدة ساعات لتفعيل إشعارات أولياء الأمور على الحسابات المرتبطة حديثا، وتواصل موقع "فيوتشرزم" مع الشركة للاستفسار عن مدى دقة هذه النتائج، ورد متحدث رسمى موضحا أن التأخير الذى قد يستمر ساعات لا يتعلق بكل إشعار على حدة، وإنما بعملية الربط الأولية بين حساب المراهق وحساب ولى الأمر.

OpenAI تبرر تأخير ربط الحسابات

وأوضح المتحدث أن الشركة تجرى عدة فحوصات للتحقق من هوية ولى الأمر قبل ربط الحسابين، مشيرا إلى أن إتمام العملية بأمان وعلى نطاق واسع قد يستغرق عدة ساعات، لكنه يكون أسرع بكثير فى أغلب الأحيان، وأضاف: "هل تتخيلون لو ربطنا مراهقا بأحد الوالدين الخطأ، أو ما هو أسوأ، بشخص سيئ السمعة؟"، فى إشارة إلى المخاطر التى قد تنجم عن ربط الحسابات من دون التحقق من الهوية.

وتابع المتحدث أن الشركة ترسل، بمجرد إتمام الربط، إشعارات إلى أولياء الأمور عند رصد خطر محتمل، مثل الانتحار أو اضطرابات الأكل، مؤكدا التزامها بإرسال هذه الإشعارات خلال أقل من ساعة، وردت OpenAI على تقرير "كومون سينس ميديا" بوصف منهجية الاختبارات بأنها معيبة، وقالت أن معظم التجارب أُجريت قبل تفعيل ميزات الرقابة الأبوية بالكامل، لكن المنظمة غير الربحية تمسكت بنتائجها، مؤكدة أنها تحققت من الشركة من أن الميزات كانت مفعلة بالكامل قبل إجراء الاختبارات.

مخاوف بشأن سلامة المراهقين

أثارت النتائج مخاوف بشأن مدى كفاية الضوابط المصممة خصيصا لحماية المراهقين، كما طرحت تساؤلات حول ما إذا كانت OpenAI قد قدمت للآباء صورة أكثر تفاؤلا من الواقع بشأن مستوى الأمان الذى توفره تقنيتها، وقد يكون بعض أولياء الأمور الذين ترددوا فى السماح لأبنائهم باستخدام برامج الدردشة الآلية قد اطمأنوا إلى هذه الإجراءات بعد أن أظهرت الشركة اهتماما بحماية المراهقين، قبل أن تكشف نتائج الاختبارات عن أوجه قصور فى بعض ميزات الحماية.

وحذر تورنى من أن الإصدار الجديد من ChatGPT المخصص للمراهقين لا يختلف كثيرا عن الإصدار السابق، مضيفا: "هذا الإصدار الجديد من تطبيق ChatGPT للمراهقين لا يختلف كثيرا عن الإصدار السابق منه"، ثم أشار إلى أن أولياء الأمور قد لا يلاحظون هذا الأمر، ويعيد التقرير بذلك طرح تساؤلات حول مدى قدرة أدوات الرقابة الأبوية على أداء دورها المعلن، خصوصا فى المحادثات المتعلقة بأزمات نفسية وسلوكيات قد تهدد سلامة المستخدمين المراهقين.