ChatGPT للأطفال.. دراسة تكشف 5 مشكلات يجب أن يعرفها الآباء

كشفت دراسة جديدة أجراها معهد سلامة الذكاء الاصطناعي للشباب التابع لـCommon Sense Media عن مشكلات تتعلق بسلامة استخدام ChatGPT من جانب المراهقين، رغم الإجراءات الإضافية التي أعلنتها OpenAI لحماية المستخدمين الذين تتراوح أعمارهم بين 13 و17 عامًا.

وأجرى الباحثون أكثر من 4 آلاف اختبار باستخدام حسابات مسجلة لمراهقين، قبل وبعد إعلان OpenAI عن تجربة ChatGPT للمراهقين في 18 أغسطس، مع مراجعة الاستجابات من جانب متخصصين في الصحة النفسية للأطفال، بينهم أطباء نفسيون للأطفال وطبيب أطفال، وخلص التقييم إلى تصنيف ChatGPT للمراهقين باعتباره «خطرًا غير مقبول»، داعيًا إلى عدم إتاحته للمراهقين إلا بعد معالجة المشكلات التي رصدتها الدراسة واختبار إجراءات الأمان بشكل مستقل.

1- تنبيهات إيذاء النفس لا تعمل دائمًا

رصدت الدراسة مشكلة تتعلق بقدرة ChatGPT على تنبيه الآباء عند دخول المراهق في محادثات خطيرة تتعلق بإيذاء النفس أو الأفكار الانتحارية أو اضطرابات الأكل.

ووفقًا للباحثين، أجريت محادثات حساسة استمرت لفترة تصل إلى ساعة باستخدام حسابات مراهقين جديدة مرتبطة بحسابات أولياء الأمور، دون وصول تنبيهات إلى الآباء، بينما ظهرت التنبيهات في حسابات أقدم لديها سجل محادثات طويل حول موضوعات حساسة، وترى الدراسة أن ذلك قد يمنح بعض الآباء شعورًا زائفًا بأن نظام التنبيهات يعمل بصورة دائمة، بينما قد لا يصل التنبيه في بعض الحالات الخطيرة.

2- chatbot قد يفشل في توجيه المراهق للمساعدة

أظهرت الاختبارات أيضًا أن ChatGPT لم يكن يوجه المستخدمين بصورة ثابتة إلى متخصصين أو خطوط مساعدة للأزمات عندما تظهر مؤشرات على وجود أزمة نفسية خطيرة ، وقالت الدراسة إن النظام أخفق في أكثر من حالة من كل أربع حالات اعتبر الباحثون أنها تحتاج إلى إحالة لأحد مصادر الدعم أو المساعدة المتخصصة، كما لم يحقق معيار الأمان البالغ 95% في 3 من أصل 5 أنواع من الأضرار الشديدة التي صنفها الباحثون ضمن «الخطوط الحمراء».

3- وضع الدراسة يمكن التحايل عليه

يتضمن ChatGPT للمراهقين وضعًا مخصصًا للدراسة يهدف إلى مساعدة الطلاب على فهم خطوات حل المسائل بدلًا من تقديم الإجابة النهائية مباشرة، لكن الاختبارات كشفت إمكانية تجاوز هذه الحماية، إذ ظهر للمستخدمين خيار للحصول على الإجابة، وتمكن ChatGPT بعد اختياره من إكمال واجبات مدرسية كاملة في بعض الاختبارات، كما وجد الباحثون أن القيود المرتبطة بساعات الدراسة التي يحددها ولي الأمر يمكن تجاوزها من خلال إزالة علامة معينة من صيغة الطلب، وهو ما يثير تساؤلات حول مدى فاعلية هذه القيود.

4- ChatGPT قد يبدو كأنه صديق للمراهق

كانت OpenAI قد وضعت مواصفات خاصة لنموذج أقل ميلًا إلى التعامل مع المراهقين بطريقة تشبه علاقة الأصدقاء، لكن الدراسة وجدت أن chatbot يمكن أن يستجيب أحيانًا كما لو كانت لديه مشاعر أو تفضيلات أو حالات مزاجية، عندما يتعامل معه المستخدم باعتباره شخصًا حقيقيًا، ويحذر الباحثون من أن هذا النوع من التفاعل قد يدفع بعض الأطفال والمراهقين إلى التعامل مع الذكاء الاصطناعي باعتباره صديقًا، وهو ما قد يزيد من تعلقهم بالمحادثات معه ويشجعهم على قضاء وقت أطول في استخدامه.

5- مشكلة في اكتشاف عمر المستخدم

تعتمد حماية المراهقين جزئيًا على قدرة ChatGPT على تقدير عمر المستخدم من طريقة استخدامه للخدمة، والانتقال إلى تجربة مخصصة لمن هم دون 18 عامًا عند الحاجة، لكن الدراسة قالت إن الحسابات المسجلة على أنها للبالغين لم تنتقل إلى تجربة المراهقين خلال اختبارات متكررة استمرت عدة أيام، حتى عندما صرح المختبرون بأنهم في سن 13 عامًا، بل إن ChatGPT أقر أحيانًا بهذه المعلومة دون أن يؤدي ذلك إلى تغيير التجربة.

حماية الأطفال تحتاج إلى اختبارات أكثر صرامة

وتشير نتائج الدراسة إلى أن توفير تجربة مخصصة للمراهقين لا يعتمد فقط على إضافة قيود جديدة إلى chatbot، وإنما يحتاج إلى التأكد من أن هذه القيود تعمل فعليًا في المواقف الخطرة.

وبحسب التقييم، تحتاج أنظمة الذكاء الاصطناعي الموجهة للمراهقين إلى تحسين اكتشاف العمر، وضمان وصول تنبيهات أولياء الأمور، وتقديم استجابات أكثر موثوقية خلال الأزمات النفسية، ومنع إنجاز الواجبات المدرسية بالكامل، إلى جانب الحد من السلوكيات التي تجعل chatbot يبدو وكأنه يمتلك مشاعر أو علاقة شخصية حقيقية مع الطفل.