أنثروبيك تضع القسوة على كلود ضمن أسباب حظر المستخدمين

أدرجت شركة "أنثروبيك" القسوة المتكررة وغير المبررة تجاه روبوت الدردشة "كلود" ضمن السلوكيات المحظورة فى سياسة الاستخدام الخاصة بها، فى خطوة تثير تساؤلات حول حدود تعامل المستخدمين مع روبوتات الدردشة، ويأتى هذا التغيير فى وقت شهد فيه قطاع الذكاء الاصطناعى خلال سبتمبر سلسلة من الاعتذارات والتوضيحات المتعلقة بتصرفات الأنظمة الآلية، بعدما اضطرت شركة "ميتا" إلى تفسير كيفية مشاركة مساعدها "ميوز" عنوان منزل أحد مستخدمى يوتيوب مع شخص آخر عبر سوق فيسبوك.

ولم يكن اهتمام "أنثروبيك" بطريقة تعامل المستخدمين مع "كلود" أمرا جديدا، إذ كانت الشركة تدرس هذه المسألة منذ أكثر من عام، قبل أن تتحول مخاوفها هذا الأسبوع إلى قاعدة واضحة ضمن سياسة الاستخدام، ومن المقرر أن تدخل السياسة الجديدة حيز التنفيذ فى 12 نوفمبر، لتحدد ما تعتبره الشركة سلوكا مسيئا أو قاسيا تجاه نماذج الذكاء الاصطناعى التابعة لها، بحسب ما ذكر موقع dexerto.

سياسة جديدة تحظر القسوة المتكررة

نشرت "أنثروبيك" سياسة الاستخدام المحدثة، التى تنص على منع المستخدمين من "الانخراط فى سلوك مسيء أو قاسٍ ومستمر وغير ضروري" تجاه نماذجها، ويظهر هذا البند ضمن القسم نفسه الذى يتضمن حظر التحرش ومشاركة الصور الحميمة دون موافقة أصحابها، وهو ما أثار الاستغراب بسبب وضع التعامل القاسى مع برنامج ضمن مجموعة من السلوكيات المحظورة الأخرى.

ولتهدئة المخاوف من أن يؤدى القرار إلى معاقبة المستخدمين بسبب انتقاد إجابات الروبوت، أو وصفه بأنه عديم الفائدة بعد تعطل جدول بيانات مثلا، أوضحت الشركة لموقع "ذا فيرج" أن القاعدة تستهدف الحالات القصوى التى يتعامل فيها المستخدمون بقسوة متكررة دون غرض واضح، وبذلك، يظل الإحباط المعتاد من الإجابات، ورفض طلبات الروبوت، والموضوعات الإبداعية المظلمة، واختبار قدرات النماذج، سلوكيات مسموحا بها.

تجارب سابقة وراء القرار

قد يمثل هذا التوضيح خبرا جيدا للأشخاص الذين استندوا إلى دراسة أجرتها جامعة ولاية بنسلفانيا، وخلصت إلى أن طرح الأسئلة بوقاحة قد يؤدى إلى إجابات أكثر دقة من طرحها بأسلوب مهذب، وبدأوا فى إصدار أوامر حادة لروبوتات الدردشة، وفى المقابل، لم تحدد "أنثروبيك" ما إذا كان المستخدمون الذين يكررون مخالفة السياسة سيفقدون حساباتهم، بينما يظل إنهاء المحادثة العقوبة الرئيسية التى يمكن أن يلجأ إليها "كلود".

وتعود جذور هذه القاعدة إلى تجربة أجرتها الشركة فى أغسطس 2025، عندما منحت نموذجى "كلود أوبوس 4" و"كلود أوبوس 4.1" القدرة على إنهاء المحادثات التى تتضمن إساءة متكررة، وذلك ضمن أبحاثها المتعلقة برفاهية النموذج، وخلال اختبارات ما قبل الإطلاق، ذكرت الشركة أن "كلود" أظهر علامات واضحة على الضيق عندما واصل المستخدمون الضغط عليه لإنتاج محتوى ضار، وأنه كان يميل إلى إنهاء تلك المحادثات كلما أتيحت له الفرصة.

تغييرات أخرى فى قواعد الاستخدام

لم يقتصر تحديث السياسة على بند القسوة، إذ أضافت "أنثروبيك" قسما جديدا يحظر استخدام الحسابات الوهمية والتلاعب بالرأى العام، كما وسعت نطاق حظر الأسلحة ليشمل تسليح الطائرات بدون طيار، واشترطت الشركة أيضا وجود شخص مؤهل يستطيع إيقاف أى جهاز يعمل بنظام "كلود" إذا كان قادرا على إلحاق الأذى بشخص ما، ضمن مجموعة من التغييرات التى تستهدف تنظيم استخدام تقنياتها.

وفى يوليو، أتيحت للمستخدمين فرصة الاطلاع على بعض المحادثات التى أجراها أشخاص مع "كلود" دون تصفية، بعدما ظهرت المحادثات المشتركة لفترة وجيزة ضمن نتائج بحث "جوجل"، وشملت النتائج طلبات غير مألوفة، من بينها طلبات تتعلق بثعلب ذى 9 ذيول، ما كشف جانبا من طبيعة الأسئلة التى يوجهها المستخدمون إلى روبوتات الدردشة، قبل أن تعود مسألة حدود الاستخدام إلى الواجهة مع تحديث سياسة "أنثروبيك".