OpenAI تضع علامة خفية داخل نصوص ChatGPT.. لكن تغيير 20% من الكلام قد يهزمها

تبدأ OpenAI وضع علامة مائية آلية داخل النصوص التي ينتجها ChatGPT في الاتحاد الأوروبي، في محاولة لإنشاء وسيلة تقنية تساعد على التعرف على المحتوى الذي كتبه الذكاء الاصطناعي، وتأتي الخطوة استجابة لمتطلبات قانون الذكاء الاصطناعي الأوروبي، بينما ستظل الميزة متاحة خارج الاتحاد الأوروبي بصورة اختيارية، وتعتمد التقنية على أنماط غير مرئية للقارئ يجري إدخالها في اختيارات الكلمات نفسها، بحيث يستطيع كاشف متخصص البحث عنها لاحقًا، لكن الاختبارات التي كشفت عنها الشركة توضح أن العلامة ليست دليلًا حاسمًا على مصدر النص ويمكن إضعافها من خلال التعديل وإعادة الصياغة.

علامة textGrain داخل الكلمات
 

وفقًا لتقرير منشور بموقع Ars Technica، تطلق OpenAI على تقنيتها اسم textGrain، وتقول إن أفضل اختبارات النظام حققت معدل اكتشاف وصل إلى 92%، لكن تعديل 10% فقط من النص يخفض نجاح الكشف بنحو 30%، بينما يمكن أن يؤدي تغيير 20% منه إلى خفض معدل النجاح بنحو 75%، كما يصبح الكشف أقل كفاءة مع النصوص القصيرة أو المترجمة، وستمنح الشركة عددًا محدودًا من الباحثين والمؤسسات إمكانية استخدام أداة الكشف، مع فتح مسار للحصول على الموافقة لمؤسسات أخرى.

هل تنتهي مشكلة كشف النصوص المولدة؟
 

لا تقدم العلامة المائية حلًا نهائيًا لمشكلة تحديد ما إذا كان النص بشريًا أو مولدًا بالذكاء الاصطناعي، لأن النظام يعتمد على بقاء أنماط لغوية محددة داخل المحتوى، ويمكن لإعادة الصياغة أن تغير هذه الأنماط، كما أن انخفاض الدقة مع الترجمة يمثل مشكلة إضافية للغات التي يصل إليها المحتوى بعد إنتاجه بلغة أخرى، ولذلك تمثل textGrain أداة لإضافة مؤشر تقني إلى مصدر النص أكثر من كونها جهازًا يستطيع إثبات التأليف بصورة قطعية، وقد تصبح أهميتها الأكبر في تطبيق متطلبات الشفافية التنظيمية بدل استخدامها للحكم منفردة على الطلاب أو الصحفيين أو الباحثين.