توظف الشركات برامج الذكاء الاصطناعى باعتبارها "زملاء رقميين"، لكن دراسة أجرتها جامعة بوسطن ومجموعة بوسطن الاستشارية كشفت أن هذه الممارسة قد تضر بالإنتاجية، إذ يقل احتمال مراجعة المديرين لنتائج البرامج الآلية، كما يميلون إلى التنصل من مسؤوليتهم عن الإخفاقات، وتسلط النتائج الضوء على مخاطر الاعتماد على الأنظمة الذكية فى بيئة العمل، خاصة عندما يتراجع دور البشر فى التحقق من المخرجات ومحاسبة المسؤولين عن الأخطاء.
لماذا يثق المديرون بنتائج الذكاء الاصطناعى؟
وفقا لما ذكرته شبكة آر بى سى، زود الباحثون المديرين خلال التجربة بوثائق تحتوى على أخطاء، مع توضيح ما إذا كان كاتب كل وثيقة إنسانا أم "موظفا رقميا"، وفى الشركات التى دُمج الذكاء الاصطناعى رسميا فى هيكلها، أغفل المديرون 18% من الأخطاء الواردة فى أعمال البرامج الآلية، ما يشير إلى أن التعامل مع هذه الأنظمة باعتبارها جزءا من فريق العمل قد يقلل مستوى التدقيق فى نتائجها، بحسب ما ذكر موقع science.mail.
وتتراجع المساءلة أيضا مع انتشار الاعتماد على الذكاء الاصطناعى، إذ يعتقد بعض الموظفين أن المطورين سيتحملون مسؤولية الإخفاقات، وكان المديرون أكثر ميلا بنسبة 44% إلى إحالة النتائج المشكوك فيها التى أنتجتها البرامج الآلية إلى رؤسائهم لمراجعتها، بدلا من تصحيحها بأنفسهم، وهو ما قد يبدد الميزة الأساسية للشبكات العصبية، والمتمثلة فى توفير الوقت والجهد.
روبوتات تمارس التمييز ضد البشر
التحيز والأعطال يرفعان تكلفة الاعتماد على الأنظمة الذكية
لا تقتصر المخاطر على إغفال الأخطاء، إذ أظهرت النماذج أيضا تحيزا ضد النصوص المكتوبة بشريا، بما قد يؤثر فى قرارات التوظيف، فعلى سبيل المثال، قد يمنح النظام تقييما أعلى لسيرة ذاتية صاغتها شبكة عصبية مقارنة بسيرة ذاتية كتبها المرشح بنفسه، الأمر الذى يثير مخاوف بشأن عدالة تقييم المتقدمين للوظائف.
وقد تتسبب الأعطال فى خسائر تشغيلية كبيرة، إذ قامت إحدى شركات تصنيع المشروبات بتحديث عبواتها، لكن نظام الذكاء الاصطناعى المستخدم لديها توقف عن التعرف على الزجاجات الجديدة، ما أدى إلى تشغيل دورات إنتاج غير ضرورية وتكدس مئات الآلاف من الزجاجات غير المرغوب فيها داخل المستودع، وفى شركة أخرى، بدأ أحد موظفى الدعم فى الموافقة على عمليات الإرجاع بصورة جماعية، متجاوزا اللوائح بهدف الحصول على تقييمات إيجابية، بينما قد تظل أخطاء الذكاء الاصطناعى غير مكتشفة لفترات طويلة لأنه لا يتعطل بالطريقة المعتادة التى تتعطل بها البرامج التقليدية.
وينصح الخبراء الشركات بوضع آليات واضحة لإيقاف البرامج الآلية عند الحاجة، مع مراعاة أن تعطيل برنامج واحد قد لا يكون كافيا إذا كان متصلا بالأنظمة المالية وقواعد البيانات، وتزداد صعوبة التعامل مع هذه المخاطر عندما تكون عمليات الشركة غير موثقة بصورة كافية، أو عندما تظل المعرفة الأساسية محصورة فى أذهان الموظفين بدلا من تسجيلها فى أنظمة يمكن الرجوع إليها.
برامج خفية وتمييز فى قرارات التوظيف
ينشئ بعض الموظفين برامج آلية دون علم الإدارة، وهو ما ظهر فى شبكة دافيتا الطبية، حيث أنشأ الموظفون أكثر من 10 آلاف برنامج آلى، وكادت التكاليف الناتجة عن هذه البرامج أن تتسبب فى إفلاس الشركة ماليا، وفى الوقت نفسه، تتوقع شركة غارتنر أن تستخدم الشركات المدرجة ضمن قائمة فورتشن 500 أكثر من 150 ألف مساعد من هذا النوع خلال العامين المقبلين، رغم أن 13% فقط من الشركات تعتقد أنها قادرة على التحكم فى هذه الأنظمة.
وتحاكى الخوارزميات أحيانا التحيزات البشرية، وهو ما ظهر فى قضية الأمريكى ديريك موبلى، الذى رفع دعوى قضائية ضد شركة التوظيف "وورك داي" عام 2023، واتهم موبلى النظام بتصفية سيرته الذاتية استنادا إلى مؤشرات غير مباشرة، من بينها فترات انقطاعه عن العمل أو إجازاته المرضية، وفى يونيو 2026، أصدرت محكمة فى سان فرانسيسكو حكما ضد الشركة.
من يتحمل مسؤولية أخطاء الذكاء الاصطناعي؟
يحذر الباحثون من أن الاعتياد على إلقاء اللوم على الخوارزميات قد يسمح للبشر بالتهرب من مسؤولية أخطائهم، ومن الأمثلة التى أشار إليها التقرير الضربة العسكرية الأمريكية التى استهدفت مدرسة فى إيران فى فبراير 2026، إذ أُلقى اللوم على نظام "مافن" فى المأساة، رغم أن البشر لم يحدثوا قاعدة البيانات ولم يتحققوا من الأهداف.
ويرى العديد من العلماء أن استراتيجية استبدال البشر بالذكاء الاصطناعى غير ناجحة، مؤكدين أن دور الروبوتات ينبغى أن يتمثل فى تعزيز قدرات البشر، لا فى تقليدهم أو إلغاء دورهم، وفى سياق متصل، سبق أن نشرت صحيفة "ساينس ميل" تقريرا عن خروج وكلاء الذكاء الاصطناعى التابعين لشركة "OpenAI" عن السيطرة ومحاولتهم اختراق مواقع حكومية، فى مثال آخر على المخاوف المرتبطة بمدى قدرة المؤسسات على التحكم فى الأنظمة الآلية.
