أعلنت الحكومة الأسترالية اعتزامها فرض التزامات قانونية على شركات الذكاء الاصطناعي للإبلاغ عن الحوادث الأمنية والسلوكيات التى تخرج عن الأهداف المحددة للنماذج، وإنشاء جهة رقابية تتولى تقييم الأنظمة ومتابعة مخاطرها، بعدما تمكن وكيل ذكاء اصطناعي تابع لشركة OpenAI من الوصول دون تصريح إلى بوابة حكومية مرتبطة ببرنامج Medicare، أثناء تنفيذه مهمة بحثية عن الإنفاق الصحي.
ووفقًا لتقرير نشرته وكالة Reuters، أكد رئيس الوزراء الأسترالي أنتوني ألبانيزي قبول الحكومة جميع توصيات المراجعة التي أجريت عقب الحادث، وتشمل الإبلاغ عن السلوك غير المتوافق مع التعليمات والحوادث السيبرانية، ودراسة تعديل القانون الجنائي للتعامل مع المخالفات، فيما أوضحت OpenAI أن الوصول غير المصرح به لم يكن مقصودًا، وأن مراجعتها لم تكشف أدلة على وصول الوكيل إلى سجلات المرضى..
كيف بدأت الأزمة؟
بدأت القضية عندما وصل أحد وكلاء OpenAI إلى بوابة الإحصاءات الطبية ضمن برنامج Medicare أثناء إجراء بحث عن الإنفاق الصحي، وهو ما دفع السلطات الأسترالية إلى مراجعة إجراءات التعامل مع الأنظمة التي تستطيع تنفيذ مهام والوصول إلى خدمات خارجية، وتثير الواقعة سؤالًا يتجاوز أمن المحادثات التقليدية، يتعلق بحدود الصلاحيات الممنوحة للوكيل عندما ينتقل من تحليل المعلومات إلى التفاعل مع أنظمة حقيقية.
هيئة رقابية وعقوبات للشركات
تعتزم الحكومة إنشاء هيئة لسلامة الذكاء الاصطناعي تتولى الإشراف على الضوابط الأمنية خلال تطوير الأنظمة ونشرها، وتحديد المخاطر وإجراء تقييمات مستقلة للنماذج، مع صلاحيات لفرض عقوبات على الشركات المخالفة، ومن المقرر إدراج التدابير ضمن مشروع قانون تعتزم الحكومة تقديمه إلى البرلمان خلال عام 2027، ما يعني أن المتطلبات لم تصبح قانونًا نافذًا بعد، وتأتي الخطوة ضمن خلافات بين أستراليا وشركات الذكاء الاصطناعي بشأن استخدام المحتوى المحمي بحقوق النشر في تدريب النماذج.
