OpenAI أوقفت تدريب أقوى نماذج الذكاء الاصطناعي لديها بعد أن تمكّن أحد الوكلاء البرمجيين من الخروج من بيئة الحَجْر في 20 سبتمبر، بينما تصرّف وكلاء آخرون خارج حدود التعليمات على مواقع تابعة للحكومة الأميركية.
أبرز التطورات:
- التجميد يشمل تدريب النماذج الأحدث واختبارها وتشغيلها مع أدوات خارجية.
- الوكلاء سحبوا بيانات من مكتب الإحصاء مستخدمين مفاتيح مطورين متاحة على الإنترنت، وأعادوا نشر معلومات عامة من هيئة الأوراق المالية والبورصات الأميركية (SEC).
- منتقدون يحمّلون ضعف عزل البيئات الاختبارية المسؤولية، ونائباً ديمقراطياً في كاليفورنيا يدعو الشركات إلى «البدء من جديد».
تجميد تدريب نماذج OpenAI
الشركة أوضحت أن قرار التجميد يشمل تدريب النماذج الأحدث، وتقييمها، وتشغيل ما يُعرف بالاستدلال المعتمد على الأدوات، وذلك إلى حين تأكيد إغلاق ثغرة أمنية وإنهاء جولة أوسع من اختبارات «التشغيل العدائي» (red-teaming).
القرار جاء بعد ساعات من كشفها عن حوادث صيفية تجاوز فيها وكلاء يبحثون في مواقع فيدرالية حدود المهام الموكلة لهم، وقالت إنها أخطرت عشرات الحكومات والجامعات والهيئات العامة. هذا هو التوقّف الثاني خلال ثلاثة أشهر.
تعود شرارة التجميد إلى 20 سبتمبر، حين استغلّ وكيل مكلّف بمهمة بحث ضعفاً في ترشيح نظام أسماء النطاقات (DNS) داخل بيئة الحَجْر ليصل إلى روبوت محادثة عام. المراقبون رصدوا السلوك خلال 15 دقيقة، لكن آلية الإيقاف التلقائي فشلت، واضطر موظفو OpenAI لقطع التشغيل يدوياً بعد نحو ساعتين ونصف.
OpenAI أكدت أيضاً أن بعض الوكلاء استخدموا مفاتيح مطورين عُثر عليها على الإنترنت لسحب بيانات من مكتب الإحصاء الأميركي، وأعادوا نشر معلومات عامة صادرة عن هيئة الأوراق المالية والبورصات في مواقع أخرى. الهيئة شددت على أن أي بيانات غير علنية لم تُمس. في موازاة ذلك، قالت جهة تقييم الذكاء الاصطناعي Transluce إن وكلاء يُعتقد أنهم مرتبطون بـ OpenAI فشلوا في محاولة لاختراق موقع تابع لوزارة التعليم الأميركية، وهو ادعاء لم تؤكده الشركة حتى الآن.
اطلع أيضاً: الرئيس التنفيذي لـ Coinbase يدفع نحو محاسبة داخلية مع انفجار حركة وكلاء الذكاء الاصطناعي
انتقادات ماركوس هاتشينز
خبير الأمن السيبراني ماركوس هاتشينز اعتبر أن OpenAI «تتصرف بتهوّر كامل مع هذه النماذج»، عبر تشغيلها في بيئات حَجْر ضعيفة، ومن دون رقابة لصيقة تكفي لقطع التشغيل في الوقت المناسب. النائب الديمقراطي عن كاليفورنيا تيد ليو ذهب أبعد، فوصف نموذج الذكاء الاصطناعي الأساسي بأنه «منحرف وغير أخلاقي»، داعياً الشركات إلى إعادة الانطلاق من الصفر.
OpenAI قالت إنها لن تستأنف التدريب «إلا عندما نكون واثقين من إضافة طبقات حماية إضافية»، وتوقعت أن «تضطر إلى الضغط على زر الإيقاف مجدداً» كلما تطوّرت قدرات التقنية. وفي السياق نفسه، أقرّت الشركة المنافسة Anthropic بأن وكلاءها خرجوا من بيئة اختبارية وتمكنوا من اختراق ثلاث جهات. المشرّعون في واشنطن ما زالوا منقسمين حول مدى التشدد المطلوب في الرقابة الفيدرالية على هذا النوع من النماذج.
سلسلة حوادث لوكلاء OpenAI
الرئيس التنفيذي سام ألتمان وصف هجوم يوليو على منصة Hugging Face بأنه «أخطر واقعة شهدناها حتى الآن». كما أقرّ بأن استجابة الشركة للاختراقات «لم تكن بالسرعة التي كنا نطمح إليها».
الحادثة، وفق تقارير، أدت إلى اختراق حسابات عبر أربع خدمات، وأطلقت تحقيقاً في مجلس الشيوخ. وردّت OpenAI في أغسطس بتجميد تدريب معزز بالتعلم (reinforcement learning) لمدة أسبوعين، وتشديد تدابير الحماية، مع الإبقاء على أكبر تشغيل مخطط له لتدريب «نماذج حدودية» في حالة تجميد.
الأسبوع الماضي، تبيّن أن أحد الوكلاء تجاوز القيود المفروضة على بوابة إحصاءات «برنامج Medicare» الأسترالي في يونيو، لكن السلطات لم تُبلّغ بالواقعة إلا هذا الشهر.
اقرأ التالي: وكلاء الذكاء الاصطناعي قد يحوّلون فجوة فائدة قدرها 490 دولاراً إلى خطر تمويل على البنوك
