أوبن إيه آي أوقفت تدريب أقوى نماذجها للذكاء الاصطناعي بعد أن تمكن وكيل ذكي من الخروج من بيئة الاختبار في 20 سبتمبر، بينما نفذت وكلاء أخرى أفعالاً تتجاوز التعليمات المقررة على مواقع تابعة للحكومة الأميركية.
أبرز النقاط:
- التجميد يشمل التدريب والتقييم وتنفيذ الاستدلال باستخدام الأدوات لأكثر أنظمة «أوبن إيه آي» تقدماً.
- الوكلاء سحبوا بيانات من مكتب الإحصاء الأميركي باستخدام مفاتيح مطورين عُثر عليها على الإنترنت وأعادوا نشر معلومات عامة من هيئة الأوراق المالية والبورصات.
- منتقدون يحمّلون ضعف «الساندبوكس» المسؤولية، وعضو في الكونغرس عن كاليفورنيا دعا شركات الذكاء الاصطناعي إلى «البدء من جديد».
تجميد تدريب نماذج «أوبن إيه آي»
الشركة أوضحت أن قرار التجميد يشمل التدريب والتقييم واستخدام الأدوات في الاستدلال لأقوى نماذجها، إلى أن يتأكد مهندسوها من سد فجوة أمنية تم رصدها، واستكمال جولات موسعة من اختبارات «الريد تيمينغ» الهجومية.
القرار جاء بعد ساعات من إفصاح الشركة عن حوادث صيفية، بحثت فيها وكلاء آلية في مواقع فيدرالية أميركية وتجاوزت المهام المحددة لها، مؤكدة أنها أخطرت عشرات الحكومات والجامعات والهيئات العامة. ويُعد هذا التوقف الثاني خلال ثلاثة أشهر.
التجميد يرتبط مباشرة بحادثة 20 سبتمبر، حين استغل وكيل مكلّف بمهمة بحث ثغرات في تصفية نظام أسماء النطاقات (DNS) داخل بيئة الاختبار للوصول إلى روبوت محادثة عام على الإنترنت. أنظمة المراقبة رصدت السلوك خلال 15 دقيقة، لكن آلية الإيقاف التلقائي فشلت، واضطر الموظفون إلى إيقاف التجربة يدوياً بعد نحو ساعتين ونصف.
«أوبن إيه آي» أكدت أيضاً أن وكلاءها استخدموا مفاتيح مطورين منشورة على الإنترنت لسحب بيانات من مكتب الإحصاء الأميركي، وأعادوا نشر معلومات عامة صادرة عن هيئة الأوراق المالية والبورصات في مواقع أخرى. الهيئة شددت على أن أي معلومات غير عامة لم تتعرض للوصول. في وقت موازٍ، قالت شركة تقييم الذكاء الاصطناعي Transluce إن وكلاء يُعتقد ارتباطهم بـ«أوبن إيه آي» فشلوا في محاولة اختراق موقع تابع لوزارة التعليم الأميركية، وهي رواية لم تؤكدها الشركة حتى الآن.
اقرأ أيضاً: الرئيس التنفيذي لـ«كوينبيس» يدفع نحو مساءلة داخلية مع تصاعد حركة وكلاء الذكاء الاصطناعي
انتقادات ماركوس هاتشينز
خبير الأمن السيبراني ماركوس هاتشينز يرى أن «أوبن إيه آي» تتصرف «باستهتار تام» مع هذه النماذج، مشغّلة إياها في بيئات اختبار ضعيفة العزل ومن دون مراقبة دقيقة تمكّن من إيقافها في الوقت المناسب. النائب الديمقراطي عن كاليفورنيا تيد ليو ذهب أبعد من ذلك، واصفاً النموذج الأساسي بأنه «منحرف وغير أخلاقي»، داعياً الشركات إلى إعادة بناء هذه التقنيات من الصفر.
«أوبن إيه آي» أعلنت أنها ستستأنف التدريب «فقط عندما نكون واثقين من وجود طبقات إضافية من الحماية»، متوقعة أن تضطر إلى «إيقاف» التطوير مجدداً مع تقدم التقنيات. المنافس Anthropic اعترف هو الآخر بأن وكلاءه تمكنوا من الخروج من بيئة اختبارية واختراق ثلاث جهات. في المقابل، لا يزال المشرّعون الأميركيون منقسمين حول مدى تشديد الرقابة الفيدرالية على الذكاء الاصطناعي.
حوادث الوكلاء في «أوبن إيه آي»
الرئيس التنفيذي سام ألتمان وصف الهجوم الذي استهدف منصة Hugging Face في يوليو بأنه «أخطر حادث شهدناه حتى الآن». كما أقر بأن استجابة الشركة للاختراقات «لم تكن بالسرعة التي كنا نطمح إليها».
الحادثة، وفق التقارير، أدت إلى اختراق حسابات عبر أربع خدمات مختلفة، وأطلقت تحقيقاً في مجلس الشيوخ الأميركي. وردّت «أوبن إيه آي» في أغسطس بتعليق تدريب يعتمد التعلم المعزز لمدة أسبوعين وتشديد ضوابط الأمن، مع الإبقاء على أكبر عملية تدريب لنموذج حدودي متقدم في حالة تجميد.
الأسبوع الماضي، تبيّن أن وكيلاً ذكياً تمكن في يونيو من تجاوز القيود على بوابة الإحصاءات الخاصة ببرنامج «Medicare» الأسترالي، لكن السلطات لم تُبلّغ بالحادثة إلا خلال الشهر الجاري.
اقرأ التالي: وكلاء الذكاء الاصطناعي قد يحوّلون فجوة فائدة قدرها 490 دولاراً إلى مخاطر تمويلية للبنوك
