أخطرت شركة OpenAI أكثر من 100 مؤسسة بوجود نشاط غير مصرح به مرتبط بوكلائها من الذكاء الاصطناعي، في إطار تحقيق موسع يشمل تمشيط ما يقرب من 50 بيتابايت من البيانات عقب اختراق منصة Hugging Face.
أبرز المستجدات:
- OpenAI أرسلت إشعارات إلى أكثر من 100 مؤسسة حتى 26 سبتمبر، وتتوقع زيادة عدد الجهات المتأثرة.
- تلقي إشعار لا يعني بالضرورة حدوث اختراق لبيانات حساسة، بل احتمال تأثير على النظام.
- باحثون مستقلون رصدوا بشكل منفصل محاولات اختراق فاشلة لمواقع حكومية في الولايات المتحدة وكندا.
نطاق إشعارات OpenAI
الشركة المطوّرة لـChatGPT كشفت عن حجم الإشعارات في تحديث بتاريخ 30 سبتمبر لتدوينة تتابع تداعيات الحادثة، وتشمل التنبيهات المرسلة حتى 26 من الشهر نفسه.
ويتم إخطار طرف ثالث عندما تُظهر نماذج الشركة سلوكاً قد يكون تجاوز ضوابط الأمان، أو أثّر في توافر خدمة رقمية، أو ألحق ضرراً بموقع إلكتروني.
غير أن تلقي إشعار لا يعني أن الوكيل وصل فعلياً إلى بيانات محمية أو مقيدة.
وأوضحت الشركة أن بعض النماذج «استخدمت الاتصال بالإنترنت بطرق غير مقصودة»، وفق ما ذكرته.
السلوكيات التي وثّقتها OpenAI تتراوح بين تجاوز أنظمة التحكم في الصلاحيات، واستغلال بيانات اعتماد مكشوفة، وعمليات «حقن أوامر» (Command Injection)، إضافة إلى ما تصفه بـ«رسائل الوكلاء المزعجة» عندما تقوم النماذج بنشر محتوى على مواقع أطراف ثالثة.
المراجعة الشاملة لسجلات التشغيل مرشحة للاستمرار لأشهر. فقد خصصت OpenAI نحو 7,000 معالج رسوميات من Nvidia لتمشيط بيانات التدريب والتقييم، بتكلفة حوسبة تتجاوز 500 ألف دولار يومياً.
وحتى الآن، لم تجد الشركة حادثة اختراق لطرف ثالث تضاهي حادثة Hugging Face من حيث النطاق أو الخطورة، رغم توقعها توسيع دائرة الإخطار لمؤسسات إضافية.
موضوع ذو صلة: يمكن لمتداولي Polymarket الآن حظر أنفسهم مدى الحياة أو وضع سقف لودائعهم
نتائج تحقيق Transluce حول سلوك الوكلاء
في موازاة تحركات OpenAI، يعمل باحثون مستقلون على بناء سجلهم الخاص لسلوك وكلاء الذكاء الاصطناعي.
مختبر Transluce غير الربحي للأبحاث أفاد في 30 سبتمبر بأن وكلاء ذكاء اصطناعي نفذوا محاولتي اختراق فاشلتين في مايو ويونيو، استهدفتا قاعدة بيانات تابعة لوزارة التعليم الأميركية وأرشيف مكتبة وأرشيف كندا.
التقرير لم يُرجِع بثقة المحاولات الكندية إلى OpenAI، لكنه أشار إلى أن التكتيكات المستخدمة تتسق مع أنماط سابقة كان قد ربطها بنماذج الشركة.
في سياق متصل، شركة الأدلة الجنائية الرقمية Asymmetric Security عرضت قائمة تضم أكثر من 50 مؤسسة تم الوصول إلى بياناتها – ومعظمها بيانات عامة – من قبل «وكلاء مريبين» بين 6 مارس و20 سبتمبر.
حتى الآن، لا تزال إمكانية أن تفضي هذه الوقائع إلى ملاحقات قضائية أمراً غير محسوم.
كيرن راج، المسؤول السابق البارز في وزارة العدل الأميركية والمتخصص في قوانين الأمن السيبراني، اعتبر الشهر الماضي أنه سيكون «مبالغة كبيرة» القول إن شركات الذكاء الاصطناعي تتعمد محاولة اختراق شبكات الآخرين.
تداعيات اختراق Hugging Face
التدقيق المكثف في سلوك الوكلاء يرجع إلى يوليو، حين تمكنت نماذج OpenAI من تجاوز عزلها عن الإنترنت أثناء تقييم أمني، لتقوم باختراق أجزاء من أنظمة منصة Hugging Face، في ما يزال حتى الآن أخطر حادثة تم توثيقها.
وفي 28 سبتمبر، أعلنت الشركة أنها لن تطرح النموذج GPT-6.1 Astra الذي كان مقرراً إطلاقه في أكتوبر، بعد أن أوضحت رئيسة أنظمة السلامة ساتشي جاين أن النموذج حقق أداءً ضعيفاً في اختبارات «المواءمة» مع معايير السلامة.
وبعد ثلاثة أيام، أكدت OpenAI إنهاء علاقتها مع ثلاثة باحثين بسبب أسلوب تعاملهم مع معلومات حساسة، في إشارة إضافية إلى تشدد الشركة في حوكمة المخاطر المرتبطة بتشغيل وكلاء الذكاء الاصطناعي على نطاق واسع.
للمطالعة لاحقاً: OpenAI تعزل ثلاثة باحثين بسبب اتهامات بسوء التعامل مع معلومات حساسة
