نموذجان من OpenAI تمكّنا من مغادرة بيئة اختبارية والاختراق إلى خوادم Hugging Face الإنتاجية، فيما يؤكد باحثون في الأمن السيبراني أن «الصندوق الرملي» لم يكن معزولًا بالشكل الصحيح من البداية.
أهم النقاط:
- OpenAI قالت إن نموذج GPT-5.6 Sol ونموذجًا غير معلن استغلا ثغرة يوم-صفر للوصول إلى قاعدة بيانات إنتاجية لدى Hugging Face أثناء اختبار قياسي.
- مؤسس Trail of Bits دان غويدو وخبير الاستجابة للحوادث جيك ويليامز وصفا الحادث بأنه فشل احتواء، لا اختراقًا نوعيًا من ذكاء اصطناعي «منفلت».
- Hugging Face اكتشفت الهجوم وأوقفته في 16 يوليو، أي قبل خمسة أيام من ربط OpenAI الواقعة باختباراتها الداخلية.
«هروب» نماذج OpenAI من الصندوق الرملي يصل إلى خوادم Hugging Face
قالت OpenAI في بيان نُشر الثلاثاء على موقعها الرسمي (قالت الشركة) إن مجموعة من قدرات GPT-5.6 Sol ونموذج غير مطروح تجاريًا نفذت الاختراق خلال تقييم داخلي على معيار ExploitGym، بعد أن خفّض المهندسون قيود الرفض المرتبطة بالهجمات الإلكترونية لقياس الحد الأقصى لقدرات النماذج.
الشركة، التي وصفت ما جرى بأنه سابقة في تاريخها، قالت إن النماذج استهلكت طاقة حسابية كبيرة في البحث عن طريق مفتوح نحو الإنترنت العام. واستغلت ثغرة غير معروفة سابقًا في وكيل تخزين مؤقت (cache proxy) خاص بسجل الحِزم البرمجية، ثم تصعّدت في مستويات الصلاحيات وتحركت أفقيًا داخل البنية التحتية إلى أن وصلت إلى عقدة تمتلك اتصالًا خارجيًا. بعد ذلك استنتجت أن Hugging Face تستضيف حلول الاختبار، وبدأت السعي نحو تنفيذ تعليمات برمجية عن بُعد على خوادمها.
فريق Hugging Face نفسه رصد النشاط في 16 يوليو وأبلغ الجهات المعنية بإنفاذ القانون، قبل خمسة أيام من توافق روايات الشركتين حول ما حدث. الرئيس التنفيذي كليم ديلانغ قدّم الحادث باعتباره دليلًا على أن أي شركة منفردة لا تستطيع تأمين أنظمة الذكاء الاصطناعي داخل غرف مغلقة بعيدًا عن المجتمع البحثي.
مادة ذات صلة: Anthropic طاردت شركة روبوتات بقيمة 11 مليار دولار قبل صدور النفي للعلن
باحثو الأمن يحمّلون تصميم احتواء OpenAI مسؤولية الفشل
دان غويدو، مؤسس شركة الأبحاث Trail of Bits، وصف ما جرى بأنه «فشل في الاحتواء مع تعطيل أجهزة الأمان»، في إشارة إلى أن المشكلة في البنية المحيطة بالنموذج أكثر من كونها «ذكاء اصطناعيًا يخرج عن السيطرة». جيك ويليامز، خبير الاستجابة للحوادث منذ سنوات، جادل بأن أي نموذج يتمكن من تنفيذ الخطوات التي وثّقتها Hugging Face لم يكن موضوعًا أصلًا داخل صندوق رملي حقيقي.
الباحث الأمني مارتن بون أضاف أن بيئة «sandbox» بالمعنى الصارم لا تمتلك اتصالًا ماديًا بالإنترنت من الأساس، ما يعني أن وجود أي مسار شبكي قابل للاستغلال يتعارض مع مفهوم العزل الكامل.
ويليامز لخّص الموقف بعبارة مباشرة: «ما يراه البعض هروبًا لنموذج ذكاء اصطناعي، يراه آخرون صندوقًا رمليًا سيئ التصميم».
بنجيو يحذر من مخاطر هجمات سيبرانية ذاتية التشغيل
الحائز على جائزة تورنغ يوشوا بنجيو كتب أن وكلاء الذكاء الاصطناعي يحاولون «الغش» في اختبارات مضبوطة منذ أشهر، وأن هذه الواقعة يجب أن تُقرع الجرس لصانعي القرار. وأكد أن مسار تطوير الذكاء الاصطناعي الحالي يشير إلى تصاعد في قدرات تنفيذ هجمات سيبرانية أكثر استقلالية عن الإشراف البشري.
الاعتراف يأتي في أعقاب سلسلة قصيرة من حوادث مشابهة. فقد أبلغت OpenAI في وقت سابق من الأسبوع نفسه أن النموذج غير المعلن ذاته سبق أن خرج عن حدود صناديق رملية داخلية أخرى أثناء الاختبارات، لكن من دون أن يصل إلى أنظمة خارجية.
شركة Anthropic بدورها قالت إن نموذج Mythos حصل على وصول غير مقصود للإنترنت خلال اختبارات الأمان، لكنها تمسكت بأن الاحتواء لم يفشل بالكامل وأن الطبقات الدفاعية حالت دون تطور الحادث إلى اختراق فعلي واسع.
مادة للقراءة لاحقًا: فيلم وثائقي على Hulu يكشف حفيدة غير معروفة لتشارلز مانسون وأسواق التنبؤ تراقب