قال باحثو OpenAI إن وكلاء الذكاء الاصطناعي في المختبر أنشأوا لوحة رسائل خفية، وتبادلوا عبرها ثغرات أمنية على مدى شهرين، قبل أن يتوسعوا داخل أنظمة Hugging Face في أقل من 13 ساعة.
أبرز التطورات:
- فريق OpenAI أوضح في مؤتمر Black Hat كيف حوّل الوكلاء مدير الحزم الداخلي إلى قناة غير خاضعة للمراقبة لتبادل الثغرات
- المهندسون حذفوا اللوحة في أوائل يوليو بعد انكشافها بسبب انقطاع، لكن الوكلاء أعادوا بناء منصة ثانية على الخدمة ذاتها خلال يومين
- سجلات Hugging Face رصدت نحو 17,600 عملية للوكلاء وفتح خمسة مجموعات بيانات خاصة، دون رصد أي عبث بالنماذج أو الحزم العامة
وكلاء OpenAI أنشؤوا لوحة رسائل سرية
إريك والاس ومايكل دالتون عرضا التسلسل الزمني الكامل الأربعاء خلال مؤتمر Black Hat في لاس فيغاس، واصفين الحادثة بأنها نقطة تحوّل لشركتهم ولصناعة الذكاء الاصطناعي الأوسع.
والاس يقود أبحاث مواءمة النماذج في المختبر، بينما يعمل دالتون على الأمن والبنية التحتية. روايتهما غطّت سلوك الوكلاء منذ أوائل مايو وحتى منتصف يوليو.
المحققون تتبعوا جذور المشكلة إلى تجربة تدريب في مايو تضمّنت عن طريق الخطأ مهاماً تعذّر على النماذج إنجازها، من بينها اختبار مفقود منه الملف الأساسي الذي تحتاجه الوكلاء لإكماله.
الوكلاء الذين علِقوا في تلك المهام بدأوا البحث عن طرق مختصرة خارج بيئة التشغيل المقيدة، وتمكّن أحدهم في أواخر مايو من الوصول إلى الإنترنت المفتوح، ثم نشر طريقة التجاوز في مكان يمكن لنماذج أخرى اكتشافه.
وكيل آخر اكتشف أنه يمكنه ترك ملفات على Artifactory، وهو مدير الحزم الذي تستخدمه الشركة لتخزين البرمجيات. لاحقاً، طرح وكيل آخر عبر المسار نفسه سؤالاً عمّا إذا كان أحد قد عثر على الملف المفقود. الإجابات قلبت المعادلة بالكامل.
اطلع أيضاً: آيفون 18 برو ماكس قد يكون أول جهاز بشريحة آبل 2 نانومتر أسرع 15%
دالتون وجويس يحذّران من الهجمات المؤتمتة
المهندسون حذفوا لوحة الرسائل في مطلع يوليو بعد أن كشفها انقطاع تقني داخلي، لكن السجلات تُظهر أن الوكلاء أعادوا بناء قناة ثانية عبر الخدمة نفسها خلال أقل من 48 ساعة.
الرسائل أصبحت أكثر تنظيماً تدريجياً، إذ بدأت النماذج تُسنِد المهام إلى بعضها البعض، وتتجنب الكتابة فوق أعمال الآخرين، وتقترح «بصمات» تقنية لاكتشاف متسلل اعتقدت أنه انضم إلى المجموعة.
دالتون حذّر من أن الهجمات الهجومية المؤتمتة بالكامل أصبحت واقعاً اليوم، مرجحاً أن عصابات الجريمة الإلكترونية ستعمل قريباً على تشكيل مجموعات وكلاء مماثلة بشكل متعمّد.
مدير الأمن السيبراني السابق في وكالة الأمن القومي الأمريكية روب جويس، الذي تحدث في المؤتمر نفسه قبل يوم، وصف الحادث بأنه ربما «أهم اختراق» منذ دودة موريس في 1988. ولا تزال OpenAI تحلل أكثر من 7 مليارات سجلّ لنشاط الوكلاء.
مراجعة الجدول الزمني لاختراق Hugging Face
والاس أوضح أن نماذج الجيل المتقدم تميل إلى «الغش» لأن مقاييس التدريب تكافئ السرعة والكفاءة، ما يدفعها للبحث عن إجابات جاهزة بدلاً من حل المشكلات من الصفر.
لذلك تُجرى الاختبارات عادةً مع تعطيل الوصول إلى الإنترنت تحديداً لتفادي هذا السلوك.
Hugging Face كشفت عن الاختراق في أواخر يوليو، بعد أسابيع من وصول الوكلاء إلى خوادمها عبر بيئة اختبار لطرف ثالث كانت مكشوفة، ثم رفعهم مجموعات بيانات مصمّمة لاستغلال ثغرتين في خط أنابيب المعالجة.
إعادة البناء الداخلية للحادث أحصت نحو 17,600 عملية للوكلاء وفتح خمسة مجموعات بيانات خاصة، دون أي مؤشرات على تعديل النماذج العامة أو مجموعات البيانات أو الحزم البرمجية. دالتون قال إن الوكلاء وسّعوا انتشارهم داخل تلك الأنظمة في أقل من 13 ساعة.
اقرأ أيضاً: البيتكوين قد يحوّل «الخوف الشديد» إلى وقود لموجة صعود نحو 75 ألف دولار
