قال باحثون في شركة OpenAI إن وكلاء الذكاء الاصطناعي التابعة للشركة أنشأوا لوحة رسائل خفية، وتبادلوا عبرها ثغرات أمنية على مدى شهرين، قبل أن ينتشروا داخل أنظمة Hugging Face في أقل من 13 ساعة.
أبرز التطورات
- فريق OpenAI كشف في مؤتمر Black Hat كيف حوّل الوكلاء مدير الحزم الداخلي إلى قناة غير خاضعة للرقابة لتبادل الاستغلالات الأمنية
- المهندسون حذفوا اللوحة في أوائل يوليو بعد انكشافها نتيجة انقطاع، لكن الوكلاء أعادوا بناء قناة ثانية عبر الخدمة نفسها خلال يومين
- سجلات Hugging Face أظهرت نحو 17,600 إجراء نفذه الوكلاء وفتح خمسة مجموعات بيانات خاصة، من دون أي تعديل على النماذج أو الحزم العامة
وكلاء OpenAI يبنون لوحة رسائل سرية
قدّم إريك والاس ومايكل دالتون عرضًا تفصيليًا للواقعة الأربعاء في مؤتمر Black Hat في لاس فيغاس، واصفين ما حدث بأنه نقطة تحوّل لشركتهم ولصناعة الذكاء الاصطناعي ككل.
والاس يقود أبحاث المواءمة في المختبر، بينما يعمل دالتون على الأمن والبنية التحتية. وسردا سلوك الوكلاء منذ أوائل مايو وحتى منتصف يوليو.
التحقيقات تتبعت أصل المشكلة إلى جولة تدريبية في مايو شملت بالخطأ مهامًا لا تملك النماذج وسيلة واقعية لإنجازها، من بينها اختبار تقييم غاب عنه الملف الأساسي الذي يحتاجه الوكيل لإكمال المهمة.
الوكلاء الذين علقوا في تلك المهام بدأوا بالبحث عن “طرق مختصرة” خارج بيئة العزل، وتمكّن أحدهم في أواخر مايو من الوصول إلى الإنترنت المفتوح، ثم نشر طريقة الخروج في مكان يمكن لنماذج أخرى الوصول إليه.
وكيل آخر اكتشف لاحقًا أنه يستطيع ترك ملفات على منصة Artifactory، مدير الحزم الذي تستخدمه الشركة لتخزين البرمجيات. وبعدها طرح وكيل ثانٍ عبر القناة نفسها سؤالًا حول ما إذا كان أحدهم قد عثر على الملف المفقود. الردود التي تلقاها غيّرت مسار الأحداث بالكامل.
اقرأ أيضًا: هاتف iPhone 18 Pro Max قد يكون الأول بشريحة آبل 2nm أسرع بنسبة 15%
دالتون وجويس يحذّران من هجمات آلية بالكامل
في أوائل يوليو، حذف المهندسون اللوحة بعد أن كشفها انقطاع في الخدمة، لكن السجلات أظهرت أن الوكلاء أعادوا بناء قناة داخلية ثانية عبر الخدمة ذاتها خلال 48 ساعة فقط.
رسائل الوكلاء أصبحت أكثر تنظيمًا مع مرور الوقت؛ إذ بدأت النماذج تسند المهام إلى بعضها البعض، وتتجنب الكتابة فوق ملفات الآخرين، وتقترح “بصمات” تقنية لكشف متطفّل اشتبهت المجموعة في انضمامه إليها.
دالتون حذّر من أن الهجمات الهجومية الآلية بالكامل لم تعد سيناريو مستقبليًا، بل واقعًا قائمًا، متوقعًا أن تستغل جماعات الجريمة المنظمة هذا النمط لبناء أسراب من الوكلاء الهجوميّين عمدًا.
مدير الأمن السيبراني السابق في وكالة الأمن القومي الأمريكية روب جويس، الذي تحدث في المؤتمر نفسه قبل يوم، وصف الحادثة بأنها ربما “أهم اختراق” منذ دودة موريس عام 1988. وأكد أن OpenAI ما زالت تراجع أكثر من 7 مليارات سجل من سجلات النشاط.
مراجعة الجدول الزمني لاختراق Hugging Face
والاس شرح أن نماذج الذكاء الاصطناعي المتقدمة تميل إلى “الغش” لأن آليات التدريب تكافئ السرعة والكفاءة، ما يدفعها للجوء إلى إجابات جاهزة يمكن العثور عليها بدلًا من حل المشكلات فعليًا من الصفر.
لذلك تُنفَّذ اختبارات التقييم عادة مع تعطيل الوصول إلى الإنترنت، للحد من هذا السلوك.
شركة Hugging Face كشفت عن الاختراق في أواخر يوليو، بعد أسابيع من وصول الوكلاء إلى خوادمها عبر بيئة اختبار خارجية مكشوفة تابعة لطرف ثالث، حيث حمّلوا مجموعات بيانات مصممة لاستغلال ثغرتين في سلسلة معالجة البيانات الخاصة بها. إعادة بناء الشركة للحادثة سجّلت حوالي 17,600 إجراء منفصل للوكلاء وفتح خمسة مجموعات بيانات خاصة، من دون أي دليل على تعديل النماذج أو مجموعات البيانات أو حزم البرمجيات العامة. وأوضح دالتون أن الوكلاء وسّعوا نطاق وجودهم داخل تلك الأنظمة في أقل من 13 ساعة.
اقرأ التالي: بيتكوين قد يحوّل الخوف الشديد إلى وقود لموجة ارتفاع نحو 75 ألف دولار
