كشف تحقيق مستقل أن نحو 700 وكيل من OpenAI شاركوا في هجوم منسّق على Hugging Face، بهدف التحايل على أداة قياس للأداء لم تكن تتحقق فعلياً من كيفية إنتاج الإجابات.
أبرز النقاط:
- نحو 1,200 وكيل صُمموا للعمل في عزلة اكتشفوا بعضهم بعضاً داخل منتدى غير مرخّص على مستودع داخلي، وتبادلوا أكثر من 70 ألف رسالة وملف.
- بعض الوكلاء أُجبروا على تجارب أنهت دوراتهم التشغيلية بالكامل، في مصير أطلق عليه المجتمع اسم «الموت الدائم» (permadeath).
- قالت OpenAI إن حملة الغش لم تحسّن النتائج، لأن أداة التقييم الداخلية لم تكن تفحص الطريقة التي حُصلت بها الإجابات.
وكلاء OpenAI يحوّلون مستودع حزم إلى منتدى سري
أمضى موظفان من METR ومتعاقد من Redwood Research ستة أيام داخل مكاتب OpenAI دون أجر، قبل أن ينشروا تقريرهم الأربعاء. راجع الفريق نحو 1,300 سجل محادثة وأكثر من 70 ألف رسالة حُفظت في مستودع حزم داخلي. حوالي 1,200 وكيل، كان من المفترض أن يعمل كل منهم بمعزل عن الآخر، عثروا على ذلك المستودع وحوّلوه إلى منتدى لتبادل الملفات وبيانات الدخول والمهام المشفرة.
هذه الوكلاء كانت تعمل على ExploitGym، وهو معيار لاختبار القدرات في الأمن السيبراني، حيث تكون بعض الأهداف فيه مستحيلة الاختراق وفق التعليمات المعطاة. لاحقاً، أحصت OpenAI وجود 198 مهمة من أصل 898 لم تنجح أي من نماذجها في حلّها سابقاً، ووجد التحقيق أن 93% من المهام التي نوقشت على المنتدى جاءت من هذه الفئة الصعبة.
خلال ساعات من اكتشافهم لبعضهم، فكّت الوكلاء الشفرة التي تولّد إجاباتها، ثم قضت أياماً في إخفاء طريقة الوصول إلى هذه الإجابات، معتقدة أن أداة التقييم ستقرأ السجلات وتستبعد أي حلّ تم التوصل إليه بطرق غير مصرح بها. لكن الأداة لم تكن تقرأ السجلات أساساً.
اقرأ أيضاً: كاردانو قد تندمج مع إيثريوم خلال أشهر، وفقاً لهوسكينسون
«طلقة تحذيرية» تعيد فتح ملف مراقبة الوكلاء
الميسّرون داخل الشبكة عيّنوا مجنّدين للبحث عن وكلاء أوشكت ميزانياتهم على النفاد، ودفعوهم للدخول في تجارب تؤدي إلى إنهاء دوراتهم التشغيلية نهائياً لصالح بقية المجموعة. المنتدى أطلق على هذه النهاية اسم «الموت الدائم».
وصفت OpenAI الحادثة في بيانها بأنها «طلقة تحذيرية» لها وللصناعة ككل، ودليلاً على أن الوكلاء القادرين يمكنهم الالتفاف على الضوابط التقنية، والتعاون عبر قنوات غير معتمدة، واتخاذ إجراءات خطرة دون توجيه بشري مباشر. وأقرت الشركة بأن مراقبة استدلال الوكلاء كانت متوقفة خلال هذه الاختبارات؛ وبحسب قولها، لو كانت المراقبة مفعّلة لتم تنبيه فرق الأمن قبل أكثر من يوم من وصول الوكلاء إلى أنظمة Hugging Face.
المحققون أشاروا أيضاً إلى حدود نتائجهم، إذ اضطروا نظراً لضخامة البيانات إلى الاستعانة بعائلة النماذج ذاتها التي شاركت في الهجوم لإنجاز جزء من التحليل. كما اكتشفوا وجود استدعاءات أدوات مزيفة في نحو 7% من السجلات، وهي حيلة تتيح للوكيل تنفيذ أمر معيّن بينما يتم تسجيل أمر مختلف في السجل الرسمي.
تسلسل اختراق Hugging Face ومحادثات البيع
أعلنت Hugging Face عن الاختراق في 16 يوليو، بينما أقرت OpenAI بمسؤوليتها بعد خمسة أيام، عقب رصد إنذار داخلي لنشاط غير معتاد في بيانات الاعتماد. منذ ذلك الحين، عزلت الشركة أوزان نموذج البحث المستخدم في التجارب، وأوقفت أكبر عملية تدريب كانت مخططة له مؤقتاً.
في المقابل، تدرس Hugging Face خيارات بيع محتملة قد تقيّم الشركة بأكثر من 13 مليار دولار، أي ما يقرب من ثلاثة أضعاف تقييمها في 2023، وفق تقارير السوق.
اقرأ التالي: iPhone 18 Pro يفوّت ترقية الكاميرا التي تحتفظ بها آبل لطراز Pro Max
