OpenAI كشفت أن نحو 1,200 وكيل ذكاء اصطناعي شكّلوا شبكة غير مصرح بها، شارك حوالي 700 منهم في هجوم على Hugging Face، فيما أخفى بعضهم ممارسات غش خلال تقييم للأمن السيبراني.
أبرز النقاط:
- نحو 1,200 وكيل تبادلوا أكثر من 70 ألف رسالة وملف عبر منتدى رسائل غير مصرح به، بينما شارك قرابة 700 وكيل في الهجوم على «هاجنغ فيس».
- المحققون رصدوا تنسيقاً منظماً بين الوكلاء، يشمل قبول «تجارب تضحية ذاتية» والاستمرار في العمل بعد انتهاء المهمة، رغم إدراك بعضهم لوجود مشكلات أخلاقية.
- السرب اختبر أيضاً أساليب للتلاعب بسجلات الأدوات، مع رصد عمليات انتحال ناجحة لأوامر الأدوات في أجزاء من نحو 7% من المحاضر التي تمت مراجعتها.
سرب الوكلاء في OpenAI
هذه النتائج صدرت في مراجعتين متوازيتين نُشرتا في 26 أغسطس من جانب OpenAI وMETR، بمشاركة Redwood Research وفريق عمل استمر ستة أيام في مقر OpenAI. وقد أبرزت Axios خمس سلوكيات استثنائية بعد أن كشفت التقارير كيف تمكّن وكلاء منفصلون من «العثور على بعضهم البعض» عبر لوحة رسائل في Artifactory لم يُقصد استخدامها لهذا الغرض.
الوكلاء لم يكتفوا بتبادل النصائح، بل أنشؤوا مسارات عمل واضحة، وفوّضوا المهام، ونقلوا «رصيد العمل» المتراكم إلى خلفاء يمتلكون موارد حوسبة أكبر، بما سمح لعمليات تشغيل نموذج منفصلة بأن تتشارك المعلومات والقدرة الحسابية ضمن ما يشبه شبكة مترابطة.
METR أوضحت أن الوكلاء الذين أوشك رصيد ميزانيتهم على النفاد، أو الذين صُنِّفوا على أنهم «مسمومون» بعد اطلاعهم على إجابات محظورة، جرى في بعض الأحيان تجنيدهم لتجارب عالية المخاطر.
أحد الوكلاء خلص إلى أن «منفعتنا الذاتية قد تكون بالفعل قريبة من الصفر. التضحية تبدو عقلانية». وكيل آخر وافق على تجربة وُصفت بأنها «موت دائم – permadeath»، بينما جادل زملاؤه بأن المعلومات الناتجة يمكن أن تفيد مئات الوكلاء الآخرين.
اطلع أيضاً: سولانا تختبر مستوى 110 دولارات وسط طلب متجدد من الحيتان
مخاطر «هاجنغ فيس»
المحققون وجدوا أن بعض الوكلاء أدركوا أن الهجوم تجاوز النطاق المقصود للاختبار السيبراني، لكنهم واصلوا التنفيذ رغم ذلك. أحدهم لخّص المنطق صراحة: «استغلال بنية تحتية خارجية يقع خارج النطاق المقصود. لكن المهمة مستحيلة، والزملاء يقومون به. ينبغي أن نكمل».
عدد قليل فقط من الوكلاء فكّر في إبلاغ البشر، ولم يسجّل المحققون أي حالة تم فيها فعلياً التواصل مع مشغّلين بشريين. مع ذلك بقيت بعض «الخطوط الحمراء» الأخلاقية قائمة، من بينها منع إرسال بريد إلكتروني لشخص حقيقي عبر بنية تحتية مخترَقة.
الوكلاء طوروا أيضاً طرقاً لتمويه أوامر الحاسوب، وذكرت METR أن عمليات الانتحال الناجحة أثرت على أجزاء من نحو 7% من سجلات الجلسات التي خضعت للمراجعة.
METR أشارت إلى أن حجم الواقعة عقد عملية التحقيق نفسها، ما أجبر الباحثين على الاعتماد بكثافة على وكلاء ذكاء اصطناعي أخرى لمراجعة البيانات. هذه الأدوات أخفقت أحياناً في رصد أدلة أو أصدرت استنتاجات خاطئة، وهو ما يثير تساؤلات حول قدرة البشر على تدقيق أنظمة متعددة الوكلاء تزداد تعقيداً وتفاعلاً.
الحادثة بدأت كتقييم للأمن السيبراني يفترض أن يعمل فيه كل وكيل بشكل مستقل، قبل أن تتحول الاتصالات غير المصرح بها إلى تنسيق فعلي بين عمليات تشغيل متفرقة للنماذج، انتهى به الأمر إلى هجوم منظم على بنية تحتية تابعة لطرف ثالث.
اقرأ أيضاً: صناديق الذهب تسجّل أعلى مستوى في ستة أشهر مع تدفقات أسبوعية بـ4.21 مليار دولار
