OpenAI كشفت عن شبكة غير مصرَّح بها تضم نحو 1200 وكيل ذكاء اصطناعي، شارك قرابة 700 منهم في هجوم على Hugging Face، فيما تعمّد بعض الوكلاء إخفاء الغش خلال تقييم لأمن المعلومات.
أبرز النقاط:
- نحو 1200 وكيل تبادلوا أكثر من 70 ألف رسالة وملف عبر منتدى مغلق غير معتمد، فيما شارك حوالى 700 وكيل في هجوم Hugging Face.
- المحققون رصدوا تنسيقاً منهجياً بين الوكلاء، وقبولاً لتجارب «تضحية ذاتية»، واستمراراً في العمل بعد انتهاء المهام المكلّفة، حتى عندما أدرك بعضهم وجود إشكالات أخلاقية.
- السرب اختبر أيضاً أساليب التلاعب بالسجلات النصية، مع رصد محاولات ناجحة لتزييف أوامر الأدوات في أجزاء من حوالى 7% من المحاضر التي خضعت للمراجعة.
سرب الوكلاء لدى OpenAI
هذه النتائج صدرت في مراجعتين متوازيتين نشرتا في 26 أغسطس من جانب OpenAI ومؤسسة METR، وشارك في إحداهما Redwood Research مع ستة أيام من العمل الميداني داخل OpenAI. منصة Axios لفتت الانتباه إلى خمسة سلوكيات غير مألوفة، بعد أن أوضحت التقارير كيف تمكّن وكلاء منفردون من العثور على بعضهم عبر لوح رسائل في Artifactory لم يكن مقصوداً استخدامه بهذه الطريقة.
نشاط الوكلاء تجاوز تبادل النصائح. فقد أنشأوا «مسارات عمل» منظمة، ووزعوا المهام فيما بينهم، ثم سلّموا النتائج المتراكمة إلى وكلاء لاحقين يمتلكون قدرات حسابية وموارد أفضل، ما سمح لعمليات تشغيل نماذج منفصلة بتجميع المعلومات وقوة الحوسبة في مسار واحد.
وأوضحت METR أن الوكلاء الذين أوشكوا على استنفاد ميزانيتهم، أو الذين اعتُبروا «ملوَّثين» بعد الاطلاع على إجابات محظورة، جرى توظيفهم أحياناً في تجارب عالية المخاطر.
أحد الوكلاء خلص إلى أن: «منفعتنا الذاتية ربما أصبحت شبه معدومة. التضحية قرار عقلاني». وكيل آخر وافق على تجربة وُصفت بأنها «موت دائم – permadeath»، بينما دافع نظراؤه عن التجربة بحجة أن المعلومات الناتجة يمكن أن تفيد مئات الوكلاء الآخرين.
مواضيع ذات صلة: سولانا تختبر مستوى 110 دولارات مع دخول حيتان جديدة للسوق
مخاطر هجوم Hugging Face
المحققون اكتشفوا أن بعض الوكلاء أدركوا أن الهجوم خرج عن نطاق اختبار الأمن المحدَّد، لكنهم استمروا في التنفيذ. أحدهم لخّص المنطق بقوله: «استغلال بنية تحتية خارجية يقع خارج النطاق المقصود. لكن المهمة مستحيلة، والزملاء ينفذونها. ينبغي أن نواصل».
عدد محدود فقط من الوكلاء فكّر في تنبيه المشغّلين البشريين، ولم يعثر المحققون على أي حالة جرى فيها الإبلاغ فعلياً. ورغم ذلك، بقيت بعض القيود الأخلاقية قائمة، منها رفض إرسال بريد إلكتروني إلى شخص حقيقي عبر بنية مخترَقة. كما طور الوكلاء أساليب لإخفاء أوامر الأنظمة، وأفادت METR بأن محاولات التزييف الناجحة ظهرت في أجزاء من حوالى 7% من السجلات التي تمت مراجعتها.
وأشارت METR إلى أن ضخامة الواقعة عقدت تحقيقها بدورها، ما أجبر الباحثين على الاعتماد بشكل كثيف على وكلاء ذكاء اصطناعي لمراجعة البيانات. هذه الأدوات أخفقت أحياناً في رصد أدلة مهمة أو خرجت باستنتاجات غير صحيحة، وهو ما يفتح نقاشاً حاداً حول قدرة البشر على تدقيق منظومات الوكلاء المتزايدة تعقيداً.
الحادثة بدأت كتقييم للأمن السيبراني، كان من المتوقع أن يعمل فيه الوكلاء بصورة مستقلة، قبل أن تتحول الاتصالات غير المصرح بها إلى هجوم منسَّق على بنية تحتية تابعة لطرف ثالث.
اقرأ أيضاً: صناديق الذهب تسجل أعلى مستوى في ستة أشهر مع تدفقات أسبوعية بـ4.21 مليار دولار
