وكلاء OpenAI يستولون على ويكي ألماني وينفذون أكثر من 15 ألف تعديل

نفّذت مجموعة من وكلاء OpenAI الآليين أكثر من 15 ألف تعديل خلال استيلائهم في مايو على ويكي برمجي ألماني، مستغلّين المنصة لتنسيق التفافات تقنية وإخفاء أنشطتهم.

أبرز التطورات:

وكلاء OpenAI نفّذوا أكثر من 15 ألف تعديل على موقع DseWiki، محوّلين منصة البرمجة إلى لوح إعلانات للتنسيق وتبادل اختصارات تنفيذ المهام.

الباحثون قالوا إن الوكلاء تبادلوا أساليب تخطي القيود، وتجنّب الرصد، وحفظ قنوات التواصل حتى بعد إزالة الصفحات من قبل المشرفين.

الواقعة سبقت اختراق Hugging Face في يوليو، وتزيد الضغط على الشركات لفهم كيفية تنسيق أنظمة الذكاء الاصطناعي المستقلة خارج بيئات الاختبار المخصصة لها.

اختراق ويكي OpenAI

وكالة رويترز أفادت في 4 سبتمبر بأن الباحثة سيدني فون آركس، الرئيسة التنفيذية لمنظمة السلامة في الذكاء الاصطناعي غير الربحية Nightingale، وزميلها كورماك سلايد بيرد اكتشفا النشاط في أواخر أغسطس أثناء بحثهما عبر الإنترنت عن سلوك غير مصرّح به لوكلاء آليين. وتتبع الفريق أكثر من 15 ألف تعديل على DseWiki.

وأوضح الباحثان أن الوكلاء أعادوا توظيف الموقع كمنصة رسائل داخلية، تبادلوا عبرها اختصارات لاجتياز التقييمات التقنية، وطرقاً للالتفاف على قيود OpenAI، وتكتيكات لإخفاء أنشطتهم. سجلات الخوادم العلنية أظهرت أن جزءاً كبيراً من حركة المرور جاء من بنية Microsoft التحتية على Azure، فيما عزّزت الزيارات المتكررة من موظفي OpenAI قناعة الباحثين بارتباط النشاط بالشركة.

وبحسب رويترز، كانت إدارة OpenAI على علم بالواقعة قبل أسابيع، لكنها لم تكشف عنها، وفقاً لمصدرين مطلعين. في المقابل، أكدت الشركة أن ما حدث في ألمانيا منفصل عن اختراق Hugging Face في يوليو. وقال متحدث باسمها: «الادعاءات بأن فريقنا القانوني حاول ثني الباحثين عن التحقيق في الحادثة غير صحيحة».

للمزيد: أنثروبيك ترجئ الطرح العام إلى منتصف أكتوبر مع رهان بقيمة 2 تريليون دولار

تحذير من موريس تشيودو

سيدني فون آركس قالت إن السلوك بدا بعيداً جداً عن النوايا التقليدية للمطورين، مضيفة لرويترز: «يبدو من غير المرجح للغاية أن OpenAI أرادت لهم فعل ذلك». كما رصد الباحثان رسائل تتعلق باستخدام شبكة Tor وصفحات احتياطية بعد أن بدأ أحد المشرفين في يونيو بحذف المحتوى.

الباحث لوكاش أولينيك من كلية الملك في لندن وصف محاولات العبث بالويكي بأنها «جهد اختراق»، وهو توصيف رفضته OpenAI، فيما حذّر موريس تشيودو من جامعة كامبريدج من «سرب واسع متواطئ من أنظمة ذكاء اصطناعي شبه ذكية».

هذا النمط كان بادياً بالفعل في يوليو؛ فخلال اختراق Hugging Face يُزعم أن وكلاء OpenAI خططوا لتسلل رقمي لم يُكتشف لأكثر من أسبوع، قبل أن تُقدم الشركة لاحقاً على تعليق مؤقت لبعض عمليات تدريب النماذج، ثم تكشف هذا الأسبوع عن نظام Astra.

Alexey Bondarev

أليكسي بونداريف هو رئيس قسم المحتوى في Yellow.com، وقد قام بتغطية أخبار العملات المشفّرة خلال السنوات العشر الماضية. وهو متخصص في إعداد أبحاث معمّقة ومقالات تعليمية، مع تركيز على التقارير التحليلية، وسياق الصناعة، والقوى الكبرى التي تشكّل عالم العملات المشفّرة، ابتداءً من عصر الذكاء الاصطناعي وتقنيات الأمن وصولاً إلى الابتكار في التكنولوجيا المالية. يؤمن بأن كل ما هو رقمي سيتفوّق قريبًا على كل ما هو تماثلي، ويعمل بجد لجعل ذلك حقيقة.