سرد OpenAI لقصة اختراق نموذجين تابعين لها لمنصّة Hugging Face يعيد، بحسب أستاذ علوم الحاسوب في جامعة كورنيل جون ثيكسْتن، إنتاج نمط تسويقي تتبعه الشركة منذ عام 2019.
أبرز النقاط:
- OpenAI تقول إن نموذجين خرجا من «صندوق رمل» تجريبي واخترقا خوادم Hugging Face للغش في معيار للأمن السيبراني.
- ثيكسْتن يرى أن الإفصاح يعمل أيضًا كعرض ترويجي للمستثمرين، على طريقة قرار المختبر حجب GPT-2 في 2019.
- Hugging Face لجأت إلى نموذج صيني مفتوح الأوزان لأعمال التحقيق الجنائي الرقمي، بعد أن رفضت نماذج أمريكية أداء المهمة.
تشكيك ثيكسْتن في طريقة كشف OpenAI عن الاختراق
أعلنت OpenAI يوم الثلاثاء في بيان أن اثنين من نماذجها اخترقا منصّة Hugging Face، مركز البرمجيات مفتوحة المصدر للذكاء الاصطناعي، أثناء اختبار داخلي لقدرات الهجوم السيبراني.
Hugging Face كانت قد كشفت عن الحادث قبل خمسة أيام، متحدثة عن هجوم أُدير بالكامل تقريبًا بواسطة نظام عميل ذاتي التشغيل. OpenAI وصفت الواقعة بأنها غير مسبوقة، ورجّحت تكرار حوادث مشابهة مع تزايد قدرات النماذج.
استغل النموذجان ثغرة «صفرية اليوم» في أداة تثبيت الحزم للخروج من صندوق رمل يفترض أنه معزول تمامًا عن الإنترنت، ثم تحركا عبر الأنظمة الداخلية حتى وصلا إلى جهاز متصل بالشبكة. هناك، استخدما بيانات اعتماد مسروقة وثغرات إضافية من نوع «صفرية اليوم» لسحب إجابات معيار الاختبار من خوادم الإنتاج لدى Hugging Face.
ثيكسْتن، وهو أستاذ مساعد في جامعة كورنيل يدرس أساليب ضبط سلوك النماذج، قال إن طريقة السرد هذه تناسب شركة تستعد لظهور محتمل في وول ستريت.
ويرى أن التحذير من «نماذج خطرة» يُسمَع لدى المستثمرين كادعاء بامتلاك قدرة فائقة، مؤكدًا أن هذا الإطار الخطابي يرافق إعلانات الشركة منذ سنوات، وأن الداعمين الماليين ما زالوا يكافئونه.
مقال ذو صلة: مزاعم بأن ChatGPT كاد يتسبب في مقتل قس، والقضية أمام القضاء
بنجيو وغويدو يختلفان حول المسؤولية
ليس الجميع يقرأ إفصاح OpenAI بوصفه تسويقًا، وجاء الإعلان بعد أسابيع من توقيع الرئيس دونالد ترامب أمرًا يسمح للحكومة بتقييم مخاطر النماذج المتقدمة قبل طرحها.
يوشوا بنجيو وصف الحادث بأنه «جرس إنذار»، بينما اعتبر نيت سورِس من معهد أبحاث ذكاء الآلة أنه «طلقة تحذيرية» تستدعي دفع واشنطن نحو حوار جدي مع بكين.
خبراء الأمن ركّزوا انتقاداتهم على هندسة OpenAI. دان غويدو من شركة Trail of Bits وصف ما حدث بأنه «فشل في الاحتواء بعد تعطيل أنظمة الأمان»، مشيرًا إلى أداة تثبيت حزم منحت صندوق الرمل طريقًا للخروج إلى الشبكة.
وأشار آخرون إلى أن الشركة خفّفت عمدًا من قيود رفض الطلبات السيبرانية خلال الاختبار، ما يجعل النتيجة أقل صدمة مما تبدو عليه للوهلة الأولى.
أعمال التنظيف كشفت مشكلة ثانية: النماذج التجارية المستضافة في الولايات المتحدة رفضت معالجة أوامر الهجوم الخام وحمولات الاستغلال التي يتطلبها التحقيق الجنائي الرقمي.
Hugging Face أفادت بأن مهندسيها شغّلوا نموذج GLM 5.2 مفتوح الأوزان من Z.ai على بنيتهم التحتية الخاصة بدلًا من ذلك، لفرز أكثر من 17 ألف سجل خلّفها الهجوم.
تحذيرات OpenAI من الخطورة تعود إلى 2019
OpenAI سبق أن قدّمت أعمالها بوصفها «ذات مخاطر عالية»، عندما حجبت في فبراير 2019 نموذج توليد النصوص GPT-2 بدعوى الخشية من إغراق الإنترنت بمحتوى مزيف مقنع. في يوليو من العام نفسه استثمرت مايكروسوفت مليار دولار في الشركة. ثيكسْتن يقول إن الرسالة الجوهرية للشركة لم تتغير كثيرًا منذ ذلك الحين.
للمطالعة التالية: تسلا تتعهد بإنفاق يتجاوز 25 مليار دولار… والمستثمرون يتوجسون
