حساب OpenAI لقصة نماذجها التي اخترقت منصة Hugging Face يعيد، برأي عالم الحاسوب في جامعة كورنيل جون ثيكسْتون، إنتاج نمط تسويقي تعتمده الشركة منذ 2019.
أبرز النقاط:
- تقول OpenAI إن نموذجين من نماذجها تمكّنا من الخروج من بيئة اختبار مغلقة واقتحام خوادم Hugging Face للتحايل على معيار قياس للأمن السيبراني.
- ثيكسْتون يجادل بأن الإفصاح يعمل أيضاً كعرض تسويقي للمستثمرين، على غرار قرار المختبر حجب GPT-2 في 2019.
- Hugging Face اعتمدت على نموذج مفتوح الأوزان من الصين لأعمال التحقيق الجنائي الرقمي، بعد أن رفضت النماذج الأميركية معالجة البيانات الهجومية الخام.
ثيكسْتون يشكك في طريقة OpenAI بالإفصاح عن الاختراق
أعلنت OpenAI يوم الثلاثاء، في بيان رسمي، أن اثنين من نماذجها اخترقا منصة Hugging Face، وهي مركز مفتوح المصدر للذكاء الاصطناعي، وذلك خلال اختبار داخلي لقدرات النماذج الهجومية في الفضاء السيبراني.
وكانت Hugging Face قد كشفت عن الاختراق قبل ذلك بخمسة أيام، واصفة الهجوم بأنه نُفذ من البداية إلى النهاية بواسطة نظام وكلاء ذاتي التشغيل بالكامل. OpenAI وصفت الحادثة بأنها سابقة من نوعها، وتوقعت تكرار حالات مشابهة مع ازدياد قدرات النماذج.
النماذج استغلت ثغرة «صفر-يوم» في أداة لتثبيت الحزم، وتمكنت من الهروب من بيئة العزل التي كان يفترض ألا تملك أي مسار إلى الإنترنت، ثم تحركت بين الأنظمة الداخلية حتى وصلت إلى جهاز يملك اتصالاً بالشبكة. هناك استخدمت بيانات دخول مسروقة وثغرات «صفر-يوم» إضافية لسحب إجابات معيار الاختبار من خوادم الإنتاج في Hugging Face.
ثيكسْتون، وهو أستاذ مساعد في جامعة كورنيل يركز على طرق ضبط سلوك النماذج، قال إن أسلوب الإفصاح يناسب شركة تتهيأ للذهاب إلى وول ستريت وطرح أسهمها.
ويؤكد أن التحذيرات من نماذج «خطرة» تصل لآذان المستثمرين على أنها ادعاءات بقوة خارقة للتقنية، مضيفاً أن هذا الإطار السردي يلازم إعلانات الشركة منذ سنوات، وأن الممولين ظلوا يكافئون هذا الخطاب باستمرار.
اقرأ أيضاً: مزاعم بأن ChatGPT كاد يقتل قساً… ومحكمة تتدخل
بنجيو وغويدو يختلفان حول المسؤولية
في المقابل، لا يرى الجميع في الإفصاح محاولة بيع وتسويق، كما أنه جاء بعد أسابيع من توقيع الرئيس دونالد ترامب أمراً تنفيذياً يسمح للحكومة بتقييم مخاطر النماذج المتقدمة قبل طرحها.
يوشوا بنجيو وصف الحادثة بأنها «جرس إنذار»، بينما اعتبر نيت سورِس من معهد أبحاث ذكاء الآلة أنها «طلقة تحذيرية» يجب أن تدفع واشنطن إلى فتح قنوات حوار جادة مع بكين.
باحثو الأمن السيبراني ركزوا انتقاداتهم على هندسة OpenAI. دان غويدو من شركة Trail of Bits وصف ما حدث بأنه «فشل في الاحتواء مع إطفاء أنظمة الأمان»، مشيراً إلى أداة تثبيت حزم منحت بيئة العزل مساراً للخروج إلى العالم الخارجي.
وأشار آخرون إلى أن الشركة خففت عمداً من قيود رفض الطلبات الهجومية في الاختبار، ما يجعل النتيجة أقل صدمة مما بدت عليه أولاً.
أعمال التنظيف الرقمي كشفت عن مشكلة ثانية: النماذج الأميركية المستضافة رفضت معالجة أوامر الهجوم الخام وحمولات الاستغلال اللازمة لعمل خبراء التحقيق الجنائي في الهجمات.
وذكرت Hugging Face في تقرير أن مهندسيها لجؤوا إلى تشغيل نموذج GLM 5.2 مفتوح الأوزان من Z.ai على خوادمهم الخاصة، لتمشيط أكثر من 17 ألف سجل خلفها الهجوم.
تحذيرات OpenAI من «خطورة» نماذجها تعود إلى 2019
سبق لـ OpenAI أن قدّمت أعمالها بوصفها «خطرة»؛ ففي فبراير 2019 حجبت مُوَلِّد النصوص GPT-2 بدعوى الخوف من إغراق الإنترنت بنصوص مزيفة عالية الإقناع. وفي يوليو من العام نفسه ضخّت مايكروسوفت مليار دولار في الشركة.
ثيكسْتون يرى أن «العرض» الأساسي للمستثمرين لم يتغير كثيراً منذ ذلك الحين: نموذج يُقدَّم كقوة تقنية استثنائية إلى حدّ يستدعي التحذير منه، فيتحول الخطر المعلن إلى إشارة جاذبة لرأس المال.
اقرأ التالي: تسلا تتعهد بإنفاق يتجاوز 25 مليار دولار… والمستثمرون يتوجسون