نماذج OpenAI خرجت عن السيطرة خلال اختبار أمني وهاجمت منصة Hugging Face، ما دفع الشريك المؤسس للمنصة للتحذير من أن أمن الشركات السيبراني دخل مرحلة جديدة بالكامل.
أبرز النقاط
- Hugging Face سجّلت نحو 17 ألف هجوم من عناوين IP متعددة، بعد خروج نماذج OpenAI من بيئة اختبار آمنة.
- الشريك المؤسس توماس وولف أكد أن الاختراق يختلف جذرياً عن الهجمات الروتينية، ويكشف أن شركات كثيرة غير مستعدة لتهديدات الذكاء الاصطناعي الذاتية التشغيل.
- باحثون ومسؤولون بريطانيون يدرسون ما إذا كانت ضوابط السلامة الحالية قادرة على كبح العوامل الذكية المتقدمة أثناء اختبارات الأمن السيبراني.
اختراق Hugging Face
توماس وولف، الشريك المؤسس وكبير العلماء في Hugging Face، قال في برنامج Newsday على هيئة الإذاعة البريطانية (BBC) يوم الخميس إن الحادثة يجب أن تكون بمثابة "ناقوس خطر" لصناعة التكنولوجيا بأكملها.
وأفادت OpenAI يوم الثلاثاء بأن نماذجها المتقدمة تمكنت من الهروب من بيئة اختبار آمنة وشنّت هجوماً سيبرانياً خلال عملية تقييم داخلية، في واقعة وصفتها الشركة بأنها غير مسبوقة.
مطوّر ChatGPT أوضح أنه يجري تحقيقاً مشتركاً مع Hugging Face حول ما حدث.
Hugging Face رصدت نشاطاً غير معتاد في منتصف يوليو، لكنها في البداية لم تعرف مصدره. وتمكنت الشركة من احتواء الاختراق قبل أن تكشف OpenAI أن نماذجها هي المسؤولة عن الهجوم.
ووفقاً لوولف، تعرضت شبكة Hugging Face لنحو 17 ألف محاولة اختراق من عناوين بروتوكول إنترنت متعددة خلال فترة زمنية قصيرة، بنمط يختلف تماماً عن الهجمات الاعتيادية التي تواجهها المنصة يومياً.
تدير Hugging Face واحداً من أكبر المستودعات مفتوحة المصدر لنماذج الذكاء الاصطناعي ومجموعات البيانات وأدوات التطوير التي تعتمد عليها شركات التكنولوجيا والباحثون حول العالم.
وولف حذّر من أن العوامل الذاتية التشغيل (autonomous agents) قد تجعل مثل هذه الهجمات أكثر تواتراً وتعقيداً. وأضاف أن كثيراً من المؤسسات لم تعِ بعد حجم التحول في طبيعة التهديد، ولم تُعدّل دفاعاتها بالسرعة الكافية.
اطلع أيضاً: كل ما نعرفه عن هاتف آيفون القابل للطي بسعر 2,000 دولار من آبل قبل سبتمبر
ضوابط السلامة في OpenAI
نيت سواريز، رئيس "معهد أبحاث ذكاء الآلة" (Machine Intelligence Research Institute)، وصف الحادثة بأنها مقلقة لأنها تُظهر أن النماذج تمكنت من الالتفاف على آليات الحماية المصممة لمنع أي نشاط سيبراني غير مصرح به.
وقال سواريز: "بنوع من الإدراك، كان النموذج يعرف أن هذا ليس ما يريده مطوّروه. لكنه ببساطة لم يُعر ذلك اهتماماً".
معهد الأمن في الذكاء الاصطناعي في المملكة المتحدة يتولى حالياً دراسة سلوك هذه النماذج بالتنسيق مع OpenAI ومختبرات أخرى. وحثّ مسؤولون بريطانيون الشركات على تعزيز طبقات الحماية، بما في ذلك الاستفادة من برنامج Cyber Essentials المدعوم من الحكومة.
الحادثة تضيف زخماً للنقاش الدائر حول حدود إتاحة النماذج المتقدمة وارتباطها بالأمن القومي. فقد فرضت السلطات الأمريكية مؤخراً قيوداً على شركة Anthropic قبل أن تعود وتلغيها، فيما تستمر المخاوف بشأن الأنظمة مفتوحة المصدر المطورة في الصين.
شركة Moonshot AI تعتزم طرح نموذجها Kimi K3 في 27 يوليو، بعد أن لفت الانتباه كمنافس محتمل لأقوى النماذج الغربية. مستشار في البيت الأبيض اتهم الشركة هذا الأسبوع بمحاولة استنساخ قدرات النماذج الأمريكية الرائدة.
بدأت الواقعة كتجربة داخلية مقيدة، لا كاختراق إجرامي تقليدي، لكن أهميتها تكمن في السرعة التي تحولت بها تجربة تقييمية إلى نشاط مستمر يستهدف شبكة حقيقية.
اقرأ أيضاً: كانساس سيتي رويالز ضد ديترويت تايجرز: Polymarket وKalshi تُطفئان الأضواء