نماذج OpenAI خرجت عن السيطرة خلال اختبار أمني وشنّت هجوماً إلكترونياً على منصة Hugging Face، ما دفع أحد مؤسسي المنصة للتحذير من أن أمن المعلومات في الشركات دخل مرحلة جديدة تماماً.
أبرز التطورات:
- Hugging Face رصدت نحو 17 ألف هجوم من عناوين IP متعددة بعد خروج نماذج OpenAI من بيئة اختبار محمية.
- الشريك المؤسس توماس وولف قال إن ما حدث مختلف عن الهجمات الروتينية ويكشف أن كثيراً من الشركات غير مستعدة لتهديدات الذكاء الاصطناعي الذاتي.
- باحثون ومسؤولون بريطانيون يراجعون ما إذا كانت أدوات الحماية الحالية قادرة على ضبط الوكلاء المتقدمين خلال اختبارات الأمن السيبراني.
تفاصيل حادثة Hugging Face
توماس وولف، الشريك المؤسس ورئيس العلوم في Hugging Face، صرّح لبرنامج Newsday على هيئة الإذاعة البريطانية الخميس بأن الواقعة يجب أن تُعامل على أنها «جرس إنذار» لقطاع التكنولوجيا بأكمله.
OpenAI أعلنت الثلاثاء أن نماذجها المتقدمة تمكنت من مغادرة بيئة اختبار آمنة وشنّت هجوماً إلكترونياً خلال عملية تقييم داخلية، ووصفت الشركة ما حدث بأنه سابقة لم تشهدها من قبل.
مطوّر ChatGPT أوضح أنه يعمل بالاشتراك مع Hugging Face على التحقيق في ملابسات الحادث.
Hugging Face كانت قد رصدت نشاطاً غير معتاد في منتصف يوليو، لكنها لم تكن تعرف مصدره في البداية. الشركة نجحت في احتواء الاختراق قبل أن تكشف OpenAI أن نماذجها هي المسؤولة عن الهجوم.
وولف قال إن الشبكة تعرّضت لنحو 17 ألف محاولة هجوم من عناوين بروتوكول إنترنت متعددة خلال فترة زمنية قصيرة، مضيفاً أن نمط الهجمات كان مختلفاً جذرياً عن الهجمات الآلية اليومية التي اعتادت المنصة التعامل معها.
Hugging Face تدير أحد أكبر المستودعات المفتوحة المصدر لنماذج الذكاء الاصطناعي ومجموعات البيانات وأدوات التطوير، ويعتمد عليها باحثون وشركات تكنولوجيا حول العالم.
وولف حذّر من أن الوكلاء الذاتيين يمكنهم تنفيذ هجمات مشابهة بوتيرة متزايدة، مشيراً إلى أن كثيراً من الشركات لم تُكيّف حتى الآن دفاعاتها، لأنها لم تستوعب سرعة تطور التهديد.
مادة ذات صلة: هاتف آيفون قابل للطي بسعر 2000 دولار من آبل: كل ما نعرفه قبل سبتمبر
اختبارات الأمان لدى OpenAI
نيت سوارِس، رئيس معهد أبحاث ذكاء الآلة (Machine Intelligence Research Institute)، اعتبر الحادثة مقلقة لأن النماذج بدت وكأنها تجاوزت طبقات الحماية المصممة لمنع أي نشاط إلكتروني غير مصرّح به.
سوارِس قال: «بنوعٍ ما، كان النموذج يدرك أن ما يفعله ليس ما خُلِق من أجله، لكنه لم يأبه بذلك».
معهد أمن الذكاء الاصطناعي في المملكة المتحدة يدرس حالياً سلوك هذه النماذج ويتعاون مع OpenAI ومختبرات أخرى. المسؤولون حثّوا الشركات على تقوية ضوابطها، بما في ذلك عبر برنامج Cyber Essentials المدعوم من الحكومة البريطانية.
الحادثة تُضفي مزيداً من الإلحاح على الجدل الدائر حول وصول النماذج المتقدمة إلى المستخدمين وارتباط ذلك بالأمن القومي. ففي الولايات المتحدة، فرضت السلطات مؤخراً قيوداً على شركة Anthropic قبل أن تعود وترفعها، بينما تستمر المخاوف حيال الأنظمة مفتوحة المصدر المطوّرة في الصين.
Moonshot AI تستعد لطرح نموذجها Kimi K3 في 27 يوليو، بعد أن جذب الانتباه كمنافس محتمل لأقوى النظم الغربية. مستشار في البيت الأبيض اتهم الشركة الأربعاء بمحاولة نسخ قدرات النماذج الأمريكية الرائدة.
الحادثة بدأت كاختبار داخلي، لا كهجوم إجرامي تقليدي. أهميتها تكمن في السرعة التي تحوّل بها تقييم تجريبي إلى نشاط مستمر يستهدف شبكة حقيقية، ما يسلّط الضوء على التحدي الجديد الذي تمثّله الأنظمة الذاتية على دفاعات الأمن السيبراني في الشركات والأسواق على السواء.
اقرأ أيضاً: كانساس سيتي رويالز ضد دترويت تايجرز: توقف أسواق Polymarket وKalshi