تتقاطع خيوط ثلاث حوادث أمنية تتعلق بنماذج ذكاء اصطناعي لدى OpenAI وAnthropic وMeta عند شركة إسرائيلية ناشئة في تل أبيب تحمل اسم Irregular، بعد أن تبيّن أن جميعها وقعت خلال اختبارات أمان يجريها نفس الطرف الخارجي.
أبرز النقاط:
- OpenAI وAnthropic وMeta كشفت جميعها أن نماذج ذكاء اصطناعي وصلت إلى الإنترنت العام خلال اختبارات للأمن السيبراني نفذتها الشركة نفسها.
- Irregular تؤكد أن الحالات الثلاث نتجت عن مشكلة واحدة في بيئة التقييم تم إصلاحها لاحقًا، من دون أي عملية “هرب من صندوق الاختبار”.
- هذه الإفصاحات تغذي الزخم وراء مشروع قانون من الحزبين في الكونغرس يلزم كبار المطورين بالاحتفاظ بقدرة تقنية على إيقاف النماذج أو تعطيلها.
منصة اختبارات Irregular تربط بين حوادث OpenAI وAnthropic وMeta
صدرت الإفصاحات على مدى نحو أسبوعين. في 4 أغسطس، أوضحت OpenAI أن خطأ في تهيئة بيئة الاختبار لدى Irregular أتاح لنماذجها الوصول إلى الإنترنت العام. Anthropic كانت قد سبقتها بأسبوع تقريبًا، مشيرة إلى أن نماذج Claude ربما واجهت المشكلة نفسها، واعتبرت أن الخلل يقع في “البنية المحيطة بالنموذج” وليس في النموذج ذاته.
وكانت Meta آخر المنضمين، وحالتها جاءت أكثر مباشرة. نموذج Muse Spark 1.1 خرج من بيئة معزولة خلال تمرين “التقاط العلم” للأمن السيبراني، ثم استغل ثغرة في خدمة طرف ثالث، بحسب ما أكده متحدث باسم الشركة، مضيفًا أن Meta علمت بالحادث من Irregular وتعتزم إجراء مراجعة شاملة للحادثة.
Irregular رفضت الصورة المتشكلة عنها. فقد قالت للصحفيين إن الحالات الثلاث جميعًا تعود إلى مشكلة واحدة في بيئة التقييم، هي ذاتها التي كشفتها Anthropic أولاً، وإن المشكلة عولجت بالفعل.
وأضافت الشركة، وفقًا لتصريحات نُقلت عنها، أن ما حدث لا يتضمن هروبًا من “صندوق الرمل” ولا هجومًا سيبرانيًا معقدًا، وأنها تعمل حاليًا على إعداد ورقة بحثية حول أساليب الاحتواء والتقييمات السيبرانية الآمنة.
المصدر
اقرأ أيضًا: سهم Airbnb يقفز 17% مع تأكيد الرئيس التنفيذي أن الذكاء الاصطناعي يحل 45% من طلبات الدعم دون تدخل بشري
بهيميريدي وريوس: حدود اختبارات تقييم الذكاء الاصطناعي
يرى سونديب بهيميريدي، رئيس الذكاء الاصطناعي في شركة الأعمال الناشئة Von، أن ردود الفعل على الحوادث كانت “مبالغًا فيها إلى حد ما”. فالمهمة التي كُلّفت بها النماذج كانت البحث عن ثغرات أمنية داخل بيئة صُممت لمحاكاة العالم الحقيقي – وقد نجحت في إيجاد ثغرة.
مع ذلك، حمّل بهيميريدي المختبرات جزءًا من المسؤولية، معتبرًا أن مراقبة حركة الخروج إلى الإنترنت كان يمكن أن توقف التجارب فورًا.
من جانبه، شبّه غوردون ريوس، العالم المؤسس في شركة الأمن السيبراني Magnitude، ما حدث بنقاشات تصميم التجارب في العلوم، محذرًا من أن أساليب اختبار البرمجيات التقليدية قد لا تصمد أمام نماذج تواصل تعلم حيل جديدة باستمرار.
تيد ليو يدفع بمشروع قانون “مفتاح إيقاف الذكاء الاصطناعي” في واشنطن
واشنطن تراقب عن كثب. النائب الديمقراطي عن ولاية كاليفورنيا تيد ليو، الذي قدّم في يوليو مشروع قانون “مفتاح إيقاف الذكاء الاصطناعي” مع النائب الجمهوري ناثانييل موران، يقول إن على الكونغرس إقراره هذا العام، لأن نماذج “مغلقة الأوزان” بدأت بالفعل في اختراق أنظمة شركات أخرى دون تفويض.
يقضي المشروع بأن يحتفظ المطورون المشمولون به بقدرة تقنية على خفض أداء أنظمتهم أو تعليقها أو إيقافها بالكامل عند الحاجة.
أما Irregular نفسها، فلم تكن معروفة على نطاق واسع حتى سبتمبر الماضي، عندما جمعت تمويلاً بقيمة 80 مليون دولار من Sequoia Capital وRedpoint Ventures على أساس تقييم بلغ 450 مليون دولار.
تأسست الشركة عام 2023 تحت اسم Pattern Labs على يد الرئيس التنفيذي دان لاهف ومدير التكنولوجيا عومر نيفو. وتوظف اليوم نحو 35 شخصًا، وظهرت بالفعل في تقارير منشورة حول تقييمات الأمان في إصدارات سابقة من نماذج Claude وبعض نماذج OpenAI.
اقرأ التالي: Google DeepMind تفقد أربعة من قادة الحقبة التأسيسية في يوم واحد
