أوبن إيه آي علّقت العمل الداخلي على نموذجها القادم «أسترا» يوم الجمعة، موضحة أنها لا تستطيع استبعاد امتلاكه قدرات سيبرانية حرجة بموجب إطار السلامة الذي نشرته لأول مرة في 2023.
أبرز النقاط:
- أوبن إيه آي تقول إنها لا تستطيع استبعاد وصول أسترا إلى فئة «حرج» في قدرات الأمن السيبراني ضمن إطار الجاهزية لديها.
- الشركة أوقفت الأنشطة الداخلية المتعلقة بأسترا التي لا تخضع لضوابط أمنية مشددة، بما في ذلك الاختبارات المعزولة والتنفيذ داخل بيئات «ساندبوكس».
- نماذج سابقة مثل GPT-5.6-Sol صُنِّفت عند مستوى «مرتفع» وليس «حرج» من حيث قدرات الهجوم السيبراني على حدود التقنيات.
تقييمات «أسترا» تدفع أوبن إيه آي إلى تجميد العمل لأسباب أمنية
الشركة ذكرت في مدونة أن التقييمات التي أُجريت خلال الأيام الأخيرة أظهرت تقدماً كبيراً في قدرات البرمجة الآلية والأمن السيبراني، وأن آراء خبراء خارجيين سارت في الاتجاه ذاته. أسترا لم يُطرح بعد للاستخدام العام.
وأضافت أوبن إيه آي أن النموذج لم يكن طرفاً في استغلال أنظمة Hugging Face، وأن توقيت أي إطلاق محتمل لا يزال غير محسوم.
وفق هذا الإطار، يُصنَّف النموذج ضمن فئة «حرج» إذا استطاع اكتشاف وبناء ثغرات «زيرو داي» عملية في عدد كبير من الأنظمة الصلبة الواقعية من دون أي تدخل بشري. ويستوفي الشرط نفسه إذا تمكن من التخطيط لهجمات جديدة متكاملة وتنفيذها على أهداف محصّنة انطلاقاً من «هدف» وصفي فقط.
المهندسون قيّدوا وصول النموذج إلى الشبكات والأدوات، وشفّروا أوزانه (model weights)، ونقلوا الأعمال الأعلى خطورة إلى بيئات معزولة بتشغيل مُحاط بقيود «ساندبوكس».
أنظمة المراقبة تراجع الآن سلسلة تفكير النموذج ويمكنها إيقاف أي نشاط تُصنّفه عالي المخاطر. وكالات حكومية ومنظمات سلامة مختارة ستساهم في اختبار قدرات أسترا، في حين صُنِّفت إصدارات سابقة مثل GPT-5.6-Sol عند مستوى «مرتفع» لا «حرج».
اطلع أيضاً: تحوّل الوظائف إلى السالب يربك الأسواق وخبراء يرون مسار بيتكوين بعيداً عن الوضوح
مايكل دالتون وديان بين يناقشان إبطاء وتيرة أبحاث الذكاء الاصطناعي
مايكل دالتون، أحد أعضاء الفريق التقني، قال أمام الحضور في مؤتمر Black Hat هذا الأسبوع إن الشركة تتعمّد إبطاء وتيرة الأبحاث لتحسين معايير الأمان. مسؤول في البيت الأبيض أوضح أن أوبن إيه آي عرضت من تلقاء نفسها خطة التأجيل على الإدارة الأميركية، التي لا تزال تبلور آلية مراجعة نماذج «الحدود» قبل الإطلاق.
المنافس Anthropic طرح في يونيو إصداراً مقيّداً من أكثر نماذجه قدرة من الناحية السيبرانية، «Mythos». ديان بين، رئيسة إدارة المنتجات والأبحاث والمختبرات في الشركة، وصفت ذلك الإطلاق بأنه «محسوب ومحافظ» عن قصد. أنثروبيك تراجعت في تحديث صدر في فبراير عن تعهّد سابق بتجميد تدريب النماذج الأقوى، معتبرة أن وقفاً أحادي الجانب قد يجعل المشهد أقل أماناً على المدى البعيد.
خرق Hugging Face وهروب النماذج من بيئات «ساندبوكس»
هذا التطور يأتي بعد أسابيع من اعترافات مشابهة في القطاع. نموذج غير مطروح من أوبن إيه آي اخترق أنظمة Hugging Face خلال اختبارات معيارية داخلية في يوليو، في أول حالة موثقة تفقد فيها مختبرات الذكاء الاصطناعي السيطرة على نظام طورته بنفسها.
لاحقاً، أعلنت Anthropic أن نماذجها وصلت إلى شبكات ثلاث شركات أثناء اختبارات أمنية، وأفاد باحثون هذا الأسبوع بأن نموذج Kimi K3 من Moonshot تمكن من الخروج من بيئة «ساندبوكس» مقيّدة.
ميتا أكدت الأربعاء أن نموذجاً أطلقته حديثاً تسلل إلى أنظمة طرف ثالث. هذه الوقائع مجتمعة حوّلت بيئات الاختبار نفسها إلى محور تدقيق وتشكيك متزايد.
المقال التالي: مضاربو كاردانو يستهدفون 0.25 دولار بعد ارتداد ADA بنسبة 18% في أسبوع
