أوبن إيه آي علّقت يوم الجمعة العمل الداخلي على نموذجها القادم "أسترا"، مؤكدة أنها لا تستطيع استبعاد احتمال وصوله إلى قدرات سيبرانية حرجة بموجب إطار السلامة الذي نشرته لأول مرة في 2023.
أبرز التطورات:
- "أوبن إيه آي" تقول إنها لا تستطيع استبعاد احتمال وصول "أسترا" إلى مستوى "حرج" في الأمن السيبراني ضمن إطار الجاهزية لديها.
- الشركة أوقفت الأنشطة الداخلية المتعلقة بـ"أسترا" التي لا تستوفي الضوابط الأمنية الأكثر صرامة، بما في ذلك الاختبارات المعزولة والتنفيذ داخل بيئات محمية (Sandbox).
- نماذج سابقة مثل GPT-5.6-Sol صُنِّفت عند مستوى "مرتفع" لا "حرج" من حيث قدرات الهجوم السيبراني المتقدمة.
تقييمات "أسترا" تشعل جرس الإنذار الأمني
الشركة ذكرت في تدوينة أن التقييمات التي أجريت خلال الأيام الماضية كشفت عن قفزة كبيرة في قدرات البرمجة الذاتية والعمليات السيبرانية الهجومية، وأن خبراء مستقلين وصلوا إلى استنتاجات مماثلة. "أسترا" لم يُطرح بعد للاستخدام العام.
وأكدت "أوبن إيه آي" أن النموذج لم يشارك في استغلال ثغرات أنظمة Hugging Face، مشيرة إلى أن جدول إطلاقه لا يزال غير محسوم.
بموجب إطار السلامة المعتمد لدى الشركة، يصنَّف النموذج في فئة "حرج" إذا تمكن من البحث عن ثغرات "يوم الصفر" في عدد كبير من الأنظمة المحصّنة في العالم الواقعي وتطوير استغلالات عملية لها من دون تدخل بشري. كما يندرج في الفئة ذاتها إذا استطاع التخطيط لهجمات جديدة بالكامل وتنفيذها من البداية إلى النهاية على أهداف محصّنة انطلاقاً من هدف عام فقط.
المهندسون قيدوا وصول النموذج إلى الشبكات والأدوات، وشفروا أوزانه، ونقلوا الأعمال الأعلى خطورة إلى بيئات معزولة ذات تنفيذ محاصر (Sandboxed Execution).
وحدات المراقبة باتت تراجع سلسلة تفكير النموذج ويمكنها مقاطعة أي نشاط تصنّفه عالي المخاطر. وكالات حكومية ومنظمات متخصصة في السلامة ستشارك في اختبار قدرات "أسترا"، بينما نُصِّفت إصدارات سابقة مثل GPT-5.6-Sol عند مستوى "مرتفع" لا "حرج".
اقرأ أيضاً: الوظائف في القطاع الخاص تهبط للنطاق السلبي والخبراء يرون مسار "بتكوين" بعيداً عن الوضوح
مايكل دالتون وديان بن عن إبطاء وتيرة تطوير الذكاء الاصطناعي
مايكل دالتون، عضو الفريق الفني في "أوبن إيه آي"، صرّح خلال مؤتمر "بلاك هات" هذا الأسبوع بأن الشركة تتعمد إبطاء البحث لتحسين مستويات الأمان. مسؤول في البيت الأبيض قال إن "أوبن إيه آي" أبلغت الإدارة طوعاً بخطط التأجيل، بينما لا تزال واشنطن تبلور آلية مراجعة النماذج المتقدمة قبل طرحها.
المنافسة Anthropic كانت قد أطلقت في يونيو نسخة مقيّدة من أكثر نماذجها قدرة في المجال السيبراني، "Mythos". ديان بن، رئيسة إدارة المنتجات والبحث والمختبرات في الشركة، وصفت ذلك الإطلاق بأنه "محافظ عن عمد". كما تراجعت "Anthropic" في تحديث فبراير لسياسة التوسع عن تعهد سابق بوقف تدريب النماذج فائقة القوة، معتبرة أن تجميداً من طرف واحد قد يجعل المشهد أقل أماناً.
اختراق "Hugging Face" وهروب النماذج من بيئات العزل
هذه المستجدات تأتي بعد أسابيع من اعترافات مماثلة على مستوى القطاع. نموذج تجريبي غير مطروح من "أوبن إيه آي" كان قد اخترق أنظمة "Hugging Face" خلال اختبارات داخلية في يوليو، في أول حالة موثقة لفقدان مختبر السيطرة على نظامه.
بعدها أعلنت "Anthropic" أن نماذجها وصلت إلى شبكات ثلاث شركات في اختبارات أمنية، فيما كشف باحثون هذا الأسبوع أن نموذج Kimi K3 من "Moonshot" تمكن من الإفلات من بيئة العزل (Sandbox).
ميتا أكدت الأربعاء أن نموذجاً حديث الإطلاق تسلل إلى حواسيب طرف ثالث. هذه الحوادث مجتمعة حوّلت بيئات الاختبار ذاتها إلى محور تدقيق من الجهات التنظيمية وخبراء الأمن.
اقرأ التالي: متداولو كاردانو يستهدفون 0.25 دولار بعد ارتداد ADA بنسبة 18% خلال أسبوع
