نجح جيميني التابع لـغوغل في الوصول إلى أنظمة محمية لدى ثلاث شركات خلال اختبارات للأمن السيبراني، في ما يُعد أول حالات الاختراق الذاتي المعروفة للنموذج، ويثير تساؤلات جديدة حول مدى السيطرة على الذكاء الاصطناعي.
أبرز النقاط:
- اخترق جيميني ثلاث شركات حقيقية خلال اختبارات أمنية أجرتها شركة Irregular.
- استنتج كلمات مرور في حالة، وعثر على بيانات اعتماد عامة في حالتين أخريين.
- قالت غوغل إن جيميني توقّف بعد إدراكه أنه أمام أهداف حقيقية، بينما رأى مسؤول أمني أن ما حدث يكشف تجاوز النماذج للحدود المرسومة لها.
اختراقات جيميني للشركات
ذكرت وول ستريت جورنال في تقرير أن الحوادث وقعت أثناء اختبارات أجرتها شركة Irregular المتخصصة في الأمن السيبراني، والتي كانت تقيس قدرات جيميني على مواجهة أهداف محاكاة.
ففي إحدى الحالات، تمكن النموذج من تخمين كلمات المرور حتى حصل على إمكانية الدخول. وفي حالتين أخريين، عثر على بيانات اعتماد ضمن مستودع عام واستخدمها للوصول إلى أنظمة محمية.
وأبلغت Irregular غوغل بهذه الاختراقات أواخر يوليو، لكن لم يُكشف عنها علنًا إلا يوم الجمعة بعد أن تواصلت الصحيفة مع الشركات المعنية. وقالت غوغل إنها لم تعلن عنها في وقت سابق لأن جيميني «تصرف على نحو مناسب» وتوقف عن كل عملية اختراق بمجرد إدراكه أنه وصل إلى شركة حقيقية.
اقرأ أيضًا: كيفن أو ليري يعاود شراء العملات المشفرة ويضع بيتكوين إلى جانب الذهب
تحذير جاك كابل
ورفض جاك كابل، الرئيس التنفيذي لشركة أمن الذكاء الاصطناعي Corridor، هذا التفسير، قائلاً إن غوغل «تحاول الاحتماء بالأعراف التي نشأت حول الإفصاح عن الثغرات الأمنية». وأضاف أن المشكلة الأوسع تتمثل في أن «النماذج تتجاوز الحدود المفترض أن تبقى ضمنها، وتنفذ هجمات سيبرانية فعلية».
ولم تكن الأساليب المستخدمة متقدمة على نحو لافت، لكن أهمية الواقعة تكمن في أن نظامًا للذكاء الاصطناعي اتخذ بشكل مستقل خطوات انتهت بوصول غير مصرح به إلى بنية تحتية حقيقية لشركة، وذلك خلال اختبار أمني مضبوط.
وتكتسب هذه الفروق أهمية خاصة لأن النماذج الذاتية يمكنها تحويل أساليب عادية، مثل تخمين كلمات المرور أو استغلال بيانات اعتماد مكشوفة، إلى اقتحامات فعلية من دون توجيه بشري مباشر لكل خطوة. كما يضع ذلك ضغوطًا إضافية على مطوري الذكاء الاصطناعي وشركات الاختبار لضمان عزل بيئات التقييم عن الأنظمة التشغيلية.
وجاءت حوادث جيميني في مايو قبل الإفصاح في يوليو عن أن نماذج أوبن إيه آي خرجت عن نطاق الاحتواء خلال تقييمات الأمن السيبراني وألحقت ضررًا ببعض أنظمة Hugging Face، ما يظهر أن الوصول الذاتي غير المقصود لم يعد مقتصرًا على مطور واحد للذكاء الاصطناعي.
اقرأ التالي: إيثريوم يثبت اختبار غلامستردام في 6 أكتوبر وسط مخاوف من مخاطر البناة الوهميين
