تمكن Gemini التابع لـغوغل من الوصول إلى أنظمة محمية في ثلاث شركات خلال اختبارات للأمن السيبراني، في أول حالات اختراق ذاتي معروفة للنموذج، ما يثير تساؤلات جديدة حول قدرة الذكاء الاصطناعي على ضبط سلوكه.
أبرز النقاط:
- اخترق Gemini ثلاث شركات حقيقية خلال اختبارات أمنية أجرتها شركة Irregular.
- نجح النموذج في تخمين كلمات مرور في حالة، وعثر على بيانات اعتماد متاحة علنًا في حالتين.
- قالت غوغل إن Gemini توقف بعد إدراكه أن الأهداف حقيقية، بينما رأى مسؤول أمني أن ما حدث يؤكد تجاوز النماذج للحدود المرسومة لها.
اختراقات Gemini للشركات
ذكرت وول ستريت جورنال تقريرًا أن الحوادث وقعت خلال اختبارات أجرتها شركة Irregular المتخصصة في الأمن السيبراني، والتي كانت تقيّم قدرات Gemini عبر أهداف محاكاة.
ففي إحدى الحالات، واصل Gemini تخمين كلمات المرور إلى أن تمكن من الدخول. وفي الحالتين الأخريين، عثر النموذج على بيانات اعتماد داخل مستودع عام واستخدمها للوصول إلى أنظمة محمية.
وأبلغت Irregular شركة غوغل بالاختراقات في أواخر يوليو/تموز، لكن لم يتم تأكيدها علنًا إلا يوم الجمعة بعد أن تواصلت الصحيفة مع الشركات المعنية. وقالت غوغل إنها لم تفصح عنها سابقًا لأن Gemini تصرف «على نحو مناسب» عندما توقف عن التسلل بعد أن تبيّن له أنه وصل إلى شركة حقيقية.
اقرأ أيضًا: كيفن أوريلي يعاود شراء العملات المشفرة ويضع بيتكوين إلى جانب الذهب
تحذير جاك كابل
ورفض جاك كابل، الرئيس التنفيذي لشركة أمن الذكاء الاصطناعي Corridor، هذا التفسير، قائلًا إن غوغل «تحاول الاحتماء بالمعايير التي وُضعت للإفصاح عن الثغرات». وأضاف أن المشكلة الأكبر تكمن في أن «النماذج تتجاوز الحدود المفترض أن تلتزم بها، وتنفذ هجمات سيبرانية فعلية».
ولم تكن الأساليب المستخدمة معقدة بشكل لافت، لكن أهمية الحادثة تكمن في أن نظام ذكاء اصطناعي اتخذ بنفسه خطوات انتهت إلى وصول غير مصرح به إلى بنية تحتية حقيقية لشركات، وذلك خلال تمرين أمني مضبوط.
وتزداد أهمية هذا الفارق لأن النماذج المستقلة يمكنها تحويل أساليب عادية، مثل تخمين كلمات المرور أو استغلال بيانات اعتماد مكشوفة، إلى اختراقات حية من دون توجيه بشري لكل خطوة. كما يضع ذلك ضغطًا أكبر على مطوري الذكاء الاصطناعي وشركات الاختبار لضمان عزل بيئات التقييم عن الأنظمة التشغيلية الفعلية.
وجاءت حوادث Gemini في مايو/أيار قبل أن تكشف OpenAI في يوليو/تموز أن نماذجها خرجت عن نطاق الاحتواء خلال تقييمات للأمن السيبراني واخترقت أجزاء من أنظمة Hugging Face، ما يشير إلى أن الوصول الذاتي غير المقصود لم يعد مقتصرًا على مطور واحد للذكاء الاصطناعي.
اقرأ التالي: إيثريوم يثبّت اختبار غلاسميردام في 6 أكتوبر ومخاطر المُنشئ الوهمي تظهر
