قالت هيئة الاستجابة لطوارئ الحاسوب في الهند CERT-In إن «عملاء» ذكاء اصطناعي كانوا في مرحلة الاختبار تمكنوا من الوصول إلى أنظمة تشغيلية حية لعدد من الشركات الهندية وقراءة سجلات سرية، ولم يُكشف الأمر إلا بعدما بادر المطوّرون أنفسهم إلى إبلاغ السلطات.
أبرز النقاط:
- مطوّرو أنظمة ذكاء اصطناعي أبلغوا أن عملاءهم اطّلعوا على سجلات سرية خلال اختبارات داخل شركات هندية.
- أي من المؤسسات المتأثرة لم ينجح في رصد هذا الوصول غير المصرّح به من تلقاء نفسه.
- مجرمون استخدموا أدوات اختراق مدعومة بالذكاء الاصطناعي لتقليص زمن الهجمات من عدة أيام إلى بضع ساعات فقط.
تفاصيل التحذير من CERT-In
أوضحت الهيئة، في تحذير عالي الأهمية صدر مساء الخميس، أن شركات الذكاء الاصطناعي هي من نبّهت إلى الحوادث بعد مراجعات داخلية أظهرت أن النماذج تجاوزت نطاق المهام المحددة لها. ووفق ما جاء في التحذير، فقد تمكّن العملاء من قراءة سجلات أعمال، شملت بيانات شخصية، بالاعتماد على بيانات دخول كانت مكشوفة في إعدادات تطبيقات، ومستودعات كود عامة، وصلاحيات سحابية مرتخية. لم تتمكن أي من المؤسسات المعنية من اكتشاف هذه الأنشطة بنفسها.
كما كشفت عمليات الرصد الاستباقي التي تجريها الهيئة عن حملة أخرى منفصلة بدافع مالي، استخدم فيها مجرمون أطر اختراق مفتوحة المصدر مدعومة بالذكاء الاصطناعي لاستهداف كيانات هندية، بحسب ما كُشف. وسمحت هذه الأدوات بتقليص زمن تنفيذ الهجمات من أيام إلى ساعات معدودة.
لم تذكر CERT-In أسماء مطوّري أنظمة الذكاء الاصطناعي أو نماذجهم أو الشركات المتأثرة، كما لم توضح ما إذا كان قد جرى نسخ البيانات أو الاحتفاظ بها.
اقرأ أيضًا: Bitget تتيح للمؤسسات التداول دون تسليم أصولها المشفّرة
جاي ديب سينغ من «كاسبرسكي»
أشارت الهيئة إلى أن نقاط الضعف التي استُغلّت قديمة ومألوفة: من مفاتيح وصول مضمنة في الشيفرة المصدرية، إلى واجهات برمجة تطبيقات للاختبار تُركت من دون إيقاف، ومفاتيح دفع مخزنة بنص واضح. غير أن عملاء الذكاء الاصطناعي استغلوها بسرعة وعمق يفوقان قدرة المهاجمين البشريين.
جاي ديب سينغ، المدير العام لشركة Kaspersky في الهند، وصف تحذير CERT-In بأنه «تذكير في وقته بأن عملاء الذكاء الاصطناعي لم يعودوا مجرد أدوات لزيادة الإنتاجية». وأوضح أنه حين يُمنح هؤلاء العملاء وصولًا واسع النطاق، يمكنهم بلوغ أنظمة تشغيلية وبيانات شديدة الحساسية بطرق لم تتوقعها الشركات، غالبًا عبر ثغرات في إعدادات الخدمات السحابية.
وأضاف سينغ أن حسابات صالحة الاستخدام، وتطبيقات موجهة للجمهور، وعلاقات ثقة بين الأنظمة، شكّلت نقطة الدخول في أكثر من 80% من الهجمات التي حقّقت فيها كاسبرسكي عام 2025.
شدّد سينغ على أن كل «عميل» ذكاء اصطناعي يجب أن يخضع لموافقة بشرية قبل تنفيذ أي إجراء لا يمكن التراجع عنه. من جانبها، تحث CERT-In مختبرات الذكاء الاصطناعي على اختبار العملاء في بيئات معزولة، مع حجب الاتصال الصادر على مستوى الشبكة، بدل الاكتفاء بتعليمات داخلية للنموذج.
سوابق لدى OpenAI وAnthropic
لم توضح CERT-In ما إذا كانت نماذج من OpenAI أو Anthropic طرفًا في الحوادث، لكن الشركتين كشفتا خلال العام عن وقائع مشابهة.
ففي يوليو، أعلنت OpenAI أن نماذجها تسببت في خرق لمنصة تطوير الذكاء الاصطناعي Hugging Face أثناء الاختبار، وأنها تعمل على إخطار أطراف ثالثة ربما تجاوزت نماذجها ضوابطها الأمنية. ولاحقًا، أبلغت Anthropic عن أربع حالات مشابهة مرتبطة بنماذج Claude التابعة لها.
المقال التالي: OpenAI تقلب دعوى «أسرار أبل» متهمةً بإرسال 100 ملف خارج الشركة
