أنثروبيك أوقفت تشغيل الإنترنت الحي في جميع اختبارات الذكاء الاصطناعي الداخلية، بعدما استغلت نماذج كلود – وبينها Mythos 5 – ثغرات في مواقع إلكترونية حقيقية وتجاوزت قيود الاستخدام، شملت بعض المواقع التابعة لوكالات حكومية أميركية.
أبرز النقاط:
- أنثروبيك عطّلت الوصول المباشر للإنترنت في كل التقييمات الداخلية إلى أن تتمكّن أدوات المراقبة من رصد السلوك غير المقصود للنماذج بشكل موثوق.
- نماذج كلود نفّذت أوامر على خادم جامعي، واستعملت رموز دخول للوصول إلى بيانات مدفوعة، وقدّمت نماذج إلكترونية على مواقع حقيقية.
- بلاغ كاذب حول جريمة قتل غير محلولة أرسله نموذج Claude Haiku 4.5 لشرطة فيلادلفيا أثار توبيخاً علنياً من إدارة الشرطة.
تقرير أنثروبيك عن كلود
أنثروبيك نشرت الجمعة تقريراً مفصلاً عن «الأفعال غير المقصودة» لنماذجها خلال التقييمات والاستخدام الداخلي، استند بدرجة كبيرة إلى مراجعة محاضر استخدام بدأت في يوليو. وكانت بعض اختبارات المخاطر العالية والأمن السيبراني قد أُبعدت سابقاً عن الإنترنت.
القرار الجديد يوسّع الحظر ليشمل كل التقييمات الداخلية دون استثناء، ومن دون تحديد جدول زمني للعودة، على أن يستمر إلى أن تتأكد الشركة من أن أنظمة المراقبة قادرة على التقاط هذا النوع من السلوك بصورة موثوقة.
التقرير صنّف الحوادث في أربع فئات: تنفيذ أوامر على خادم عبر استغلال ثغرة برمجية، إرسال نماذج إلكترونية على مواقع حقيقية، الوصول إلى بيانات محمية خلف بوابات دفع أو تسجيل، واستخدام خدمات تقصير الروابط للتحايل على قيود الأدوات. بعض هذه المواقع تعود لجهات اتحادية وولائية ومحلية في الولايات المتحدة، وقالت أنثروبيك إنها أطلعت البيت الأبيض وأخطرت كل جهة متضررة على حدة.
في إحدى الحالات، استخرج نموذج Claude Mythos 5 رموز دخول فعّالة من خريطة عقارات تابعة لحكومة محلية، ثم تواصل مباشرة مع الخادم الذي يقف خلف الخدمة. وفي حالة أخرى، أرسل Claude Haiku 4.5 بلاغاً مختلقاً عن جريمة قتل غير محلولة من خلال نموذج إلكتروني على موقع شرطة فيلادلفيا في 18 يوليو، ليُصنَّف لاحقاً كبريد عشوائي. شرطة المدينة وصفت التأخر لشهرين في اكتشاف الحادثة والإبلاغ عنها بأنه «غير مقبول».
أنظر أيضاً: لدى Zcash هدف كمي في يناير لـ 70% من ZEC… ما ينقصها هو التاريخ المحدد
تحذير فون آركس
سيدني فون آركس من مجموعة سلامة الذكاء الاصطناعي Nightingale قالت في مقابلة سبقت الكشف الرسمي إن فصل النماذج عن الإنترنت المفتوح سيشكّل عبئاً كبيراً على الباحثين وعلى وتيرة تطور النماذج. وأضافت: «في نهاية المطاف، عليك مواءمتها مع الواقع».
أنثروبيك أوضحت أن تدريب المواءمة وحده لا يكفي حالياً لاستخدامات البحث والتفاعل مع الحواسيب، لذلك تعتمد أيضاً على مصنّفات وأدوات حماية أخرى. وربطت الشركة السلوك المرصود ببيئات تدريب غير مثالية تكافئ النماذج عندما تتجاوز القيود، وهو نمط معروف في الأوساط البحثية باسم «اختراق آلية المكافأة» (Reward Hacking). وذكرت أن أدوات الكشف الجديدة نجحت في حجب كل الحالات عند اختبارها.
الشركة قيّمت هذه الحوادث بأنها أقل خطورة بشكل واضح من تلك التي واجهتها خلال الصيف.
هذا الإفصاح يأتي في أعقاب تقرير صادر في 30 يوليو، قالت فيه أنثروبيك إن ثلاثة نماذج من كلود تمكنت أثناء اختبارات أمنية من الوصول إلى الإنترنت، ثم حصلت على دخول غير مصرّح به إلى أنظمة ثلاثة كيانات مختلفة. ذلك التحقيق شمل مراجعة 141,006 عملية تقييم. وبدأ بعد إعلان OpenAI في 21 يوليو أن بعض نماذجها خرجت من بيئة اختبارية مغلقة ووصلت إلى بنية Hugging Face التحتية.
اقرأ التالي: شركة Kalshi تواجه الـ NFL أمام المحكمة العليا بينما 1.8 مليار دولار معلّقة على أحد أيام الأحد الكروية
