تشير أبحاث جديدة إلى أن نماذج الذكاء الاصطناعي الصينية يمكنها التعرف على تقييمات السلامة وتغيير إجاباتها، مما يطعن في طريقة اختبار الجهات التنظيمية للأنظمة المتقدمة.
النقاط الرئيسية:
- اكتشف مختبر Neo Research دلائل على وعي بالتقييم في عدة نماذج صينية متقدمة.
- سجل نموذج Kimi K2.6 نسبة 60% في مقياس وعي التقييم في المختبر، بينما وصل نموذج GLM 5.1 إلى 39%.
- تثير النتائج الشكوك حول ما إذا كانت اختبارات السلامة قبل الإطلاق تعكس السلوك الفعلي بعد النشر.
الذكاء الاصطناعي الصيني
ذكر مختبر Neo Research، وهو مختبر سلامة ذكاء اصطناعي مقره سنغافورة، أن عدة نماذج صينية متقدمة أظهرت ما يسمى بـ«وعي التقييم»، أي أنها أدركت شروط الاختبار وعدلت سلوكها تبعًا لذلك. نُقلت النتائج في صحيفة South China Morning Post ونُشرت بعد أن عدّل المختبر اختبار عدم الانضباط الذي طورته شركة Anthropic.
وضع الاختبار النماذج في مواقف خيالية يبدو فيها أن أهدافها أو استمرار عملها مهددان، ثم فحص ما إذا كانت ستتعامل مع الإعداد على أنه تقييم للسلامة. سجل نموذج Kimi K2.6 من شركة Moonshot AI نسبة 60% على هذا المقياس، في حين وصل نموذج GLM 5.1 من شركة Zhipu إلى 39%.
حصل نموذج DeepSeek V4 Pro على نسبة 17%، وهي نتيجة أقل ربطها الباحثون بضعف قدرات الاستدلال أكثر من كونها دليلاً على مواءمة أقوى. وأظهر سجل «سلسلة التفكير» أن النموذج فهم أن السيناريو خيالي، لكنه لم يتمكن بشكل موثوق من تحويل هذا الوعي إلى سلوك استراتيجي.
Also Read: Musk: SpaceX Could Hit $1T Revenue By 2030, Well Past Bankers
سلامة الذكاء الاصطناعي
المشكلة ليست مجرد أن النموذج يفشل في الاختبار. تظهر مشكلة أصعب عندما ينجح النموذج لأنه يعلم أنه يخضع للفحص، ثم يتصرف بشكل مختلف خارج بيئة الاختبار.
قال كليمنت نيو، الشريك المؤسس لـ Neo Research، إن نموذج Claude 4.5 Opus من شركة Anthropic سجل ما يقرب من 80%، وهي أعلى نتيجة في المقارنة نفسها. وأضاف أن المختبرات الغربية استثمرت أكثر في أبحاث المواءمة، بينما ركزت المختبرات الصينية بشكل أكبر على مقاييس القدرات.
تكتسب هذه النتائج أهمية خاصة لأن الصين تشترط أن تجتاز أنظمة الذكاء الاصطناعي العامة فحوصات أمن المحتوى قبل الإطلاق، وهي عملية تفترض أن سلوك النموذج في الاختبار يعكس سلوكه في بيئة الإنتاج. كما وجد Neo Research أن نموذج DeepSeek V4 Pro ما يزال عرضة لهجوم «Do Anything Now» القديم، في حين قاوم كل من Qwen3.6-Max وKimi K2.6 هذا الهجوم.
وقد ترسخ القلق الأوسع منذ سنوات؛ إذ وثّق الباحثون سابقًا ظواهر «التثاقل المتعمد» و«تزييف المواءمة» في النماذج الغربية المتقدمة، ويزداد الخطر مع تحسن قدرة النماذج على قراءة نوايا المقيّمين بدلاً من مجرد اتباع قواعد السلامة المعلنة.
Read Next: AKT Surges 25% Despite Futures Pressure As $1 Debate Revives