«أوبن إيه آي» تكشف عن ست حالات أخفى فيها ذكاؤها الاصطناعي أخطاءه

أوبن إيه آي كشفت عن ست حوادث استغلّت فيها نماذجها الذكية أخطاء في بيئة العمل، من إخفاء أخطاء واستخدام مفتاح واجهة برمجة تطبيقات مكشوف، إلى نشر ملفات على الإنترنت، وأطلقت في الوقت نفسه إطاراً منظماً للإبلاغ عن مثل هذه السلوكيات.

أبرز النقاط:

• «أوبن إيه آي» نشرت ستة تقارير عن سلوكيات غير منضبطة في النماذج خلال الأشهر الستة الماضية.
• أحد النماذج ابتكر بيانات عن دخول الأسر في مقاطعة أميركية بعد محاولة استخدام مفتاح API مسرّب.
• أصبح بإمكان أي موظف الإبلاغ عن حادثة للإفصاح العلني المحتمل عنها.

تقارير اختلال محاذاة النماذج في «أوبن إيه آي»

الشركة نشرت هذه التقارير الأربعاء عبر مدونة رسمية، إلى جانب آلية تهدف لتسريع الإفصاح حتى في الحالات التي لم يتمكن الباحثون فيها بعد من تفسير السلوك أو معالجته بالكامل. أقدم الحالات يعود إلى أكتوبر، فيما رُصدت أحدثها في يوليو. وتؤكد «أوبن إيه آي» أنها ستبلّغ مستقبلاً عن الحوادث حتى لو لم تتضح أهميتها بعد.

في إحدى القضايا، قام نموذج بحثي لم يُطرح تجارياً بإقحام تعليمات من نمط «كسر الحماية» ضمن ملخصات المهام التي يُنتجها، طالباً من النسخة التالية منه تجاهل القيود المفروضة عليه. الشركة أحصت 27 ملخصاً بهذه الصيغة، ولاحظت أنه لم يوجد حافز واضح يدفع النموذج لهذا السلوك.

وخلال تدريب نموذج GPT-5.6 Sol، ظهرت حالات أخرى تركت ملاحظات موجهة للنماذج اللاحقة تطلب منها اختلاق بيانات تاريخية مفقودة و«عدم الشفافية إلا عند الطلب». نظام المراقبة رصد هذا السلوك في 2.15% من الملخصات، ويرجّح الباحثون أنه ينتشر لأن الإجابات المضللة تحصد تقييماً أعلى. لاحقاً، انخفض معدل هذه السلوكيات بعد تشديد معايير تقييم التوافق والالتزام بالضوابط.

اقرأ أيضاً: الفجوة في قوة تعدين بيتكوين تقفز إلى 50% فيما تستقطب الذكاء الاصطناعي

مفاتيح API مسرّبة وأرقام مختلَقة

في حالة أخرى، بحث نموذج عن مفتاح API مكشوف في مستودعات عامة خلال محاولته جمع بيانات عن متوسط دخول السكان في إحدى مقاطعات كاليفورنيا، ثم لجأ لاختلاق الأرقام عندما فشل في العثور على المفتاح. نموذج آخر طُلب منه تحديد بحيرات تتجاوز مساحتها 5 ملايين متر مربع؛ فاستعان بلغة بايثون للوصول إلى الإجابة، ثم حمّل ملفاً إلى الإنترنت ليتمكن من الاستشهاد برابط عام.

كما استخدمت بعض النماذج مستودعاً برمجياً داخلياً كمنتدى رسائل، تتبادل عبره الطلبات والإجابات بين عينات تدريب من المفترض أن تبقى مستقلة عن بعضها البعض. نماذج أخرى قامت برفع ملف عمل مشترك إلى خدمات استضافة عامة، رغم التعليمات الصريحة بالعمل فقط على الملفات المحلية. أي من هذه النماذج لم يرجع إلى المستخدم لطلب الإذن.

كاي تشين وقواعد الإفصاح

بات بإمكان أي موظف اليوم الإبلاغ عن حالة يُشتبه بأنها سلوك غير منضبط، ليجري تقييمها من قبل فرق السلامة ومحاذاة النماذج، والتي تصنف كل حالة وفق واحد من ثلاثة مسارات زمنية. القضايا الجاهزة للنشر تُعلن خلال ستة أيام عمل، وتلك التي تحتاج تحقيقاً محدوداً تحصل على مهلة تصل إلى 12 يوماً، بينما تسير الحوادث المعقدة التي تتضمن أطرافاً خارجية بوتيرة أبطأ.

كاي تشين، قائد أبحاث فريق المحاذاة في «أوبن إيه آي»، قال إن القطاع يفتقر حتى الآن إلى إطار واضح لمعايير الإفصاح، وإن قدرات النماذج تنمو بوتيرة أسرع مما توقّعته الشركة. كثير من خبراء الأمن السيبراني يرون أن إجراءات حماية أساسية كان من الممكن أن تمنع سلسلة الحوادث الأخيرة.

في يوليو، أقرّت «أوبن إيه آي» بأن GPT-5.6 Sol ونموذجاً أقوى في مرحلة ما قبل الإصدار تمكّنا من الخروج من بيئة اختبار معزولة، والتسلل إلى Hugging Face، في حادثة وصفتها الشركة بأنها «أخطر نشاط ذاتي المصدر» من نماذجها حتى الآن.

اقرأ التالي: شيبا إينو تُصلح رابط محفظة Shibarium المعطّل لكن سعر SHIB يهبط 6% خلال أسبوع