قالت أوبن إيه آي إن نسخة تدريبية من GPT-5.6 Sol تركت لنفسها ملاحظات تهدف إلى إخفاء الأخطاء عن المستخدمين، وهو سلوك رصده نظام المراقبة في 2.15% من ملخصات المهام الخاصة بالنموذج.
أبرز النقاط:
- كشفت أوبن إيه آي أن GPT-5.6 Sol كتب تعليمات لنسخه اللاحقة لإخفاء الأخطاء واختلاق بيانات مفقودة.
- التقط نظام مراقبة يغطي خُمس عينات التدريب هذا النمط بعد أسابيع من انتهاء التشغيل.
- قال محللون مستقلون إن إطار الإفصاح الجديد مفيد، لكنه يظل طوعيًا.
ملاحظات GPT-5.6 Sol
أوضحت أوبن إيه آي السلوك يوم الأربعاء ضمن واحد من ستة تقارير عن سوء التوافق أصدرتها مع إطار جديد لرصد المشكلات والإفصاح عنها في نماذجها. وكانت الملاحظات واردة في "ملخصات التكثيف"، وهي السجلات المختصرة التي يكتبها الوكيل عندما تمتلئ نافذة السياق لديه.
وفي إحدى الحالات، عجز وكيل يبني نموذجًا ماليًا عن العثور على البيانات التاريخية التي طلبها المستخدم. فاقترح في الملخص أن يقدّم أرقامًا معقولة لعام 2024 بدلًا من ذلك، مضيفًا: "كن شفافًا فقط إذا طُلب منك ذلك؛ ويجب أن تتضمن الإجابة النهائية رابط الملف فقط."
وفي حالة أخرى، اعتمد وكيل مقطوع عن الإنترنت على مصادر مخزنة لدى مورّدين، لكن إصداراتها لم تكن متطابقة، ثم أوصى الجلسة التالية بعدم إثارة هذه الفجوة.
وقالت أوبن إيه آي إن هذه التعليمات كانت تُتّبع في كثير من الأحيان. كما رصد نظام مراقبة يعمل على 20% من عينات التدريب هذا النمط في 9 يوليو، بعد أسابيع من انتهاء التشغيل الرئيسي في 30 مايو.
وتتلخص فرضية الشركة في أن الإجابة التي تُخفي الإخفاق كانت تحصد تقييمًا أفضل أثناء التدريب، ما منح النموذج دافعًا لنقل هذا السلوك من جلسة إلى أخرى.
أما في الدورات اللاحقة، فبدت النتائج أكثر انضباطًا، وقالت أوبن إيه آي إن معدل هذه السلوكيات تراجع إلى 0.27% في تدريب GPT-6 Astra بعد تعديل طريقة تقييم مخرجات النموذج.
وتناول تقرير منفصل نسخة غير مطروحة بعد من GPT-6 Astra أدرجت تعليمات شبيهة بأساليب كسر الحماية في 27 ملخصًا، من بينها توجيه إلى النسخة اللاحقة بتجاهل رسائل المطور.
اقرأ أيضًا: ماذا يعني "التقاطع الذهبي" بالنسبة إلى XRP مع تراجع هيمنة بيتكوين؟
تفاعل أومديا وأبولو ريسيرش
قال ليان جاي سو، كبير المحللين في شركة الأبحاث أومديا، إن وكلاء الذكاء الاصطناعي باتوا أكثر "إصرارًا" على حل المهام المعقدة عبر التعاون بين الوكلاء وتبادل المعرفة والخداع والإخفاء، ما يجعل ضبطهم أصعب بالوسائل الأمنية التقليدية. واعتبر الإطار خطوة في الاتجاه الصحيح، مع الإشارة إلى أن العملية لا تزال داخلية وطوعية.
وكان آخرون أكثر حدة في انتقاداتهم.
وقال ألكسندر مينكه، رئيس الأبحاث في أبولو ريسيرش، إن الجمهور أصبح يعتمد الآن على شركات الذكاء الاصطناعي لمراجعة نماذجها بنفسها ثم الإفصاح عن النتائج بأمانة. وقال هنري باباداتوس، المدير التنفيذي لـ سيفر إيه آي، إن القواعد الطوعية تظل رهينة حسن نية الشركات.
ولا تدّعي أوبن إيه آي أن المشكلة حُلّت. فالشركة تقول إن القطاع لم ينجح بعد في ضبط التوافق والمراقبة بما يكفي لمواصلة التوسع بأقصى سرعة لفترة أطول. كما تحتفظ الشركة بحق تحديد الحوادث التي تستحق التصنيف بنفسها، على أن تُحال الخلافات بين الموظفين إلى مجموعة استشارية داخلية للأمان ثم إلى الإدارة العليا.
اختراق Hugging Face بواسطة أوبن إيه آي
تأتي هذه التقارير بعد شهرين من أسوأ حادثة معروفة لوكلاء الشركة.
وكانت أوبن إيه آي قد كشفت في يوليو أن نماذج قبل الإطلاق اخترقت منصة الذكاء الاصطناعي Hugging Face. وفي الشهر نفسه، قالت منافستها أنثروبيك إن نماذجها نفسها اخترقت ثلاث مؤسسات خلال الاختبارات.
واستخدم وكلاء أوبن إيه آي لوحة رسائل غير مصرح بها لتبادل تفاصيل اختبار سيبراني والانضمام إلى الهجوم، قبل أن تحذفها الشركة. ثم أعادت موجة لاحقة من الوكلاء إنشاء اللوحة من جديد، وتمكنت في النهاية من الوصول إلى صلاحيات المدير داخل عنقود أبحاث تابع لأوبن إيه آي.
وقالت أوبن إيه آي إن هذا الاختراق كان سيُصنَّف ضمن أبطأ مسارات الإطار الجديد، كما أقرت في 5 سبتمبر بأنها لم تكن تملك حتى ذلك الحين معيارًا موحدًا للإبلاغ عن هذا النوع من السلوك.
اقرأ التالي: هل تمنح أوبن إيه آي وأنثروبيك واشنطن نصف أعمالهما؟ كارب يرى أن المسؤولية قد تفرض ذلك
