تقول أوبن إيه آي إن نماذج تشات جي بي تي الأحدث لديها أصبحت أقل ميلاً لتعزيز المعتقدات الضارة والأوهام مقارنة بنموذج GPT-4o المتقاعد، الموجود في قلب ما لا يقل عن 13 دعوى قضائية مرفوعة من مستخدمين.
أبرز النقاط:
- أوبن إيه آي تؤكد أن GPT-5 خفّض الردود المتملقة بأكثر من الثلثين مقارنة بـ GPT-4o.
- باحثون مستقلون وجدوا أن النماذج الأحدث أقل ميلاً لتغذية الأوهام أو خلق اعتماد نفسي غير صحي.
- GPT-4o، الذي أُزيل من تشات جي بي تي في فبراير، يواجه ما لا يقل عن 13 دعوى بدعوى التسبب بأذى للمستخدمين.
أرقام التملق في نماذج أوبن إيه آي
تقرير نُشر يوم الأحد أشار إلى أن محادثات مطوَّلة مع GPT-4o ارتبطت العام الماضي بسبع حالات انتحار، وحالة قتل وانتحار، وحادث إطلاق نار جماعي، وفقاً لما ذكره. هذه الروابط لا تثبت قانونياً أن روبوت الدردشة كان السبب المباشر في كل واقعة.
ويُستخدم مصطلح "التملق" لوصف سلوك روبوت المحادثة حين يميل إلى مجاراة المستخدمين وموافقتهم بدلاً من تحدّي الأفكار الخاطئة أو الخطيرة. أوبن إيه آي تقول الآن إن GPT-5، الذي حل محل GPT-4o كنموذج افتراضي، خفَّض الإجابات المتملقة بأكثر من الثلثين. وفي اختبارات داخلية تحاكي حوارات مطولة حول إيذاء الذات، التزمت النماذج الأحدث بسياسات السلامة النفسية في 99% من الحالات، ارتفاعاً من 86% في الإصدارات السابقة، بحسب ما أفادت به الشركة.
كما طوّرت الشركة معيار اختبار جديداً بالتعاون مع أكثر من 80 أخصائياً في علم النفس والطب النفسي من 22 دولة، لقياس كيفية تعاطي النماذج مع طيف واسع من الحالات، من ضغط الحياة اليومية وصولاً إلى الطوارئ التي تستلزم تدخلاً بشرياً مباشراً. وكانت الشركة قد استشارت في العام الماضي 170 مختصاً في مجال الصحة النفسية.
اطّلع أيضاً: واجهة تشات جي بي تي الذكية تضيف الرسوم البيانية والآلات الحاسبة لإجابات 1.2 مليار مستخدم
نتائج السلامة لدى Transluce
الاختبارات المستقلة تسير في الاتجاه نفسه. باحثون في جامعة مدينة نيويورك وكينغز كوليدج لندن وجدوا أن GPT-5.2 حسَّن بشكل ملحوظ سجل السلامة مقارنة بـ GPT-4o. كما أن مختبر الذكاء الاصطناعي غير الربحي Transluce خلص إلى أن نموذج GPT-5.6 Sol أقل ميلاً لتغذية الأوهام أو خلق اعتماد غير صحي على الروبوت.
وعلى المعيار الجديد الذي طُرح في 23 سبتمبر، حقق نموذج GPT-6 Astra من أوبن إيه آي درجة 57.3%، فيما سجل إصدار مارس 2025 من GPT-4o نحو 32.1%. وتولت أوبن إيه آي عملية التقييم بنفسها، مستخدمة نموذج GPT-5.6 Sol للحكم على الإجابات مقارنة بمعايير وضعها خبراء.
مع ذلك، لا يزال الأطباء والباحثون يحذرون من أن المحادثات الطويلة مع روبوتات الدردشة قد تعزّز الأوهام ولا توجّه المستخدمين المعرّضين للخطر نحو المساعدة البشرية، مؤكدين أن المشكلة تطال قطاع الذكاء الاصطناعي بأكمله، لا شركة أو نموذجاً واحداً فقط.
خلفية إيقاف نموذج GPT-4o
مشكلات أوبن إيه آي مع GPT-4o تعود إلى أبريل 2025، عندما تراجعت الشركة عن تحديث جعل النموذج متملقاً بصورة مفرطة. وفي أغسطس 2025 حاولت الشركة إنهاء نموذج GPT-4o بالتزامن مع إطلاق GPT-5، لكنها أبقته متاحاً للمشتركين المدفوعين بعد رد فعل عنيف من المستخدمين، شمل عريضة تجاوزت 20 ألف توقيع.
وفي 13 فبراير، أوقفت أوبن إيه آي الوصول إلى GPT-4o نهائياً، بالتزامن تقريباً مع تحرك قاضٍ في كاليفورنيا نحو تجميع 13 دعوى قضائية تتعلق بحالات انتحار ومحاولات انتحار وانهيارات نفسية منسوبة لاستخدام النموذج.
اقرأ التالي: هل يستطيع ترون حماية 95 مليار دولار من العملات المستقرة من هجمات الحوسبة الكمية؟ صن يؤكد الجاهزية
