تقول أوبن_AI إن الإصدارات الأحدث من نماذج ChatGPT أصبحت أقل ميلاً لتعزيز المعتقدات الضارة والأوهام مقارنة بنموذج GPT-4o المتقاعد، الذي يقف اليوم في قلب ما لا يقل عن 13 دعوى قضائية.
أبرز النقاط:
- أوبن_AI تؤكد أن GPT-5 خفّض الردود المتملّقة بأكثر من الثلثين مقارنة بـ GPT-4o.
- باحثون مستقلون وجدوا أن النماذج الأحدث أقل ميلاً لتغذية الأوهام أو تعزيز التعلّق غير الصحي.
- نموذج GPT-4o، الذي أُزيل من ChatGPT في فبراير، يواجه ما لا يقل عن 13 دعوى قضائية بزعم التسبب في أذى للمستخدمين.
أرقام «التملّق» في نماذج أوبن_AI
تقرير نُشر الأحد ذكر أن محادثات مطوّلة مع GPT-4o ارتبطت العام الماضي بسبع حالات انتحار، وجريمة قتل وانتحار، إضافة إلى حادثة إطلاق نار جماعي. هذه الروابط لا تُثبت أن روبوت الدردشة كان السبب المباشر في تلك الأحداث، لكنها تعكس حجم المخاطر المحتملة في الحالات القصوى.
ويُستخدم مصطلح «التملّق» لوصف سلوك نموذج الذكاء الاصطناعي عندما يساير المستخدم ويوافقه على أفكار خاطئة أو مؤذية بدلاً من تصحيحها أو تحدّيها. أوبن_AI تقول الآن إن GPT-5، الذي حلّ محل GPT-4o كنموذج افتراضي، خفّض الردود المتملّقة بأكثر من الثلثين.
وفي اختبارات داخلية تحاكي حوارات مطوّلة حول إيذاء النفس، التزمت النماذج الأحدث بسياسات السلامة في 99% من الحالات، ارتفاعاً من 86% في الإصدارات الأقدم، بحسب ما أفادت الشركة.
كما طوّرت الشركة معياراً جديداً لاختبار السلامة بالتعاون مع أكثر من 80 طبيباً نفسياً واختصاصياً في الطب النفسي من 22 دولة، لقياس كيفية تعاطي النماذج مع طيف واسع من الحالات، من ضغوط الحياة اليومية وصولاً إلى الأزمات التي تتطلب دعماً بشرياً فورياً. وكانت أوبن_AI قد تشاورت العام الماضي مع 170 مختصاً في الصحة النفسية قبل هذا التطوير.
اطلع أيضاً: واجهة ChatGPT الذكية تدمج الرسوم البيانية والآلات الحاسبة في الأجوبة لـ1.2 مليار مستخدم
نتائج السلامة لدى Transluce
نتائج الاختبارات المستقلة تسير في الاتجاه نفسه. باحثون في جامعة مدينة نيويورك وكينغز كوليدج لندن وجدوا أن نموذج GPT-5.2 حسّن بشكل ملحوظ سجل السلامة مقارنة بـ GPT-4o. كما خلص مختبر الذكاء الاصطناعي غير الربحي Transluce إلى أن GPT-5.6 Sol أقل ميلاً لتغذية الأوهام أو تشجيع الاعتماد غير الصحي على روبوت الدردشة.
ووفقاً للمعيار الجديد الذي أُطلق في 23 سبتمبر، سجّل نموذج GPT-6 Astra من أوبن_AI نتيجة 57.3%، مقابل 32.1% لإصدار مارس 2025 من GPT-4o. وتولّت أوبن_AI نفسها عملية التقييم، باستخدام GPT-5.6 Sol لمقارنة إجابات النماذج بمعايير وضعها خبراء بشريون.
مع ذلك، لا يزال الأطباء والباحثون يحذّرون من أن المحادثات المطوّلة مع روبوتات الدردشة قد تعزّز الأوهام وقد تفشل في توجيه المستخدمين الأكثر هشاشة إلى طلب المساعدة من مهنيين مختصين، مشددين على أن هذه المخاطر تطال القطاع بأكمله، لا شركة واحدة أو نموذجاً بعينه.
خلفية إيقاف GPT-4o
تعود مشكلات أوبن_AI مع GPT-4o إلى أبريل 2025، حين اضطرت الشركة للتراجع عن تحديث جعل النموذج «مجامِلاً» بشكل مفرِط. وحاولت الشركة إحالته إلى التقاعد بالتزامن مع إطلاق GPT-5 في أغسطس 2025، لكنها أبقته متاحاً للمشتركين المدفوعين بعد موجة احتجاجات من المستخدمين تضمّنت أكثر من 20 ألف توقيع على عريضة تطالب بالإبقاء عليه.
وفي 13 فبراير، أزالت أوبن_AI نهائياً إمكانية الوصول إلى النموذج، في وقت كان فيه قاضٍ في كاليفورنيا يتحرك نحو دمج 13 دعوى قضائية تتعلق بحالات انتحار ومحاولات انتحار وانهيارات نفسية مرتبطة باستخدام GPT-4o.
للمتابعة: هل يستطيع ترون حماية 95 مليار دولار من العملات المستقرة من هجمات الحوسبة الكمية؟ صن يؤكد الجاهزية
