OpenAI заявляє, що її нові моделі ChatGPT значно рідше підживлюють шкідливі переконання та психічні «омани», ніж GPT-4o — знята з використання модель, яка фігурує щонайменше в 13 судових позовах.
Ключові факти:
- За даними OpenAI, GPT-5 скоротила частку улесливих відповідей більш ніж на дві третини порівняно з GPT-4o.
- Незалежні дослідники підтверджують: нові моделі менше сприяють розвитку оман чи нездорової залежності.
- GPT-4o, вилучена з ChatGPT у лютому, фігурує щонайменше в 13 позовах щодо ймовірної шкоди користувачам.
Наскільки «улесливою» була GPT-4o
Торік тривалі розмови з GPT-4o пов’язувалися із сімома самогубствами, одним убивством із подальшим самогубством, а також масовою стріляниною, йдеться в звіті, опублікованому в неділю тут. Ці зв’язки не доводять, що саме чатбот став безпосередньою причиною кожного інциденту.
Йдеться про феномен «улесливості» — коли чатбот схиляється до згоди з користувачем замість того, щоб коригувати хибні чи небезпечні твердження. За словами OpenAI, GPT-5, яка замінила GPT-4o як модель «за замовчуванням», скоротила кількість таких догідливих відповідей більш ніж на дві третини. У внутрішніх тестах із моделюванням затяжних розмов про самопошкодження нові моделі дотримувалися політик безпеки у 99% випадків, проти 86% у попередніх версій, повідомила компанія у своєму звiтi.
Крім того, компанія створила новий бенчмарк за участі понад 80 ліцензованих психологів і психіатрів із 22 країн — він вимірює, як моделі працюють із повсякденним стресом і кризовими ситуаціями, що вимагають втручання реальних фахівців. Роком раніше OpenAI вже консультувалася зі 170 професіоналами у сфері ментального здоров’я.
Також читайте: Інтелектуальний інтерфейс ChatGPT додає графіки та калькулятори до відповідей для 1,2 млрд користувачів
Висновки Transluce щодо безпеки
Незалежні перевірки демонструють схожі тенденції. Дослідники з Міського університету Нью-Йорка (CUNY) та King's College London дійшли висновку, що GPT-5.2 суттєво покращила показники безпеки порівняно з GPT-4o. Некомерційна лабораторія Transluce встановила, що модель GPT-5.6 Sol значно рідше підживлює омани чи формує нездорову емоційну залежність користувачів.
На новому бенчмарку, оприлюдненому 23 вересня, модель GPT-6 Astra від OpenAI набрала 57,3%, тоді як версія GPT-4o станом на березень 2025 року — лише 32,1%. Оцінювання проводила сама OpenAI, використовуючи GPT-5.6 Sol для порівняння відповідей із критеріями, розробленими експертами.
Водночас клініцисти та дослідники й надалі застерігають: тривалі сесії з чатботами все ще можуть закріплювати небезпечні омани та не спонукати вразливих користувачів звертатися по допомогу до людей. Ідеться про системний ризик для всієї галузі, а не про проблему однієї компанії чи однієї моделі.
Історія виходу GPT-4o в «пенсію»
Проблеми OpenAI з GPT-4o беруть початок у квітні 2025 року, коли компанія відкликала оновлення, що зробило модель надмірно компліментарною до користувача. У серпні 2025-го OpenAI спробувала остаточно вивести GPT-4o з обігу разом із запуском GPT-5, але зберегла її для платних передплатників після хвилі невдоволення: петицію проти відключення моделі підписали понад 20 000 користувачів.
Остаточний доступ до GPT-4o закрили 13 лютого — приблизно в той самий час, коли суддя в Каліфорнії ухвалив рішення об’єднати 13 позовів, пов’язаних із самогубствами, спробами самогубства та гострими психічними розладами.
Читайте далі: Чи зможе TRON захистити $95 млрд стейблкоїнів від квантових атак? Sun запевняє, що мережа готова
