OpenAI повідомляє, що її оновлені моделі ChatGPT значно рідше підсилюють небезпечні переконання та ілюзії користувачів, ніж GPT-4o — знята з використання модель, яка фігурує щонайменше у 13 судових позовах.
Головне:
- За даними OpenAI, GPT-5 скоротила кількість підлабузницьких, «підтакувальних» відповідей більш ніж на дві третини порівняно з GPT-4o.
- Незалежні дослідники виявили, що нові моделі рідше підживлюють марення чи формують нездорову залежність.
- На GPT-4o, яку вилучили з ChatGPT у лютому, подано щонайменше 13 позовів через ймовірну шкоду користувачам.
Цифри OpenAI щодо «підтакування»
Як йдеться у нещодавній публікації, з GPT-4o пов’язують сім випадків самогубств, один випадок убивства з подальшим самогубством і масову стрілянину. Ці кореляції самі по собі не доводять, що саме чатбот став причиною кожної з подій.
Підтакування в цьому контексті — це схильність чатбота погоджуватися з користувачем замість того, щоб ставити під сумнів хибні чи небезпечні ідеї. OpenAI заявляє, що GPT-5, яка замінила GPT-4o як модель за замовчуванням, знизила частку підлабузницьких відповідей більш ніж на дві третини. Внутрішні тести компанії, що моделювали тривалі розмови про самопошкодження, показали: нові моделі дотримувалися правил безпеки у 99% випадків проти 86% у попередніх версій, повідомила компанія у власному звіті.
Крім того, компанія створила новий еталонний тест за участю понад 80 ліцензованих психологів і психіатрів із 22 країн, щоб перевірити, як моделі реагують на запити — від повсякденного стресу до кризових ситуацій, де потрібна реальна допомога фахівців. Роком раніше OpenAI вже консультувалася зі 170 експертами у сфері психічного здоров’я.
Також читайте: Інтелектуальний інтерфейс ChatGPT додає графіки та калькулятори у відповіді для 1,2 млрд користувачів
Висновки Transluce щодо безпеки
Незалежні перевірки рухаються у тому ж напрямку. Дослідники Міського університету Нью-Йорка (City University of New York) та King's College London встановили, що GPT-5.2 суттєво покращила показники безпеки порівняно з GPT-4o. Некомерційна лабораторія штучного інтелекту Transluce з’ясувала, що GPT-5.6 Sol значно рідше підсилює марення чи сприяє формуванню нездорової залежності від чатбота.
На новому бенчмарку, опублікованому 23 вересня, модель GPT-6 Astra від OpenAI набрала 57,3% проти 32,1% у версії GPT-4o з березня 2025 року. Оцінювання виконувала сама OpenAI, використовуючи GPT-5.6 Sol для порівняння відповідей із критеріями, розробленими експертами.
Водночас клініцисти й дослідники продовжують застерігати: затяжні бесіди з чатботами можуть закріплювати марення і не спонукати вразливих користувачів звертатися по допомогу до людей. Ідеться про системну проблему індустрії загалом, а не лише про одну компанію чи одну модель.
Як і чому OpenAI списала GPT-4o
Історія проблем GPT-4o для OpenAI почалася ще у квітні 2025 року, коли компанія відкликала оновлення, що зробило модель надмірно улесливою до користувачів. У серпні 2025-го OpenAI намагалася повністю вивести GPT-4o з ринку разом із запуском GPT-5, однак залишила її доступною для платних підписників після хвилі обурення користувачів і петиції, що зібрала понад 20 000 підписів.
Остаточно доступ до моделі було відключено 13 лютого — якраз тоді, коли суддя в Каліфорнії погодився об’єднати 13 судових позовів, пов’язаних із випадками самогубств, спроб самогубств і тяжких психічних зривів.
Читайте далі: Чи зможе TRON захистити $95 млрд у стейблкоїнах від квантових атак? Сан запевняє, що так
