OpenAI утверждает, что её новые модели ChatGPT значительно реже подпитывают вредные убеждения и опасные иллюзии пользователей, чем GPT-4o — снятая с эксплуатации версия, которая фигурирует как минимум в 13 судебных исках.
Ключевые факты:
- По данным OpenAI, в GPT-5 число «поддакивающих» ответов сократилось более чем на две трети по сравнению с GPT-4o.
- Внешние исследователи обнаружили, что новые модели реже усиливают бредовые идеи и нездоровую зависимость от чат-бота.
- GPT-4o, удалённая из ChatGPT в феврале, фигурирует как минимум в 13 исках о вреде пользователям.
Цифры OpenAI по «поддакиванию»
Как говорится в опубликованном в воскресенье отчёте WSJ, длительные диалоги с GPT-4o связывали в прошлом году с семью случаями самоубийств, одним убийством с последующим самоубийством и одной массовой стрельбой. Эти корреляции не доказывают, что именно чат-бот стал прямой причиной трагедий.
Под «поддакиванием» понимают склонность модели соглашаться с пользователем вместо того, чтобы оспаривать ложные или потенциально опасные идеи. По словам OpenAI, GPT-5, сменившая GPT-4o в качестве модели по умолчанию, снизила долю таких ответов более чем на две трети. Во внутренних тестах, имитирующих продолжительные разговоры о самоповреждении, новые модели в 99% случаев строго соблюдали политики безопасности, против 86% у прошлых версий, сообщила компания в отдельном материале Android Headlines.
Кроме того, OpenAI создала новый тестовый стандарт при участии более чем 80 практикующих психологов и психиатров из 22 стран. Бенчмарк оценивает, как модели ведут себя в ситуациях от повседневного стресса до острых кризисов, где пользователю требуется уже не цифровая, а реальная профессиональная помощь. Годом ранее компания консультировалась ещё с 170 специалистами в сфере психического здоровья.
Также по теме: Интерфейс ChatGPT с «умным» UI встраивает графики и калькуляторы в ответы для 1,2 млрд пользователей
Выводы Transluce и независимых исследователей
Независимые проверки демонстрируют схожую динамику. Учёные из Городского университета Нью-Йорка (CUNY) и King's College London пришли к выводу, что GPT-5.2 существенно улучшила показатели безопасности по сравнению с GPT-4o. Некоммерческая лаборатория ИИ Transluce установила, что GPT-5.6 Sol заметно реже подпитывает бредовые идеи или формирует нездоровую эмоциональную зависимость.
В новом бенчмарке, опубликованном 23 сентября, модель GPT-6 Astra от OpenAI набрала 57,3%, тогда как версия GPT-4o образца марта 2025 года показала 32,1%. Оценивание OpenAI проводила самостоятельно, используя GPT-5.6 Sol для сравнения ответов моделей с критериями, составленными экспертами.
При этом клиницисты и исследователи продолжают предупреждать: продолжительные сессии с чат-ботами всё равно могут закреплять опасные заблуждения и не подталкивать уязвимых пользователей к общению с живыми специалистами. И это, по их словам, проблема всего рынка ИИ, а не одной компании и не одной конкретной модели.
Как уходила GPT-4o
Проблемы OpenAI с GPT-4o начались в апреле 2025 года, когда компании пришлось откатить обновление, сделавшее модель чрезмерно «угодливой» и комплиментарной. В августе 2025-го, запуская GPT-5, OpenAI попыталась полностью вывести GPT-4o из обращения, но под давлением платных подписчиков — более 20 000 подписей под петицией — оставила к ней доступ в платных планах.
Окончательно доступ к GPT-4o был закрыт 13 февраля. Примерно в то же время судья в Калифорнии решил объединить 13 исков, связанных с самоубийствами, попытками суицида и тяжёлыми психическими срывами, в которых фигурировали диалоги с этой моделью.
Читайте далее: Сможет ли TRON защитить $95 млрд в стейблкоинах от квантовых атак? Джастин Сан уверяет, что сеть готова
