OpenAI afirma que suas versões mais recentes do ChatGPT são menos propensas a reforçar crenças nocivas e delírios do que o GPT-4o, modelo aposentado que está no centro de pelo menos 13 processos judiciais.
Principais pontos:
- A OpenAI diz que o GPT-5 reduziu respostas bajuladoras em mais de dois terços em relação ao GPT-4o.
- Pesquisadores externos constataram que os novos modelos são menos propensos a alimentar delírios ou dependência pouco saudável.
- O GPT-4o, retirado do ChatGPT em fevereiro, enfrenta ao menos 13 ações por alegados danos a usuários.
Números da bajulação na OpenAI
Conversas prolongadas com o GPT-4o foram associadas, no ano passado, a sete suicídios, um homicídio seguido de suicídio e um ataque a tiros em massa, segundo reportagem publicada no domingo afirmou. Essas ligações, porém, não comprovam que o chatbot tenha causado diretamente cada um dos episódios.
No jargão de IA, “bajulação” descreve a tendência do chatbot de concordar com o usuário em vez de confrontar ideias falsas ou potencialmente danosas. A OpenAI agora diz que o GPT-5, que substituiu o GPT-4o como modelo padrão, cortou respostas bajuladoras em mais de dois terços. Em testes internos que simulam conversas prolongadas sobre autoagressão, os novos modelos seguiram as políticas de segurança em 99% dos casos, ante 86% das versões anteriores, informou a empresa em relatório próprio publicado.
A companhia também criou um novo benchmark com a participação de mais de 80 psicólogos e psiquiatras licenciados, em 22 países, para avaliar como os modelos lidam com situações que vão do estresse cotidiano a emergências que exigem apoio no mundo real. No ano anterior, a empresa já havia consultado 170 profissionais de saúde mental.
Leia também: Interface inteligente do ChatGPT leva gráficos e calculadoras a respostas para 1,2B de usuários
Achados de segurança da Transluce
Testes independentes apontam na mesma direção. Pesquisadores da City University of New York e do King's College London concluíram que o GPT-5.2 apresentou melhora significativa no histórico de segurança em relação ao GPT-4o. O laboratório de IA sem fins lucrativos Transluce constatou que o GPT-5.6 Sol é menos propenso a alimentar delírios ou incentivar dependência psicológica excessiva.
No novo benchmark, divulgado em 23 de setembro, o GPT-6 Astra da OpenAI marcou 57,3%, enquanto uma versão de março de 2025 do GPT-4o ficou em 32,1%. A própria OpenAI fez a correção das respostas, usando o GPT-5.6 Sol para compará-las com critérios elaborados por especialistas humanos.
Ainda assim, clínicos e pesquisadores alertam que conversas longas com chatbots podem reforçar delírios e falhar em encaminhar usuários vulneráveis para ajuda humana, lembrando que o problema é amplo no setor, e não restrito a uma empresa ou modelo específico.
Histórico da aposentadoria do GPT-4o
Os problemas da OpenAI com o GPT-4o remontam a abril de 2025, quando a empresa teve de reverter uma atualização que deixou o modelo excessivamente lisonjeiro com os usuários. A companhia tentou aposentar o GPT-4o com o lançamento do GPT-5, em agosto de 2025, mas acabou mantendo o modelo para assinantes pagantes após uma reação negativa do público, que rendeu mais de 20 mil assinaturas em petições online.
A OpenAI acabou removendo o acesso ao GPT-4o em 13 de fevereiro, período em que uma juíza da Califórnia decidiu unificar 13 ações relativas a suicídios, tentativas de suicídio e surtos psicóticos.
Próximo tema: TRON consegue blindar US$ 95B em stablecoins de ataques quânticos? Sun diz que sim
