OpenAI afirma que seus modelos mais recentes do ChatGPT têm menos probabilidade de reforçar crenças e delírios prejudiciais do que o GPT-4o, modelo já aposentado e no centro de pelo menos 13 ações judiciais.
Pontos-chave:
- A OpenAI diz que o GPT-5 reduziu em mais de dois terços as respostas bajuladoras em comparação com o GPT-4o.
- Pesquisadores independentes observaram que os modelos mais novos são menos propensos a alimentar delírios ou dependência emocional pouco saudável.
- O GPT-4o, retirado do ChatGPT em fevereiro, é alvo de ao menos 13 processos por supostos danos a usuários.
Números da “bajulação” na OpenAI
Conversas prolongadas com o GPT-4o foram associadas, no ano passado, a sete suicídios, um homicídio seguido de suicídio e um ataque a tiros em massa, segundo um relatório publicado no domingo afirmou. Essas ligações, porém, não comprovam que o chatbot tenha causado diretamente cada um desses eventos.
No jargão de IA, “bajulação” descreve a tendência do chatbot de concordar com o usuário em vez de questionar ideias falsas ou potencialmente danosas. A OpenAI agora afirma que o GPT-5, que substituiu o GPT-4o como modelo padrão, cortou as respostas bajuladoras em mais de dois terços. Em testes internos que simulam conversas prolongadas sobre autolesão, os modelos mais novos seguiram as políticas de segurança em 99% dos casos, acima dos 86% registrados pelas versões anteriores, informou a companhia em relatório próprio divulgado.
A empresa também construiu um novo benchmark com a participação de mais de 80 psicólogos e psiquiatras licenciados em 22 países, para testar como os modelos lidam com situações que vão do estresse cotidiano a emergências que exigem encaminhamento para apoio no mundo real. No ano anterior, a OpenAI já havia consultado 170 profissionais de saúde mental.
Veja também: UI inteligente do ChatGPT coloca gráficos e calculadoras nas respostas para 1,2 bilhão de usuários
Resultados de segurança da Transluce
Testes independentes apontam na mesma direção. Pesquisadores da City University of New York e do King's College London constataram que o GPT-5.2 melhorou de forma significativa o histórico de segurança em relação ao GPT-4o. O laboratório de IA sem fins lucrativos Transluce verificou que o GPT-5.6 Sol é menos propenso a alimentar delírios ou incentivar uma dependência psicológica insalubre.
No novo benchmark, divulgado em 23 de setembro, o modelo GPT-6 Astra da OpenAI obteve 57,3%, enquanto uma versão de março de 2025 do GPT-4o marcou 32,1%. A própria OpenAI fez a correção das respostas, usando o GPT-5.6 Sol para confrontar as saídas dos modelos com critérios elaborados por especialistas.
Ainda assim, clínicos e pesquisadores alertam que conversas longas com chatbots podem reforçar delírios e falhar em direcionar usuários vulneráveis para ajuda humana, e que esse é um risco estrutural de toda a indústria, não de uma empresa ou modelo específico.
Histórico da aposentadoria do GPT-4o
Os problemas da OpenAI com o GPT-4o remontam a abril de 2025, quando a empresa recuou de uma atualização que deixou o modelo excessivamente lisonjeiro com os usuários. A companhia tentou aposentar o GPT-4o com o lançamento do GPT-5, em agosto de 2025, mas manteve o modelo para assinantes pagos após uma reação negativa: uma petição contrária reuniu mais de 20 mil assinaturas.
A OpenAI finalmente removeu o acesso em 13 de fevereiro, aproximadamente na mesma época em que uma juíza da Califórnia decidiu unificar 13 processos relacionados a suicídios, tentativas de suicídio e surtos psicóticos envolvendo o uso do modelo.
Na sequência: TRON consegue blindar US$ 95 bi em stablecoins contra ataques quânticos? Sun diz que sim
