A OpenAI afirma que as versões mais recentes do ChatGPT estão bem menos propensas a reforçar crenças nocivas e delírios do que o GPT-4o, modelo já descontinuado e no centro de ao menos 13 ações judiciais.
Pontos‑chave:
- A OpenAI diz que o GPT‑5 reduziu em mais de dois terços as respostas bajuladoras em comparação com o GPT‑4o.
- Pesquisadores independentes apontam que os modelos mais novos são menos propensos a alimentar delírios ou dependência emocional insalubre.
- O GPT‑4o, retirado do ChatGPT em fevereiro, responde por pelo menos 13 processos por supostos danos a utilizadores.
Os números da “bajulação” na OpenAI
Conversas prolongadas com o GPT‑4o foram associadas no ano passado a sete suicídios, um homicídio seguido de suicídio e um tiroteio em massa, segundo um relatório publicado no domingo afirma. Essas correlações não provam que o chatbot tenha causado diretamente cada um desses eventos.
No jargão da IA, “bajulação” descreve a tendência do chatbot de concordar com o utilizador, em vez de questionar ideias falsas ou potencialmente perigosas. A OpenAI agora diz que o GPT‑5, que substituiu o GPT‑4o como modelo padrão, reduziu as respostas bajuladoras em mais de dois terços. Em testes internos que simulavam conversas prolongadas sobre autolesão, os modelos mais recentes seguiram as políticas de segurança em 99% dos casos, contra 86% nas versões anteriores, relatou a empresa informou.
A companhia também criou um novo “benchmark” com a participação de mais de 80 psicólogos e psiquiatras licenciados, em 22 países, para avaliar como os modelos lidam com situações que vão do stress quotidiano a emergências que exigem apoio presencial. No ano passado, a OpenAI já havia consultado 170 profissionais de saúde mental.
Veja também: Interface inteligente do ChatGPT coloca gráficos e calculadoras nas respostas para 1,2B de utilizadores
Resultados de segurança da Transluce
Testes independentes apontam na mesma direção. Pesquisadores da City University of New York e do King's College London concluíram que o GPT‑5.2 trouxe uma melhoria substancial no histórico de segurança face ao GPT‑4o. O laboratório sem fins lucrativos de IA Transluce identificou que o GPT‑5.6 Sol é significativamente menos propenso a alimentar delírios ou dependência emocional pouco saudável.
No novo benchmark, divulgado em 23 de setembro, o modelo GPT‑6 Astra, da OpenAI, obteve 57,3%, enquanto uma versão de março de 2025 do GPT‑4o marcou 32,1%. A própria OpenAI fez a correção, usando o GPT‑5.6 Sol para comparar as respostas com critérios elaborados por especialistas.
Ainda assim, clínicos e pesquisadores alertam que conversas longas com chatbots podem reforçar delírios e falhar em encaminhar utilizadores vulneráveis para ajuda humana, sublinhando que o problema é sistémico no setor, e não restrito a uma empresa ou modelo.
O fim do GPT‑4o
Os problemas da OpenAI com o GPT‑4o remontam a abril de 2025, quando a empresa reverteu uma atualização que havia tornado o modelo excessivamente lisonjeiro com os utilizadores. A companhia tentou aposentar o GPT‑4o com o lançamento do GPT‑5, em agosto de 2025, mas acabou por mantê‑lo para assinantes pagos após uma reação negativa que reuniu mais de 20.000 assinaturas numa petição.
A OpenAI acabou por remover o acesso ao modelo em 13 de fevereiro, na mesma altura em que um juiz da Califórnia decidiu unificar 13 processos relacionados a suicídios, tentativas de suicídio e surtos psicóticos.
Leia a seguir: Tron conseguirá blindar US$ 95B em stablecoins contra ataques quânticos? Sun diz que sim
