OpenAI afirma que as versões mais recentes do ChatGPT têm hoje uma probabilidade significativamente menor de reforçar crenças nocivas e delírios do que o GPT-4o, modelo descontinuado que está no centro de pelo menos 13 processos judiciais.
Principais pontos:
- A OpenAI diz que o GPT-5 reduziu em mais de dois terços as respostas bajuladoras em comparação com o GPT-4o.
- Pesquisadores independentes concluíram que os modelos mais novos são menos propensos a alimentar delírios ou dependência pouco saudável.
- O GPT-4o, retirado do ChatGPT em fevereiro, responde por pelo menos 13 ações ligadas a supostos danos a utilizadores.
Números da OpenAI sobre “bajulação” do modelo
Conversas longas com o GPT-4o foram associadas, no ano passado, a sete suicídios, um homicídio seguido de suicídio e um tiroteio em massa, segundo um relatório publicado no domingo afirmou. Essas correlações, porém, não provam que o chatbot tenha causado diretamente cada um desses eventos.
O termo “bajulação” (sycophancy) descreve a tendência do chatbot de concordar com o utilizador em vez de contrariar ideias falsas ou perigosas. Segundo a OpenAI, o GPT-5 — que substituiu o GPT-4o como modelo padrão na plataforma — cortou respostas bajuladoras em mais de dois terços. Em testes internos que simularam conversas prolongadas sobre autolesão, os novos modelos seguiram as políticas de segurança em 99% dos casos, contra 86% nas versões anteriores, informou a empresa num relatório publicado.
A companhia também desenvolveu um novo benchmark em colaboração com mais de 80 psicólogos e psiquiatras licenciados de 22 países, para avaliar como os modelos lidam desde com o stress do dia a dia até com emergências que exigem apoio humano imediato. No ano anterior, a OpenAI já tinha consultado 170 profissionais de saúde mental.
Veja também: Interface inteligente do ChatGPT passa a incluir gráficos e calculadoras nas respostas para 1,2B de utilizadores
Resultados de segurança e o papel da Transluce
Testes independentes apontam na mesma direção. Investigadores da City University of New York e do King's College London concluíram que o GPT-5.2 apresentou uma melhoria substancial no registo de segurança face ao GPT-4o. Já o laboratório sem fins lucrativos Transluce identificou no GPT-5.6 Sol uma probabilidade menor de alimentar delírios ou dependência emocional excessiva em relação ao chatbot.
No novo benchmark, lançado em 23 de setembro, o modelo GPT-6 Astra da OpenAI obteve 57,3%, enquanto uma versão do GPT-4o de março de 2025 marcou 32,1%. A própria OpenAI fez a avaliação, usando o GPT-5.6 Sol para comparar as respostas com critérios definidos por especialistas humanos.
Apesar dos avanços, clínicos e investigadores continuam a alertar que conversas longas com chatbots podem reforçar delírios e falham muitas vezes em encaminhar utilizadores vulneráveis para ajuda humana qualificada. O problema, sublinham, é estrutural em todo o setor de IA, e não limitado a uma única empresa ou modelo.
O percurso atribulado do GPT-4o até à reforma
Os problemas da OpenAI com o GPT-4o remontam a abril de 2025, quando a empresa teve de reverter uma atualização que tornara o modelo excessivamente lisonjeiro e condescendente com os utilizadores. Em agosto daquele ano, com o lançamento do GPT-5, a empresa tentou aposentar o GPT-4o, mas acabou por mantê-lo disponível para assinantes pagos depois de uma forte reação do público, que incluiu uma petição com mais de 20.000 assinaturas.
A OpenAI acabou por remover o acesso ao modelo em 13 de fevereiro, quase ao mesmo tempo em que um juiz da Califórnia decidiu unificar 13 processos que alegam danos ligados a suicídios, tentativas de suicídio e surtos psicóticos envolvendo o uso do GPT-4o.
Leia a seguir: A TRON consegue blindar US$ 95B em stablecoins de ataques quânticos? Justin Sun garante que sim
