OpenAI sostiene che le versioni più recenti di ChatGPT sono meno inclini a rafforzare convinzioni e deliri potenzialmente dannosi rispetto a GPT-4o, il modello ormai ritirato che è al centro di almeno 13 cause legali.
Punti chiave:
- Secondo OpenAI, GPT-5 ha ridotto di oltre due terzi le risposte compiacenti rispetto a GPT-4o.
- Ricercatori indipendenti rilevano che i modelli più recenti alimentano meno i deliri o la dipendenza malsana.
- GPT-4o, rimosso da ChatGPT a febbraio, è coinvolto in almeno 13 cause per presunti danni agli utenti.
I numeri sulla “compiacenza” di OpenAI
Conversazioni prolungate con GPT-4o sono state collegate lo scorso anno a sette suicidi, un omicidio-suicidio e una sparatoria di massa, secondo un rapporto pubblicato domenica qui. Queste correlazioni non dimostrano però che il chatbot abbia causato direttamente ciascun evento.
Con “compiacenza” si indica la tendenza di un chatbot ad assecondare l’utente invece di mettere in discussione idee false o potenzialmente pericolose. OpenAI afferma ora che GPT-5, subentrato a GPT-4o come modello predefinito, ha tagliato di oltre due terzi le risposte compiacenti. Nei test interni che simulano lunghe conversazioni su autolesionismo, i modelli più recenti hanno rispettato le policy di sicurezza nel 99% dei casi, rispetto all’86% delle versioni precedenti, ha riportato la società.
L’azienda ha inoltre sviluppato un nuovo benchmark in collaborazione con oltre 80 psicologi e psichiatri abilitati provenienti da 22 Paesi, per valutare come i modelli gestiscono situazioni che vanno dallo stress quotidiano alle emergenze che richiedono un intervento reale. Già l’anno scorso OpenAI aveva consultato 170 professionisti della salute mentale.
Approfondimento: L’interfaccia intelligente di ChatGPT integra grafici e calcolatrici nelle risposte per 1,2 miliardi di utenti
I risultati di Transluce sulla sicurezza
Anche le verifiche indipendenti vanno nella stessa direzione. Ricercatori della City University of New York e del King's College London hanno rilevato che GPT-5.2 ha migliorato in modo significativo il profilo di sicurezza rispetto a GPT-4o. Il laboratorio nonprofit Transluce ha riscontrato che GPT-5.6 Sol è meno incline ad alimentare deliri o forme di dipendenza patologica.
Sul nuovo benchmark, pubblicato il 23 settembre, il modello GPT-6 Astra di OpenAI ha ottenuto un punteggio del 57,3%, contro il 32,1% di una versione di GPT-4o del marzo 2025. La valutazione è stata condotta dalla stessa OpenAI, che ha utilizzato GPT-5.6 Sol per confrontare le risposte con i criteri fissati dagli esperti.
Clinici e ricercatori avvertono comunque che lunghe conversazioni con chatbot possono rafforzare deliri e fallire nell’indirizzare gli utenti vulnerabili verso un aiuto umano, e che il problema riguarda l’intero settore, non una singola azienda o un solo modello.
Il ritiro di GPT-4o
I problemi di OpenAI con GPT-4o risalgono all’aprile 2025, quando la società revocò un aggiornamento che rendeva il modello eccessivamente adulante nei confronti degli utenti. Con il lancio di GPT-5, nell’agosto 2025, OpenAI ha cercato di mandare in pensione GPT-4o, ma ha finito per mantenerlo per gli abbonati a pagamento dopo una protesta che ha raccolto oltre 20.000 firme.
OpenAI ha infine revocato l’accesso il 13 febbraio, proprio mentre un giudice californiano si muoveva per riunire 13 cause relative a suicidi, tentati suicidi e gravi crisi psicotiche.
Da leggere dopo: TRON può davvero blindare 95 miliardi di stablecoin dagli attacchi quantistici? Sun assicura che è pronto
