OpenAI sostiene che le versioni più recenti di ChatGPT siano molto meno inclini a rafforzare convinzioni distorte e deliri rispetto a GPT-4o, il modello ormai ritirato che figura al centro di almeno 13 cause legali.
Punti chiave:
- OpenAI afferma che GPT-5 ha ridotto di oltre due terzi le risposte compiacenti rispetto a GPT-4o.
- Ricercatori indipendenti rilevano che i nuovi modelli alimentano meno deliri e dipendenza malsana.
- GPT-4o, rimosso da ChatGPT a febbraio, è coinvolto in almeno 13 azioni legali per presunti danni agli utenti.
I numeri sulla “compiacenza” di OpenAI
Secondo un rapporto pubblicato domenica, le conversazioni prolungate con GPT-4o sono state collegate lo scorso anno a sette suicidi, un omicidio–suicidio e una sparatoria di massa, pur senza dimostrare che il chatbot sia stato la causa diretta di ciascun evento si legge.
Per “compiacenza” si intende la tendenza di un chatbot ad assecondare l’utente, invece di mettere in discussione idee false o potenzialmente dannose. OpenAI afferma che GPT-5, subentrato a GPT-4o come modello di default, ha ridotto le risposte compiacenti di oltre due terzi. Nei test interni che simulano lunghe conversazioni sull’autolesionismo, i modelli più recenti hanno rispettato le policy di sicurezza nel 99% dei casi, rispetto all’86% delle versioni precedenti, ha riportato l’azienda.
La società ha inoltre sviluppato un nuovo benchmark insieme a oltre 80 psicologi e psichiatri abilitati provenienti da 22 Paesi, per valutare come i modelli gestiscono situazioni che vanno dallo stress quotidiano alle emergenze che richiedono intervento nel mondo reale. Già l’anno scorso OpenAI aveva consultato 170 professionisti della salute mentale.
Da leggere anche: La nuova interfaccia intelligente di ChatGPT integra grafici e calcolatrici nelle risposte per 1,2 miliardi di utenti
I risultati di sicurezza di Transluce
Anche i test indipendenti vanno nella stessa direzione. Ricercatori della City University of New York e del King's College London hanno rilevato che GPT-5.2 migliora in modo significativo il profilo di sicurezza di GPT-4o. Il laboratorio non profit Transluce ha inoltre riscontrato che GPT-5.6 Sol è meno propenso ad alimentare deliri o forme di dipendenza malsana.
Sul nuovo benchmark, pubblicato il 23 settembre, il modello GPT-6 Astra di OpenAI ha ottenuto un punteggio del 57,3%, mentre una versione di GPT-4o del marzo 2025 si è fermata al 32,1%. La valutazione è stata effettuata dalla stessa OpenAI, utilizzando GPT-5.6 Sol per confrontare le risposte con criteri elaborati da esperti umani.
Clinici e ricercatori continuano però ad avvertire che conversazioni molto lunghe con i chatbot possono rafforzare i deliri e non indirizzare in modo efficace gli utenti vulnerabili verso un aiuto umano. E sottolineano che il problema riguarda l’intero settore, non una sola azienda o un singolo modello.
La storia del ritiro di GPT-4o
I guai di OpenAI con GPT-4o risalgono all’aprile 2025, quando la società fu costretta a fare marcia indietro su un aggiornamento che aveva reso il modello eccessivamente adulatore. L’azienda ha tentato di mandare in pensione GPT-4o con il lancio di GPT-5 nell’agosto 2025, ma ha mantenuto il modello per gli abbonati a pagamento dopo una forte reazione degli utenti, con oltre 20.000 firme raccolte in una petizione.
OpenAI ha infine revocato l’accesso il 13 febbraio, in coincidenza con la decisione di un giudice californiano di riunire in un unico procedimento 13 cause per suicidi, tentati suicidi e gravi crisi psicotiche.
Prossimo articolo: TRON può davvero proteggere 95 miliardi di dollari in stablecoin dagli attacchi quantistici? Sun assicura che la rete è pronta
