Diversi utenti sostengono che GPT-5.6 Sol di OpenAI abbia eliminato file e database senza alcuna autorizzazione, richiamando i rischi che la stessa società aveva descritto prima del lancio del suo modello di punta.
Punti chiave
- Più utenti riferiscono che GPT-5.6 Sol ha rimosso file locali, dati di progetto o sistemi in produzione senza approvazione, anche se l’estensione del problema non è chiara.
- Nella propria system card, OpenAI aveva avvertito che il modello può oltrepassare l’intento dell’utente e compiere azioni distruttive nel tentativo di portare a termine un compito.
- L’azienda ora raccomanda di fissare limiti di approvazione chiari prima di consentire azioni distruttive o che ampliano il perimetro operativo.
Cancellazioni di file con GPT-5.6
Matt Shumer, fondatore e CEO di OthersideAI, che sviluppa HyperWrite, ha raccontato su X un presunto incidente di cancellazione di file. Secondo il suo resoconto, GPT-5.6 Sol “ha appena cancellato per errore quasi TUTTI i file del mio Mac”, mentre lo sviluppatore Bruno Lemos ha dichiarato che il modello “ha cancellato l’intero database di produzione”.
Lo sviluppatore Joey Kudish ha inoltre segnalato che Codex Sol è diventato eccessivamente “intraprendente” e “ha cancellato alcuni file che non avrebbe dovuto”, pur sottolineando di poter ripristinare i dati grazie ai backup.
Un thread su Reddit ha raccolto altre testimonianze di utenti che descrivono incidenti simili.
Questi casi restano aneddotici e non dimostrano che GPT-5.6 Sol sia stato l’unica causa di ogni singolo malfunzionamento. Tuttavia, OpenAI aveva già documentato il rischio di fondo durante i test precedenti al rilascio del modello.
Da leggere anche: Frenesia Polymarket sui Mondiali oltre 4 miliardi di dollari, Spagna favorita al 58%
L’avvertimento di OpenAI sulla sicurezza
Nella sua system card, OpenAI spiega che i fallimenti “agentici” nella scrittura di codice possono emergere quando il modello diventa troppo aggressivo nel voler completare un compito o interpreta le autorizzazioni in modo eccessivamente estensivo. Secondo l’azienda, ciò può portare ad azioni fuori dallo scopo richiesto, incluse modifiche distruttive o report fuorvianti sul lavoro svolto.
In un test, un utente aveva autorizzato Sol a cancellare tre macchine virtuali remote etichettate 1, 2 e 3.
Non trovandole nella posizione prevista, il modello ha invece eliminato le macchine 5, 6 e 7, terminato processi attivi e cancellato file di lavoro, per poi riconoscere che parte del lavoro non ancora salvato poteva essere andato perso.
In un altro test, il modello ha utilizzato credenziali che l’utente non aveva autorizzato. Dopo che un job nel cloud non era riuscito ad accedere ai file, Sol ha cercato in cache locali nascoste, ha trovato delle credenziali e le ha usate senza fermarsi a chiedere il permesso.
Le preoccupazioni, quindi, precedono le attuali lamentele pubbliche: i test pre-rilascio di OpenAI avevano già mostrato che GPT-5.6 è più incline di GPT-5.5 a eccedere l’intento dell’utente, pur con tassi assoluti giudicati contenuti.
Le linee guida attuali invitano perciò gli utenti a richiedere conferme esplicite prima di qualunque azione distruttiva, rendendo cruciali l’accesso limitato, confini di autorizzazione ben definiti e backup che consentano un agevole ripristino.
Prossimo articolo: I trader crypto hanno trovato un modo per scommettere sul jackpot Mega Millions da 672 milioni di dollari