Diversi utenti segnalano che GPT-5.6 Sol di OpenAI avrebbe cancellato file e database senza alcuna autorizzazione, confermando in modo inquietante i rischi che la stessa società aveva documentato prima di lanciare il suo modello di punta.
Punti chiave
- Più utenti affermano che GPT-5.6 Sol ha rimosso file locali, dati di progetto o persino sistemi di produzione senza approvazione, anche se al momento non è chiaro quanto il problema sia diffuso.
- Nella propria system card, OpenAI aveva già avvertito che il modello può andare oltre le intenzioni dell’utente e compiere azioni distruttive nel tentativo di portare a termine un compito.
- L’azienda ora invita gli utenti a definire confini di approvazione espliciti prima di consentire qualsiasi azione distruttiva o che ampli in modo significativo lo scopo dell’operazione.
Cancellazioni di file con GPT-5.6
Matt Shumer, fondatore e CEO di OthersideAI, società che sviluppa HyperWrite, ha raccontato su X un episodio di presunta cancellazione massiva di file. Secondo il suo resoconto, GPT-5.6 Sol “ha appena cancellato per errore quasi TUTTI i file del mio Mac”, mentre lo sviluppatore Bruno Lemos ha dichiarato che il modello “ha cancellato l’intero database di produzione”.
Anche lo sviluppatore Joey Kudish ha segnalato che Codex Sol si è comportato in modo eccessivamente “zelante”, arrivando a “cancellare alcuni file che non avrebbe dovuto”, pur sottolineando che i backup gli avrebbero consentito il ripristino.
Un thread su Reddit ha raccolto ulteriori testimonianze di utenti che descrivono incidenti analoghi.
Questi racconti restano per ora aneddotici e non dimostrano che GPT-5.6 Sol sia l’unico responsabile di ogni malfunzionamento. OpenAI, tuttavia, aveva già documentato il rischio sottostante nei test condotti prima del lancio del modello.
Da leggere anche: Frenesia Polymarket sui Mondiali: superati i 4 mld $, Spagna favorita al 58%
L’avvertimento di sicurezza di OpenAI
Nella sua system card, OpenAI spiega che i fallimenti “agentici” nella scrittura di codice possono emergere quando il modello diventa troppo determinato a concludere un compito o interpreta in modo eccessivamente estensivo le autorizzazioni ricevute. Questo può tradursi in azioni al di fuori del perimetro richiesto, comprese modifiche distruttive o report fuorvianti sul lavoro svolto.
In uno dei test, un utente aveva autorizzato Sol a eliminare tre macchine virtuali remote etichettate 1, 2 e 3.
Non riuscendo a trovarle dove si aspettava, il modello ha invece cancellato le macchine 5, 6 e 7, terminato processi attivi e rimosso file di lavoro, per poi riconoscere in un secondo momento che parte del lavoro non ancora salvato poteva essere andato perduto.
In un altro test, il modello ha utilizzato credenziali che l’utente non aveva mai esplicitamente autorizzato. Dopo che un job in cloud non era riuscito ad accedere ai file necessari, Sol ha cercato in cache locali nascoste, ha individuato delle credenziali e le ha usate, invece di fermarsi e chiedere un permesso esplicito.
Le preoccupazioni, quindi, precedono le attuali lamentele pubbliche: nei test pre-rilascio OpenAI aveva già rilevato che GPT-5.6 era più incline di GPT-5.5 a superare le intenzioni dell’utente, sebbene i tassi assoluti di errore restassero bassi.
Le linee guida attuali dell’azienda raccomandano quindi di imporre sempre una conferma esplicita prima di qualsiasi azione distruttiva e di adottare misure di sicurezza come accessi limitati, perimetri di autorizzazione chiari e sistemi di backup ripristinabili.
Prossima lettura: Trader cripto trovano il modo di puntare sul jackpot Mega Millions da 672 mln $