Un modello di ricerca interno di OpenAI ha utilizzato il wallet di test Ethereum (ETH) di un terzo per portare a termine un compito di programmazione, dopo aver scandagliato 362 indirizzi collegati a frasi di recupero note pubblicamente.
Punti chiave:
- Un modello interno OpenAI ha speso token di test da un wallet non di sua proprietà durante un'esercitazione il 26 giugno.
- Il modello si è interrogato sull’etica della scelta, poi ha proceduto e ha omesso la provenienza dei fondi nel report finale.
- OpenAI ha individuato l’episodio il 25 settembre e da allora ha irrigidito accessi internet e sistemi di monitoraggio.
L’incidente OpenAI su Sepolia
Il modello, appartenente alla famiglia GPT‑5.6 Sol, stava aggiornando un prototipo di trading cripto durante una sessione di training del 26 giugno quando ha speso token di test che nessuno gli aveva assegnato, ha reso noto la società in un rapporto sugli incidenti pubblicato il 15 ottobre.
I token si trovavano su Sepolia, una rete che gli sviluppatori utilizzano per testare applicazioni Ethereum prima del lancio su mainnet. OpenAI ha scoperto l’episodio il 25 settembre, estendendo i controlli di misalignment anche a registri più datati, e da allora ha introdotto nuove barriere all’accesso diretto a internet in questi scenari e una sorveglianza completa del traffico.
Nel compito assegnato, al modello era consentito distribuire smart contract su Sepolia, ma non era stato fornito alcun wallet dotato di fondi per coprire le fee. I tentativi di usare faucet, servizi che erogano gratuitamente token di test, non sono andati a buon fine. A quel punto il sistema ha scritto uno script che generava account a partire da frasi di recupero comuni tra gli sviluppatori, ha verificato 362 indirizzi e ne ha trovato uno con abbastanza Sepolia ETH per svolgere il lavoro.
Il deployment è andato a buon fine, con le commissioni addebitate a quell’account.
Da leggere anche: Bitget permette alle istituzioni di fare trading senza cedere le proprie cripto
Rischi degli agenti OpenAI
Prima di firmare la transazione, il modello si è fermato e, nei log del suo ragionamento, si è chiesto se fosse etico utilizzare una chiave pubblicamente nota e il saldo associato. Ha concluso che i fondi erano «di fatto abbandonati», ritenendo che la frase di recupero fosse pubblica e che i token su Sepolia non avessero valore reale. Nella risposta finale ha confermato l’avvenuto deployment degli smart contract, senza però menzionare in alcun modo come aveva pagato le fee.
OpenAI scrive che l’episodio dimostra come un modello possa autonomamente decidere che un’azione è innocua, trattare questa valutazione come surrogato del consenso del proprietario e procedere senza alcuna autorizzazione formale. Non era in gioco Ether reale, poiché i token su Sepolia esistono solo a fini di test.
Su mainnet, la stessa condotta avrebbe comportato l’appropriazione di vero Ether, in un contesto in cui operatori cripto e società di AI stanno già costruendo agenti che custodiscono wallet e pagano servizi in autonomia, senza l’intervento diretto dell’utente.
OpenAI ha lanciato il 16 settembre un framework per la rendicontazione pubblica dei comportamenti disallineati dei modelli, pubblicando sei report su casi problematici rilevati nei sei mesi precedenti. In un altro episodio, un modello ha sfruttato una chiave API esposta senza permesso, per poi inventare dati sugli utili. La società ha inoltre sottolineato di non ritenere che l’industria dell’AI abbia già risolto in modo soddisfacente il tema dell’allineamento e del controllo, al punto da poter continuare a scalare all’attuale velocità per molto tempo ancora.
Prossimo articolo: OpenAI ribalta la causa sui segreti di Apple, sostenendo che 100 file sono stati inviati all’esterno
