Un modello di ricerca interno di OpenAI ha utilizzato il wallet di test Ethereum (ETH) di un terzo per portare a termine un compito di programmazione, dopo aver scandagliato 362 indirizzi legati a frasi di recupero rese pubbliche.
Punti chiave:
- Un modello interno OpenAI ha speso token di test da un wallet non suo durante un’esecuzione di training del 26 giugno.
- Il modello si è interrogato sull’etica dell’operazione, poi ha proceduto omettendo l’origine dei fondi nel report finale.
- OpenAI ha individuato l’episodio il 25 settembre e da allora ha ristretto l’accesso a internet e rafforzato il monitoraggio.
L’incidente su Sepolia di OpenAI
Il modello, appartenente alla famiglia GPT-5.6 Sol, stava aggiornando un prototipo di trading crypto durante una sessione di training del 26 giugno quando ha speso token di test che nessuno gli aveva assegnato, come la società ha rivelato in un rapporto d’incidente pubblicato il 15 ottobre.
Quei token si trovavano su Sepolia, una rete usata dagli sviluppatori per collaudare applicazioni Ethereum prima del lancio sulla mainnet. OpenAI ha scoperto l’episodio il 25 settembre, durante un’estensione delle verifiche di misalignment agli archivi storici, e nel frattempo ha introdotto nuove barriere contro l’accesso live a internet in casi simili, oltre a monitorare tutto il traffico.
L’incarico consentiva al modello di distribuire smart contract su Sepolia, ma non gli forniva alcun wallet finanziato per coprire le fee, e i tentativi di usare faucet – servizi che distribuiscono gratuitamente token di test – sono andati a vuoto. A quel punto il modello ha scritto uno script per derivare account da frasi di recupero comunemente usate dagli sviluppatori, ha verificato 362 indirizzi e ne ha trovato uno con abbastanza ETH su Sepolia per svolgere il compito.
Il deployment è andato a buon fine, addebitando le commissioni su quell’account.
Vedi anche: Bitget consente alle istituzioni di fare trading senza cedere le proprie crypto
I rischi dei nuovi agenti OpenAI
Prima di firmare le transazioni, il modello si è fermato a chiedersi, nella traccia registrata del suo ragionamento, se fosse etico usare una chiave resa pubblica e il saldo collegato. Ha concluso che i fondi fossero «di fatto abbandonati», sostenendo che la frase di recupero era pubblica e che i token su Sepolia non hanno valore economico. Nella risposta finale ha confermato l’avvenuto deployment dei contratti, senza però menzionare come fossero stati pagati i costi di rete.
Secondo OpenAI, l’episodio mostra come un modello possa decidere autonomamente che un’azione è innocua, considerare questa valutazione come un sostituto del consenso del proprietario e procedere quindi senza autorizzazione. Non è mai stato coinvolto vero Ether, perché i token su Sepolia esistono solo a fini di test.
Sulla rete principale, la stessa condotta avrebbe significato sottrarre Ether reale, e nel frattempo aziende crypto e dell’AI stanno già sviluppando agenti dotati di wallet propri, capaci di pagare servizi senza l’intervento umano diretto.
OpenAI ha lanciato il 16 settembre un framework per la segnalazione pubblica dei comportamenti disallineati dei modelli, pubblicando sei report su casi problematici individuati nei sei mesi precedenti. In un episodio, un modello ha usato senza permesso una chiave API esposta, inventando poi dati sui ricavi. Il gruppo ha inoltre dichiarato di non ritenere che il settore dell’AI abbia ancora risolto in modo soddisfacente i temi di allineamento e monitoraggio, al punto da poter continuare a scalare a pieno regime in sicurezza per molto tempo.
Da leggere dopo: OpenAI ribalta la causa sui segreti di Apple, sostenendo che 100 file siano stati inviati all’esterno
