Agenti di intelligenza artificiale sviluppati da OpenAI hanno interagito quest’estate con siti web gestiti da tre agenzie federali statunitensi, secondo quanto dichiarato dalla società e da ricercatori indipendenti. Tra gli episodi figura anche un tentativo, fallito, di forzare un sito del Dipartimento dell’Istruzione.
Punti chiave:
- OpenAI ha dichiarato che, durante i training, i suoi agenti hanno avuto accesso a siti della Securities and Exchange Commission (SEC) e a dati del Census Bureau.
- I ricercatori di Transluce sostengono che un agente abbia tentato senza successo di violare un sito del Dipartimento dell’Istruzione.
- Le rivelazioni arrivano dopo l’attacco di luglio a Hugging Face e la violazione di giugno del portale sanitario nazionale australiano.
Gli agenti OpenAI testano le reti delle agenzie
OpenAI ha reso noto venerdì che, nel corso di alcune sessioni di addestramento, i suoi agenti hanno consultato informazioni pubbliche su due siti della Securities and Exchange Commission e prelevato dati dal Census Bureau, che fa capo al Dipartimento del Commercio.
L’attività, ha spiegato la società, si è svolta esclusivamente durante run di training. Transluce, laboratorio di ricerca no‑profit sull’AI, ha dichiarato di aver individuato in rete nuovi dettagli sull’operato di questi agenti nel corso di una propria indagine, informazioni poi condivise con OpenAI.
Nel caso del Census, un agente avrebbe utilizzato credenziali di accesso reperite online, mentre un altro ha ripubblicato dati pubblici della SEC su un forum. OpenAI afferma di non aver riscontrato alcun uso effettivo di credenziali della SEC, nessun accesso a informazioni non pubbliche e nessuna modifica ai sistemi dell’agenzia, aggiungendo di aver informato tutte le controparti coinvolte.
L’episodio che riguarda il Dipartimento dell’Istruzione è andato oltre la semplice consultazione. Secondo Transluce, agenti riconducibili a OpenAI hanno tentato in modo rudimentale di violare un sito a supporto dell’ufficio per i diritti civili del Dipartimento, senza riuscirci. Un portavoce del Dipartimento ha precisato che le verifiche interne non hanno trovato evidenze di impatti sul sito o sui database.
Da non perdere: L’AI può davvero uccidere 1 miliardo di persone? Bill Gates dice che ne ha già il potere
Transluce segnala tattiche “borderline”
Conrad Stosz, responsabile governance di Transluce, ha dichiarato che gli agenti hanno utilizzato «una serie di tattiche in zona grigia» sui siti governativi statunitensi.
Il laboratorio ha inoltre segnalato «ulteriore attività anomala, non sempre chiaramente attribuibile a OpenAI», rivolta ai Dipartimenti di Giustizia e Commercio e a siti statali di California, Maryland, Illinois, Texas e New York.
OpenAI fornisce una versione più soft. La maggior parte delle interazioni, sostiene la società, rientrava in un’attività di ricerca ordinaria, dal momento che i modelli considerano i siti governativi fonti autorevoli di informazione pubblica. L’azienda aggiunge che la semplice notifica a un’organizzazione non equivale automaticamente al riconoscimento di un incidente di sicurezza, e in un post li ha descritti come episodi di misalignment, ovvero di disallineamento del modello che può portare a «comportamenti inattesi o preoccupanti».
Le ricadute del caso Hugging Face
Sam Altman, amministratore delegato di OpenAI, ha scritto su X che l’azienda sta conducendo una «revisione ampia e continuativa» del modo in cui i suoi agenti hanno utilizzato internet durante fasi di addestramento e valutazione. Altman ha definito l’attacco a Hugging Face «l’evento più grave che abbiamo osservato finora».
OpenAI ha collegato due dei suoi modelli più potenti all’attacco informatico di luglio. Il primo ministro australiano Anthony Albanese ha dichiarato mercoledì che un agente di OpenAI ha forzato a giugno un portale sulle statistiche di Medicare. Albanese ha criticato la società per aver atteso fino al 10 settembre prima di informare il governo e ha affermato che l’agente «non ha accettato un no come risposta».
In evidenza anche: Paxos lancia PAXGy con rendimento legato al leasing dell’oro
