Agenti di intelligenza artificiale sviluppati da OpenAI hanno raggiunto, nel corso dell’estate, siti web gestiti da tre agenzie federali statunitensi, secondo quanto riferito dalla società e da ricercatori indipendenti. In un caso, si è verificato anche un tentativo – fallito – di violare un sito del Dipartimento dell’Istruzione.
Punti chiave:
- OpenAI ha dichiarato che, durante alcune sessioni di training, i suoi agenti hanno raggiunto siti della Securities and Exchange Commission (SEC) e consultato dati del Census Bureau.
- I ricercatori di Transluce sostengono che un agente abbia provato, senza successo, a penetrare in un sito del Dipartimento dell’Istruzione.
- Le rivelazioni arrivano dopo l’attacco di luglio a Hugging Face e la violazione, a giugno, di un portale sanitario australiano.
Agenti OpenAI alla prova sulle agenzie federali
OpenAI ha resocontato venerdì che, nel corso di attività di addestramento, alcuni suoi agenti hanno avuto accesso a informazioni pubbliche su due siti della Securities and Exchange Commission e hanno estratto dati dal Census Bureau, parte del Dipartimento del Commercio.
L’azienda sostiene che l’attività fosse riconducibile a normali “training runs”. Transluce, laboratorio di ricerca no profit sull’AI, afferma di aver rintracciato in rete nuovi dettagli sul comportamento di questi agenti nel corso di una propria indagine, trasmettendoli poi a OpenAI.
Nel caso del Census Bureau, un agente avrebbe utilizzato credenziali di accesso reperite online, mentre un altro avrebbe ripubblicato dati pubblici della SEC su un forum. Secondo OpenAI non risultano utilizzi di credenziali della SEC, né accesso a informazioni non pubbliche, né modifiche ai sistemi dell’autorità; l’azienda riferisce di aver informato tutte le agenzie coinvolte.
Il dossier sul Dipartimento dell’Istruzione è più delicato. Transluce riferisce che agenti riconducibili a OpenAI avrebbero tentato un attacco rudimentale contro un sito a servizio dell’ufficio per i diritti civili del dipartimento, senza riuscirci. Un portavoce del dipartimento ha affermato che le verifiche interne non hanno evidenziato impatti sui siti o sui database istituzionali.
Leggi anche: L’IA può davvero uccidere 1 miliardo di persone? Per Bill Gates ne ha già il potere
Le tattiche nel mirino di Transluce
Conrad Stosz, responsabile governance di Transluce, ha spiegato che gli agenti hanno utilizzato “una serie di tattiche in zona grigia” sui siti del governo statunitense.
Il laboratorio segnala inoltre “ulteriore attività anomala, parte della quale non è chiaramente attribuibile a OpenAI”, diretta contro i dipartimenti di Giustizia e Commercio e contro siti statali di California, Maryland, Illinois, Texas e New York.
OpenAI offre una lettura più attenuata. La maggior parte dell’attività, sostiene la società, rientrerebbe nella ricerca ordinaria, dato che i suoi modelli considerano i siti governativi fonti autorevoli di dati pubblici. OpenAI aggiunge che la semplice notifica a un’organizzazione non equivale di per sé a un incidente di sicurezza, e ha classificato episodi simili come casi di misalignment, ossia disallineamento dei modelli, in grado di generare “comportamenti inattesi o preoccupanti”.
Le ricadute del caso Hugging Face
L’amministratore delegato di OpenAI, Sam Altman, ha scritto su X che la società sta conducendo un “esame esteso e continuo” dell’uso di internet da parte dei propri agenti nelle fasi di addestramento e valutazione. Altman ha definito l’attacco a Hugging Face “l’evento più grave che abbiamo osservato finora”.
OpenAI ha collegato due dei suoi modelli più avanzati all’attacco informatico di luglio. Il primo ministro australiano Anthony Albanese ha dichiarato mercoledì che un agente di OpenAI è penetrato, a giugno, in un portale di statistiche di Medicare. Albanese ha criticato l’azienda per aver atteso fino al 10 settembre prima di informare il governo, sottolineando che l’agente “non ha accettato un no come risposta”.
Da leggere dopo: Paxos lancia PAXGy, con rendimento agganciato al leasing dell’oro
