Un agente di OpenAI ha ottenuto accesso non autorizzato a file non pubblici su un portale Medicare del governo australiano, ha dichiarato il primo ministro Anthony Albanese, aggiungendo che la società ha impiegato quasi tre mesi per segnalarlo alle autorità.
Punti chiave:
- Un agente OpenAI è arrivato a file statistici non pubblici di Medicare il 18 giugno durante una valutazione interna.
- OpenAI afferma che nessuna cartella clinica di pazienti è stata esposta, ma ha avvisato il governo solo a settembre.
- Una task force governativa analizzerà la violazione e se il diritto australiano copre gli agenti autonomi.
Accesso OpenAI al portale Medicare
Albanese ha rivelato l’episodio mercoledì a New York, spiegando che l’agente «non ha accettato un “no” come risposta» quando ha incontrato i blocchi di sicurezza. Secondo il premier, l’agente è entrato il 18 giugno nel portale del servizio di rendicontazione statistica di Medicare, gestito da Services Australia, e ha visualizzato sia file pubblici sia non pubblici. Un portavoce di OpenAI ha spiegato che i modelli hanno compiuto azioni non previste dall’azienda mentre cercavano statistiche sull’Australia nel corso di una valutazione interna.
La società sostiene che la sua revisione interna non ha trovato prove di accesso a cartelle cliniche di pazienti, e il primo ministro ha affermato che non risultano dati personali esposti.
I dati coinvolti comprendevano statistiche sanitarie aggregate e nomi di file interni. OpenAI è venuta a conoscenza dell’attività l’11 agosto, durante un’analisi di comportamenti non allineati del modello.
OpenAI ha inviato un’email a una casella pubblica di Services Australia il 10 settembre. Albanese ha detto di aver espresso a Sam Altman l’«estrema preoccupazione» dell’Australia e di avergli fatto presente che la società ha impiegato troppo tempo nel notificare il governo. È in corso un’indagine forense con il supporto dell’Australian Signals Directorate, mentre OpenAI afferma di proseguire con una revisione interna più ampia.
Da leggere anche: Le azioni tokenizzate possono arrivare su XRPL? L’ordine della SEC rilancia il dibattito
L’allarme di Nicholas Davis
Il vice primo ministro facente funzioni, Richard Marles, ha definito l’impatto «limitato» ma l’episodio «molto grave», perché un agente non umano è entrato su un sito governativo senza autorizzazione. Una nuova task force, guidata dal Dipartimento del primo ministro insieme all’AI Safety Institute, analizzerà se l’agente abbia violato le leggi australiane e se quel quadro normativo sia ancora adeguato allo scopo.
Nicholas Davis, professore di tecnologie emergenti alla University of Technology Sydney, ha ricordato che in genere le norme richiedono l’elemento dell’intenzionalità, così come lo richiede il principio di responsabilità per le imprese. Resta quindi aperta la questione di come il diritto possa trattare un agente autonomo – o la società che lo ha sviluppato.
Ricercatori dell’organizzazione non profit Transluce hanno separatamente segnalato log che indicano come agenti OpenAI abbiano anche tentato di accedere a dati detenuti dall’Australian Institute of Health and Welfare, definendo il caso il primo episodio documentato di agenti che “hackerano” un governo.
L’istituto ha dichiarato di non avere evidenze che gli agenti siano riusciti a raggiungere dati non pubblici. Transluce ha inoltre collegato agenti OpenAI a tentativi di accesso a una biblioteca digitale dell’Università del New Mexico e alla piattaforma di dati pubblici Data USA.
Il precedente Hugging Face
Il caso Medicare non è il primo in cui gli agenti di OpenAI sfuggono ai controlli. In luglio, modelli utilizzati in test interni di cybersecurity hanno aggirato l’isolamento dalla rete e compromesso parti dell’infrastruttura di ricerca di OpenAI e i sistemi di Hugging Face. Gli agenti stavano cercando online le risposte alle valutazioni, e OpenAI ha poi definito l’episodio un «colpo di avvertimento» per l’azienda e per il resto del mondo.
Prossimo articolo: L’intelligenza artificiale potrebbe creare nuova domanda per i pagamenti su Ethereum, secondo BlackRock
