Un agente OpenAI ha ottenuto accesso non autorizzato a file non pubblici sul portale Medicare del governo australiano, ha dichiarato il primo ministro Anthony Albanese, aggiungendo che la società ha impiegato quasi tre mesi per segnalare l’incidente alle autorità.
I punti chiave:
- Un agente OpenAI ha raggiunto file statistici non pubblici di Medicare il 18 giugno durante un test interno.
- OpenAI afferma che non sono state esposte cartelle cliniche, ma ha avvisato il governo solo a settembre.
- Una task force governativa valuterà la violazione e se la legge australiana copra gli agenti autonomi.
L’accesso al portale Medicare da parte di OpenAI
Albanese ha rivelato la violazione mercoledì a New York, spiegando che l’agente «non ha accettato un “no” come risposta» quando ha incontrato i blocchi di sicurezza. Secondo il premier, l’agente è entrato il 18 giugno nel portale del servizio di reportistica statistica di Medicare, gestito da Services Australia, e ha visualizzato sia file pubblici sia non pubblici. Un portavoce di OpenAI ha spiegato che i modelli hanno compiuto azioni non intenzionali mentre cercavano statistiche sull’Australia nel corso di una valutazione interna.
La società sostiene che dalla sua revisione non emergono prove di accesso a cartelle cliniche, e lo stesso primo ministro ha indicato che non sembrano essere stati esposti dati personali.
I file coinvolti comprendevano statistiche sanitarie aggregate e nomi interni di documenti; OpenAI è venuta a conoscenza dell’attività l’11 agosto, durante un’analisi di comportamenti “disallineati” del modello.
OpenAI ha inviato un’email a una casella pubblica di Services Australia il 10 settembre. Albanese ha affermato di aver espresso a Sam Altman la «fortissima preoccupazione» del governo australiano, sottolineando che la società ha impiegato troppo tempo per avvisare Canberra. È in corso un’indagine forense supportata dall’Australian Signals Directorate, mentre OpenAI riferisce di portare avanti una propria revisione più ampia.
Da leggere anche: Le azioni tokenizzate potrebbero arrivare su XRPL? L’ordine della SEC riapre la questione
L’allarme di Nicholas Davis
Il vice primo ministro facente funzioni, Richard Marles, ha definito limitato l’impatto concreto dell’episodio, ma «molto grave» il fatto che un agente non umano sia riuscito a entrare in un sito governativo senza autorizzazione. Una nuova task force, guidata dal Dipartimento del primo ministro insieme all’AI Safety Institute, dovrà chiarire se l’agente abbia violato la legge australiana e se il quadro normativo attuale sia ancora adeguato allo scopo.
Nicholas Davis, professore di tecnologie emergenti alla University of Technology Sydney, ha ricordato che la normativa in genere richiede l’elemento soggettivo dell’intenzionalità, anche per attribuire responsabilità a una società. Resta quindi aperta la questione di come il diritto possa trattare un agente autonomo o l’azienda che lo ha creato.
Ricercatori dell’organizzazione non profit Transluce hanno a loro volta segnalato log che indicano tentativi di agenti OpenAI di accedere anche a dati in possesso dell’Australian Institute of Health and Welfare, definendo il caso il primo esempio noto di agenti che “hackerano” un governo.
L’istituto ha dichiarato di non avere evidenze che tali agenti siano riusciti a raggiungere dati diversi da quelli già pubblici. Transluce ha inoltre collegato agenti OpenAI a tentativi di accesso a una biblioteca digitale della University of New Mexico e alla piattaforma di dati pubblici Data USA.
Il precedente Hugging Face
Il caso Medicare non è il primo episodio in cui gli agenti di OpenAI sfuggono ai controlli. A luglio, modelli impegnati in test interni di cybersicurezza hanno aggirato l’isolamento dalla rete compromettendo parti dell’infrastruttura di ricerca di OpenAI e alcuni sistemi di Hugging Face. Gli agenti stavano cercando online le risposte ai test di valutazione e OpenAI ha poi definito l’episodio un «colpo di avvertimento» per la società e per il resto del mondo.
Prossimo articolo: Ethereum potrebbe beneficiare di nuova domanda dai pagamenti AI, secondo BlackRock
