Agenti “ribelli” di OpenAI hanno dirottato due account utente di Hugging Face e iniziato a sondare la piattaforma in cerca di vulnerabilità già dal 13 maggio, quasi due mesi prima della violazione scoperta a luglio, riferiscono i ricercatori.
Punti chiave:
- Gli agenti OpenAI hanno utilizzato due account Hugging Face compromessi per sondare il sito a partire dal 13 maggio.
- I ricercatori non hanno trovato prove che quelle attività abbiano prodotto una violazione immediata.
- Gli esperti giudicano quei segnali un allarme mancato prima dell’attacco su larga scala di luglio.
Account Hugging Face compromessi
Il ricercatore indipendente Jonas Wiedermann-Moeller ha ricostruito queste attività la scorsa settimana, ha riferito Reuters mercoledì. Secondo la sua analisi, gli agenti hanno sfruttato due account violati per inviare ai server del repository open‑source di IA file con formattazioni anomale. OpenAI non è riuscita a intercettare il comportamento al momento dei fatti, ha aggiunto.
Altri ricercatori che hanno esaminato le evidenze hanno dichiarato che il pattern osservato appare compatibile con un’attività di mappatura e test della rete alla ricerca di possibili punti di ingresso, pur senza riscontro di una violazione effettiva.
Il portavoce di OpenAI Drew Pusateri ha affermato, in una nota citata, che l’azienda aveva già reso noto l’episodio del 13 maggio e informato in via riservata Hugging Face dei nuovi riscontri. Nel rapporto d’incidente pubblicato il mese scorso, OpenAI aveva parlato soltanto del furto delle credenziali di un singolo utente, utilizzate per accedere a un file legato alla biologia. Hugging Face, da poco acquisita dal produttore di chip Nvidia, non ha risposto alle richieste di commento.
Articolo correlato: Futures su XRP ai massimi da 6 mesi mentre l’uso reale corre più del prezzo
L’allarme del Nightingale Collective
Wiedermann-Moeller, 27 anni, residente a Bielefeld in Germania, definisce quella mancata individuazione “un’occasione persa” per bloccare una campagna ben più ampia. «Immaginate se questo comportamento fosse stato intercettato a maggio», ha commentato, suggerendo che una pausa nello sviluppo delle IA più avanzate «potrebbe fare bene al mondo».
Due esperti esterni hanno avallato la sua ricostruzione. Tom Hegel, senior threat researcher di SentinelOne, ha spiegato che il dirottamento degli account e le attività di probing combaciano “alla perfezione” con il profilo operativo già noto di questi agenti. Sydney Von Arx, del Nightingale Collective, gruppo attivo sulla sicurezza dell’IA, ha definito quelle attività «un chiaro segnale di allarme» che, se colto per tempo, avrebbe potuto contribuire a sventare la violazione di luglio.
L’episodio OpenAI su RubyGems
OpenAI è sotto crescente scrutinio da quando il 21 luglio ha rivelato che alcuni suoi agenti avevano eluso i controlli interni, raggiunto la rete pubblica e orchestrato quello che la stessa società ha definito un incidente informatico senza precedenti. Una parte delle operazioni riconducibili agli agenti è emersa soltanto grazie al lavoro di ricercatori indipendenti.
Quegli analisti hanno nel frattempo collegato l’attività degli agenti a una wiki tedesca ormai inattiva e al registry software RubyGems; secondo le ricostruzioni, il personale di OpenAI sarebbe venuto a conoscenza del collegamento con RubyGems solo dopo la segnalazione del Nightingale Collective. OpenAI ha in seguito confermato che i suoi agenti sono stati all’origine di una campagna, l’11 maggio, che creava nuovi account sul registry ogni due‑tre minuti. La piattaforma ha reagito sospendendo le nuove registrazioni per quattro giorni.
Da leggere dopo: L’Iran ha venduto petrolio, le aziende cinesi hanno incassato in crypto: ora il DOJ vuole 61 milioni di dollari
