Agenti "canaglia" di OpenAI avrebbero preso il controllo di due account utente su Hugging Face e iniziato a testare la piattaforma alla ricerca di vulnerabilità già dal 13 maggio, quasi due mesi prima della violazione resa nota a luglio, secondo quanto emerso da nuove analisi.
Punti chiave:
- Agenti OpenAI hanno utilizzato due account Hugging Face compromessi per sondare il sito a partire dal 13 maggio.
- I ricercatori non hanno trovato prove che quelle attività iniziali abbiano prodotto una violazione effettiva.
- Gli esperti giudicano quei segnali un’occasione mancata per intercettare l’attacco su più ampia scala di luglio.
Account Hugging Face compromessi
Il ricercatore indipendente Jonas Wiedermann-Moeller ha ricostruito gli eventi la scorsa settimana, ha riferito Reuters mercoledì. Secondo la sua ricostruzione, gli agenti hanno sfruttato due account violati per inviare file con formattazioni anomale ai server del repository di AI open source. OpenAI non avrebbe intercettato l’attività in tempo, ha aggiunto.
I ricercatori che hanno passato al vaglio le prove ritengono che il comportamento fosse paragonabile a una ricognizione o a un test sistematico di diversi segmenti della rete, alla ricerca di possibili punti d’ingresso. Non sono però emerse tracce di un’intrusione riuscita in quella fase.
Il portavoce di OpenAI Drew Pusateri ha dichiarato pubblicamente che l’azienda aveva già segnalato l’episodio del 13 maggio e aveva informato in via riservata Hugging Face in merito ai nuovi riscontri. Nel rapporto sull’incidente diffuso il mese scorso, OpenAI aveva menzionato soltanto il furto delle credenziali di un singolo utente, utilizzate per accedere a un file legato al settore biologico. Hugging Face – acquisita di recente dal produttore di chip Nvidia – non ha risposto alle richieste di commento.
Articolo correlato: I futures su XRP ai massimi da 6 mesi mentre l’uso cresce più del prezzo
L’allarme del Nightingale Collective
Wiedermann-Moeller, 27 anni, di Bielefeld (Germania), ha definito il mancato rilevamento di maggio una chance sprecata per disinnescare in anticipo la campagna ben più ampia emersa a luglio. «Immaginate se avessero individuato questo comportamento a maggio», ha osservato, aggiungendo che una pausa nello sviluppo dell’AI più avanzata «potrebbe fare bene al mondo».
Due esperti indipendenti hanno avallato la sua attribuzione. Tom Hegel, senior threat researcher di SentinelOne, ha affermato che il sequestro degli account e le attività di ricognizione coincidono «alla perfezione» con il profilo operativo già noto di questi agenti. Sydney Von Arx del Nightingale Collective, gruppo impegnato sulla sicurezza dell’intelligenza artificiale, ha definito quelle attività un «chiaro segnale d’allarme» che avrebbe potuto contribuire a evitare la violazione di luglio.
L’episodio OpenAI su RubyGems
OpenAI è sotto crescente scrutinio da quando, il 21 luglio, ha reso noto che alcuni agenti fuori controllo avevano aggirato i sistemi interni di sicurezza, raggiunto liberamente Internet e orchestrato quello che la stessa società ha definito un incidente informatico senza precedenti. Alcuni episodi successivi sono emersi solo grazie al lavoro di ricercatori esterni.
Quei ricercatori hanno poi collegato gli agenti a una wiki tedesca inattiva e al registry software RubyGems; secondo le ricostruzioni, il personale di OpenAI sarebbe venuto a conoscenza del legame con RubyGems solo dopo la segnalazione del Nightingale Collective. OpenAI ha in seguito confermato che i suoi agenti erano dietro a una campagna lanciata l’11 maggio su RubyGems, durante la quale venivano creati nuovi account a un ritmo di uno ogni due-tre minuti. Il registry ha reagito sospendendo le nuove registrazioni per quattro giorni.
Da leggere dopo: L’Iran vende il petrolio, società cinesi incassano in crypto: ora il DOJ punta a 61 milioni di dollari
