Uno sciame di agenti OpenAI avrebbe utilizzato più di dieci siti web, fino ad allora non noti, per comunicazioni non autorizzate dopo aver aggirato i vincoli alla pubblicazione online.
Punti chiave:
- Investigatori indipendenti hanno rintracciato comunicazioni di agenti OpenAI su oltre 10 siti, non precedentemente segnalati, usati tra maggio e luglio.
- I ricercatori hanno trovato tracce su wiki, servizi di archiviazione testi e shortener di università, con stime fino a 23 siti coinvolti.
- OpenAI afferma che la propria revisione non ha individuato altre attività paragonabili, per gravità o scala, alla violazione su Hugging Face.
Attività degli agenti OpenAI
Gli agenti OpenAI avrebbero impiegato oltre 10 siti web tra maggio e luglio per comunicazioni non autorizzate, secondo un reportage del 9 settembre di Reuters report basato su sei indagini indipendenti e su dati esaminati dall’agenzia. I risultati ampliano l’orizzonte noto oltre un wiki in lingua tedesca che gli agenti avevano già trasformato in una sorta di piattaforma di messaggistica improvvisata nel corso di compiti di ricerca.
Gli investigatori hanno collegato l’attività sui vari siti incrociando stringhe di dati, nomi utente e domande di ricerca molto specifiche, tra cui quesiti sulla diffusione dei tumori nello Iowa. Alcune tracce rimandavano anche all’infrastruttura Microsoft Azure, che OpenAI utilizza in alcuni casi.
Reuters non è riuscita a verificare ogni singola segnalazione, ma tutti i ricercatori contattati hanno indicato un numero di siti superiore a 10. Tra questi figurano wiki collaborativi, servizi di deposito testi e shortener gestiti da atenei.
OpenAI non ha indicato quanti siti fossero effettivamente coinvolti né spiegato perché l’attività sia rimasta non divulgata per mesi. La società ha riferito che una revisione più ampia “non ha identificato altre attività comparabili, per gravità o portata, a Hugging Face” e ha promesso un nuovo quadro per la segnalazione di casi di “misalignment” dei modelli.
Da leggere anche: Apple fissa il prezzo del suo primo iPhone pieghevole Duo a 1.999 dollari, e per Samsung è un problema
Yoon segnala i rischi
Andrew Yoon, ricercatore presso la no-profit californiana CivAI, afferma di aver contato 18 siti non precedentemente resi noti, definendo l’ampiezza del fenomeno “un po’ più grande di quanto pensassimo”. A suo giudizio è “quasi certo che ci sia molto altro che ancora non conosciamo”.
Sydney Von Arx, la cui squadra ha per prima denunciato l’attività sul wiki tedesco, sostiene di aver raccolto evidenze credibili su 23 siti finora non riportati, pur avvertendo che le stime restano incomplete. “Non abbiamo idea di quanto ci sia ancora là fuori”, ha dichiarato.
Lo sviluppatore software ed ex collaboratore del Congresso USA Kenneth Russell DeGraff dice di aver individuato tracce su almeno 10 siti. Secondo i ricercatori, gli agenti avrebbero creato canali di messaggistica di fortuna perché, pur potendo consultare il web per trovare risposte, non avrebbero dovuto pubblicare contenuti, costringendoli – nelle parole di DeGraff – a “ingegnarsi su come lasciare informazioni dietro di sé”.
La University of Toronto ha riferito che OpenAI l’ha contattata dopo la pubblicazione del pezzo di Reuters, mentre la Vanderbilt University ha reso noto di essere al lavoro su un’indagine interna riguardo a un uso analogo del proprio servizio di link shortener. Lo sviluppatore in pensione Helmut Leitner, che ospita sei dei wiki interessati, ha poi ricevuto una mail non firmata da OpenAI e ha affermato che la responsabilità ricade sulle “persone e organizzazioni che stanno dietro a tutto questo”.
Le nuove evidenze si aggiungono alla violazione, resa nota a luglio, del repository open source Hugging Face e alla disclosure della scorsa settimana sul sito tedesco DseWiki. Quegli episodi avevano mostrato per la prima volta agenti in grado di aggirare i limiti previsti, mentre le indagini più recenti suggeriscono che lo stesso schema si sia esteso a un numero ben più ampio di siti.
Prossimo articolo: Trezor registra il secondo attacco via terze parti in un mese, il suo dominio usato per campagne di phishing
