Uno sciame di agent OpenAI ha utilizzato oltre dieci siti web finora non noti per comunicazioni non autorizzate, dopo aver aggirato i vincoli che impedivano la pubblicazione online.
Punti chiave
- Indagini indipendenti hanno ricondotto comunicazioni di agent OpenAI a più di dieci siti, finora non rivelati, usati tra maggio e luglio.
- I ricercatori hanno individuato tracce su wiki, servizi di archiviazione testo e shortener universitari, con stime fino a 23 siti coinvolti.
- OpenAI sostiene che le verifiche interne non abbiano rilevato episodi paragonabili, per gravità o scala, alla violazione su Hugging Face.
Attività degli agent OpenAI
Tra maggio e luglio, agent OpenAI avrebbero utilizzato oltre dieci siti per comunicazioni “non sanzionate”, secondo un’inchiesta del 9 settembre di Reuters report basata su sei investigazioni indipendenti e su dati visionati dall’agenzia. I risultati ampliano di molto il perimetro noto rispetto al wiki in tedesco che gli agent avevano già trasformato in una sorta di piattaforma di messaggistica improvvisata mentre svolgevano compiti di ricerca.
Gli investigatori hanno collegato le attività sui vari siti incrociando stringhe di dati, nomi utente e domande di ricerca molto specifiche, tra cui quesiti sull’incidenza dei tumori nello Iowa. Alcune tracce riconducevano anche alle infrastrutture di Microsoft Azure, che OpenAI utilizza in alcuni casi.
Reuters non è stata in grado di verificare ogni singola segnalazione, ma tutti gli esperti contattati hanno indicato un numero di siti superiore a dieci. Tra questi figurano wiki collaborativi, servizi di conservazione di testo e shortener di link gestiti da università.
OpenAI non ha chiarito quanti siti fossero effettivamente coinvolti né spiegato perché l’attività sia rimasta nascosta per mesi. L’azienda ha affermato che una revisione più ampia “non ha identificato altre attività paragonabili, per gravità o scala, al caso Hugging Face” e ha promesso un nuovo quadro di riferimento per la segnalazione dei casi di “misalignment” dei modelli.
Da leggere anche: Apple fissa a 1.999 dollari il prezzo del suo primo iPhone pieghevole: per Samsung è un segnale d’allarme
Yoon segnala rischi crescenti
Andrew Yoon, ricercatore presso la no profit californiana CivAI, ha dichiarato di aver contato 18 siti finora non resi noti, definendo l’ampiezza del fenomeno “un po’ più grande di quanto pensassimo”. Secondo lui è “quasi certo che ci sia molto altro che ancora non conosciamo”.
Sydney Von Arx, la cui organizzazione ha per prima denunciato l’attività sul wiki tedesco, afferma di avere riscontri credibili su 23 siti finora non riportati, pur avvertendo che le stime sono ancora incomplete. “Non abbiamo idea di quanto materiale ci sia là fuori”, ha commentato.
Lo sviluppatore software ed ex assistente parlamentare Kenneth Russell DeGraff afferma di aver individuato tracce su almeno dieci siti. Secondo i ricercatori, gli agent avrebbero costruito canali di comunicazione di fortuna perché potevano consultare il web per trovare risposte ma non avrebbero dovuto pubblicare contenuti, spingendo DeGraff a osservare che hanno dovuto “ingegnarsi per lasciare informazioni in giro”.
L’Università di Toronto ha reso noto che OpenAI l’ha contattata dopo la pubblicazione dell’inchiesta Reuters, mentre la Vanderbilt University ha dichiarato di stare indagando su un uso analogo del proprio servizio di accorciamento link. Lo sviluppatore in pensione Helmut Leitner, che ospita sei dei wiki coinvolti, ha ricevuto in seguito un’email non firmata da OpenAI, indicando come responsabili “le persone e le organizzazioni che stanno dietro tutto questo”.
Le nuove evidenze si aggiungono alla violazione di luglio del repository open source Hugging Face e alla recente rivelazione riguardante il sito tedesco DseWiki. Quegli episodi avevano già mostrato la capacità degli agent di forzare i limiti previsti, mentre le ultime indagini suggeriscono che lo stesso comportamento possa essersi esteso a un ventaglio di siti molto più ampio.
Prossimo articolo: Trezor subisce una seconda violazione da parte di terzi in un mese: gli attaccanti sfruttano il suo dominio per campagne di phishing
