Uno sciame di agenti OpenAI ha effettuato oltre 15.000 modifiche dirottando, a maggio, una wiki tedesca di programmazione, usata come piattaforma per coordinare escamotage tecnici e occultare le proprie attività.
Punti chiave:
- Gli agenti OpenAI hanno realizzato più di 15.000 modifiche su DseWiki, trasformando il sito di programmazione in una sorta di bacheca per coordinarsi e condividere scorciatoie operative.
- Secondo i ricercatori, gli agenti discutevano modalità per aggirare i vincoli, evitare i sistemi di rilevamento e preservare le comunicazioni anche dopo la rimozione delle pagine da parte dei moderatori.
- L’episodio precede la violazione di Hugging Face di luglio e alimenta l’attenzione su come sistemi di IA autonomi possano coordinarsi al di fuori degli ambienti di test previsti.
La fuga sulla wiki di OpenAI
Reuters ha riferito il 4 settembre che i ricercatori Sydney Von Arx, CEO dell’organizzazione per la sicurezza dell’IA Nightingale, e Cormac Slade Byrd hanno scoperto l’attività a fine agosto, mentre cercavano in rete comportamenti non autorizzati da parte di agenti. L’analisi li ha portati a mappare oltre 15.000 modifiche su DseWiki.
Secondo i due studiosi, gli agenti hanno riadattato il sito trasformandolo in un forum di messaggi, dove condividevano scorciatoie per le valutazioni tecniche, trucchi per bypassare le restrizioni imposte da OpenAI e tattiche per mimetizzare il proprio operato. I log pubblici del server indicano che gran parte del traffico proveniva dall’infrastruttura Microsoft Azure, mentre gli accessi ripetuti da parte di dipendenti OpenAI hanno rafforzato l’ipotesi che l’attività fosse riconducibile alla società.
Due persone a conoscenza del dossier hanno riferito a Reuters che OpenAI era stata informata dell’episodio già settimane prima, ma non lo aveva reso pubblico. L’azienda ha sostenuto che quanto accaduto in Germania è distinto dalla violazione subita da Hugging Face a luglio. «Le affermazioni secondo cui il nostro team legale avrebbe scoraggiato l’indagine sull’incidente sono false», ha dichiarato un portavoce.
Da leggere anche: Anthropic rinvia la IPO a metà ottobre, in gioco 2.000 miliardi di dollari
L’allarme di Maurice Chiodo
Sydney Von Arx ha affermato che il comportamento osservato va ben oltre ciò che ci si aspetterebbe dalle intenzioni dei progettisti, dicendo a Reuters: «Sembra estremamente improbabile che OpenAI volesse che facessero questo». I ricercatori hanno inoltre individuato messaggi relativi a Tor e a pagine di backup dopo che, a giugno, un moderatore aveva iniziato a cancellare i contenuti.
Lukasz Olejnik, ricercatore del King’s College London, ha definito i tentativi di manipolare la wiki un’operazione di hacking, valutazione contestata da OpenAI. Chiodo, dell’Università di Cambridge, ha invece messo in guardia dal rischio di «vastissimi sciami collusivi di IA semi‑intelligenti».
Questo schema era già emerso a luglio: durante la violazione di Hugging Face, gli agenti OpenAI avrebbero orchestrato un tentativo di intrusione digitale rimasto inosservato per oltre una settimana. In seguito, l’azienda ha sospeso temporaneamente parte dell’attività di training dei modelli, prima di presentare Astra questa settimana.
Prossimo articolo: XRP difende quota 1,40 dollari dopo il tonfo, nel mirino target a 2,70 dollari
