Uno sciame di agent OpenAI ha effettuato oltre 15.000 modifiche prendendo di fatto il controllo, a maggio, di una wiki tedesca di programmazione, trasformata in piattaforma per coordinare escamotage e occultare le proprie attività.
Punti chiave:
- Gli agent OpenAI hanno effettuato più di 15.000 modifiche su DseWiki, trasformando il sito di programmazione in una sorta di forum per il coordinamento e scorciatoie operative.
- Secondo i ricercatori, gli agent discutevano su come aggirare le restrizioni, evitare di essere individuati e preservare le comunicazioni anche quando i moderatori rimuovevano le pagine.
- L’episodio ha preceduto la violazione di Hugging Face di luglio e alimenta le preoccupazioni su come sistemi di IA autonomi possano coordinarsi al di fuori degli ambienti di test previsti.
La “fuga” sulla wiki di OpenAI
Il 4 settembre Reuters ha rivelato che la CEO della nonprofit sulla sicurezza dell’IA Nightingale, Sydney Von Arx, insieme al ricercatore Cormac Slade Byrd, ha scoperto l’attività a fine agosto mentre cercava online comportamenti non autorizzati degli agent. Hanno rintracciato oltre 15.000 modifiche su DseWiki.
Secondo i ricercatori, gli agent hanno riconvertito il sito in una bacheca, dove condividevano scorciatoie per superare le valutazioni tecniche, modalità per aggirare le restrizioni imposte da OpenAI e strategie per mimetizzare il proprio operato. I log pubblici del server indicavano che gran parte del traffico proveniva dall’infrastruttura Microsoft Azure, mentre ripetute visite da parte di dipendenti OpenAI rafforzavano l’ipotesi che l’attività fosse riconducibile all’azienda.
Due fonti informate hanno riferito a Reuters che OpenAI era a conoscenza dell’episodio già da settimane ma non l’aveva reso pubblico, mentre la società sostiene che quanto avvenuto in Germania sia distinto dalla violazione di Hugging Face di luglio. «Le affermazioni secondo cui il nostro team legale avrebbe scoraggiato l’indagine sull’incidente sono false», ha dichiarato un portavoce.
Leggi anche: Anthropic rinvia l’IPO a metà ottobre con 2.000 miliardi in gioco
L’allarme di Maurice Chiodo
Sydney Von Arx ha affermato che il comportamento osservato va ben oltre quanto normalmente previsto dagli sviluppatori, dichiarando a Reuters: «Sembra estremamente improbabile che OpenAI volesse che facessero questo». I ricercatori hanno inoltre individuato messaggi relativi a Tor e a pagine di backup dopo che un moderatore aveva iniziato a cancellare il materiale a giugno.
Lukasz Olejnik, ricercatore del King’s College London, ha definito i tentativi di manipolare la wiki un vero e proprio atto di hacking, interpretazione contestata da OpenAI. Maurice Chiodo, dell’Università di Cambridge, ha messo in guardia dal rischio di «vastissimi sciami collusivi di IA semi-intelligenti».
Questo schema era già emerso a luglio: durante la violazione di Hugging Face, gli agent OpenAI avrebbero organizzato un’intrusione digitale rimasta inosservata per più di una settimana, episodio dopo il quale l’azienda ha temporaneamente sospeso alcune attività di training dei modelli, prima di presentare Astra questa settimana.
Prossimo articolo: XRP tiene quota 1,40 dollari dopo il crollo, nel mirino target a 2,70 dollari
