La Wikimedia Foundation, che ospita i 67 milioni di voci di Wikipedia, afferma che agenti di intelligenza artificiale riconducibili a OpenAI hanno effettuato modifiche non autorizzate ai suoi wiki e potrebbero aver contribuito a un blackout parziale registrato a maggio.
Punti chiave:
- Wikimedia sostiene che agenti che ritiene operati da OpenAI hanno effettuato modifiche senza autorizzazione, quasi tutte in aree di prova non visibili ai lettori.
- L’elevato traffico generato dagli agenti potrebbe aver contribuito al blackout parziale del Wikidata Query Service a maggio.
- La fondazione non ha riscontrato prove di compromissione di sistemi o dati; OpenAI dichiara di collaborare all’analisi dell’attività.
Agenti OpenAI sulle piattaforme Wikimedia
Selena Deckelmann, chief product and technology officer della fondazione, ha spiegato in un post pubblicato lunedì che un’indagine interna ha individuato tre tipologie di attività non autorizzata sulle sue piattaforme.
Quasi tutte le modifiche si sono concentrate in sandbox di test, aree nascoste al pubblico, ma in alcuni casi gli agenti hanno cambiato le impostazioni di uno strumento di gestione delle citazioni, in quella che la fondazione ritiene fosse un tentativo di richiamare dati esterni tramite tale tool. Wikipedia ammette l’uso di bot approvati dalla comunità, ma in questo caso non è mai stata chiesta alcuna autorizzazione.
Gli agenti hanno anche tentato, senza riuscirci, di sfruttare in modo improprio Etherpad, uno strumento pubblico per prendere appunti che la fondazione ospita, con una strategia analoga. Altri agenti hanno lasciato note operative sulla stessa piattaforma, che però non sembrano essersi tradotte in un coordinamento strutturato. Secondo Wikimedia, gli agenti hanno inoltre effettuato crawling su milioni di pagine, soprattutto su Wikidata e Wikimedia Commons, e inviato centinaia di migliaia di query al Wikidata Query Service: un volume di traffico che potrebbe aver contribuito al blackout parziale di maggio.
L’indagine non ha evidenziato elementi che facciano pensare a una compromissione dei sistemi o dei dati di Wikimedia.
Da leggere anche: Agente AI di Binance elabora strategie dal linguaggio naturale e fa trading a 19,99 USDC
Deckelmann punta il dito contro le big dell’AI
Deckelmann ha definito il web aperto «un bene pubblico» e ha accusato le società di intelligenza artificiale di «non fare abbastanza per mettere in sicurezza i propri sistemi» o per proteggere il pubblico dai rischi. Questo onere, ha aggiunto, ricade ormai sugli altri attori, incluse le organizzazioni più piccole. Al minimo, ha scritto, i sistemi di AI dovrebbero funzionare in modo da consentire ai gestori di siti non profit di identificarli e di decidere come possono interagire con i loro servizi.
In una nota, OpenAI ha dichiarato di apprezzare le «analisi dettagliate» della fondazione e di essere al lavoro con Wikimedia per esaminare l’attività degli agenti. «Continueremo a condividere tutte le informazioni rilevanti man mano che l’analisi procede», ha affermato il portavoce Drew Pusateri.
Sotto esame il ruolo degli agenti OpenAI
Le tensioni tra Wikimedia e il traffico automatizzato precedono questa indagine. La fondazione ha segnalato nel 2025 che, dal 2024, l’attività dei bot ha fatto salire del 50% il consumo di banda, con i bot responsabili del 65% del traffico più pesante in termini di risorse. In un’audizione al Senato statunitense la scorsa settimana, esponenti di entrambi i partiti hanno ipotecizzato la possibilità di rendere le società di AI civilmente responsabili per i danni causati dai loro agenti.
Le rivelazioni di Wikimedia arrivano dopo mesi di segnalazioni sugli agenti di OpenAI, comprese le ammissioni dell’azienda a luglio, secondo cui i suoi modelli avevano violato la piattaforma di AI Hugging Face durante test di cybersicurezza. Il Procuratore generale della California, Rob Bonta, ha emesso un mandato di comparizione nei confronti di OpenAI il 1° ottobre in relazione a incidenti informatici legati ai suoi modelli, e la scorsa settimana alcuni ricercatori hanno segnalato che i suoi agenti hanno estratto dati da oltre 50 siti di imprese, enti non profit e amministrazioni pubbliche.
Prossimo articolo: Giorgia Meloni vuole registrare la sua voce come marchio: fermerà i deepfake AI?
