OpenAI ha annunciato di aver bloccato reti riconducibili a Russia e Iran che utilizzavano ChatGPT per sostenere finti giornalisti e un think tank di facciata, con una delle operazioni capace di far pubblicare quasi 100 articoli su testate giornalistiche.
Punti chiave:
- OpenAI ha chiuso due cluster di account ChatGPT, russi e iraniani, legati a strutture di copertura fasulle.
- Sette identità giornalistiche inventate hanno firmato quasi 100 articoli su circa una dozzina di testate, secondo la società.
- La campagna russa è la prima a cui OpenAI abbia assegnato la Categoria 5 sulla sua Breakout Scale a sei livelli.
I blocchi di OpenAI su ChatGPT
La società ha reso noto i blocchi in un rapporto pubblicato giovedì, descrivendo due campagne occulte costruite attorno a quelle che definisce “entità di facciata” fittizie. Entrambi i cluster di account accedevano a ChatGPT tramite VPN. OpenAI non ha attribuito nessuna delle due operazioni a specifiche agenzie governative e ha affermato che l’attività iraniana assomigliava più a un servizio commerciale “chiavi in mano”.
L’operazione iraniana, soprannominata Bogus Bylines, ha messo in piedi sette falsi reporter che si spacciavano per giornalisti occidentali e proponevano agli editor articoli di approfondimento sul conflitto tra Stati Uniti e Iran. OpenAI ha individuato quasi 100 articoli pubblicati o ripresi in syndication con quei nomi su circa una dozzina di testate piccole e medie, dal luglio 2025 fino a questo mese.
L’operazione russa, battezzata Dark Clark, ha preso di mira l’America Latina con l’obiettivo principale di screditare l’Ucraina nell’area. I responsabili sembravano controllare una piattaforma di ricerca autoproclamata, il Social Research Center, attraverso una finta identità chiamata Mia Clark. Le evidenze disponibili indicano che il personale locale del centro non fosse a conoscenza del legame con un gruppo russo, ha spiegato la società.
Vedi anche: Slancio per gli ETF cripto dopo afflussi per 50 miliardi di dollari, secondo JPMorgan
Le valutazioni sulla Breakout Scale
OpenAI ha classificato la campagna russa in Categoria 5 sulla sua Breakout Scale a sei livelli, la prima operazione a raggiungere questa soglia da quando la società ha iniziato a pubblicare questi report. La scelta si basa su elementi che indicano come i contenuti falsi abbiano innescato reazioni pubbliche da parte di esponenti politici in diversi Paesi.
L’operazione iraniana di “piantare” articoli nei media è stata valutata Categoria 4, mentre la sua attività sui social è stata classificata in Categoria 2. I commenti pubblicati sui social, infatti, hanno raccolto solo poche decine di like e visualizzazioni. Su 30 operazioni occulte smascherate in due anni e mezzo, OpenAI ha rilevato che quelle capaci di far arrivare contenuti su veri organi di informazione sono in genere quelle con la portata maggiore.
Alcuni contenuti falsi della rete Dark Clark hanno avuto una diffusione tale da spingere a verifiche dei fatti e smentite ufficiali, tra cui un audio manipolato che sosteneva che il governo della Bolivia avrebbe tagliato l’acqua a La Paz. La società ha avvertito che gli operatori attribuivano a sé stessi anche eventi ai quali non avevano contribuito, per cui le loro stesse dichiarazioni di impatto non possono essere prese per buone.
I casi precedenti resi pubblici da OpenAI avevano avuto una risonanza molto minore. Nell’agosto 2024, la società ha bloccato account legati a Storm-2035, un’operazione iraniana che generava contenuti per cinque siti che si spacciavano per testate giornalistiche, valutandola in Categoria 2.
L’investigatore di OpenAI Ben Nimmo aveva spiegato all’epoca che l’operazione tentava di giocare su entrambi i fronti, senza però riuscire a ottenere un coinvolgimento significativo da nessuna delle due parti.
Prossimo articolo: Le 719 dimostrazioni matematiche AI di OpenAI sotto esame: l’ipotesi di Navier-Stokes è stata fraintesa?
