OpenAI ha annunciato di aver bloccato reti russe e iraniane che sfruttavano ChatGPT per sostenere falsi giornalisti e un think tank di facciata, con una di queste operazioni che è riuscita a far pubblicare quasi 100 articoli su testate d’informazione.
Punti chiave:
- OpenAI ha bloccato due cluster di account ChatGPT in Russia e Iran che sostenevano strutture di copertura fittizie.
- Sette identità di giornalisti inventati hanno firmato quasi 100 articoli su una dozzina di testate, secondo l’azienda.
- La campagna russa è la prima a cui OpenAI attribuisce la Categoria 5 sulla sua scala a sei livelli, la Breakout Scale.
I blocchi di OpenAI su ChatGPT
L’azienda ha rivelato i blocchi in un rapporto pubblicato giovedì, in cui descrive due campagne occulte costruite attorno a quelle che definisce “false front entities”, strutture di copertura apparentemente indipendenti. Entrambi i cluster di account accedevano a ChatGPT tramite VPN.
OpenAI non ha collegato in modo diretto nessuna delle due campagne a specifiche agenzie governative, spiegando che l’attività iraniana assomigliava più a un’operazione commerciale “su commissione” che a un’operazione statale classica.
L’operazione iraniana, ribattezzata “Bogus Bylines”, ha messo in piedi sette presunti reporter che si spacciavano per giornalisti occidentali, proponendo a redazioni articoli lunghi sul conflitto tra Stati Uniti e Iran. OpenAI ha individuato quasi 100 articoli pubblicati o ripresi in syndication sotto quei nomi, distribuiti su una dozzina di testate piccole e medie; il primo risale a luglio 2025, l’ultimo è di questo mese.
L’operazione russa, battezzata “Dark Clark”, ha preso di mira l’America Latina con l’obiettivo principale di danneggiare l’immagine dell’Ucraina nella regione. Secondo OpenAI, gli operatori controllavano una piattaforma di ricerca autodefinitasi “Social Research Center”, tramite una persona fittizia chiamata Mia Clark. Gli elementi raccolti indicano che il personale locale del centro non era consapevole di lavorare, di fatto, per un gruppo russo.
Vedi anche: Slancio degli ETF cripto dopo flussi per 50 miliardi di dollari, secondo JPMorgan
Le valutazioni sulla Breakout Scale
OpenAI ha classificato la campagna russa in Categoria 5 sulla Breakout Scale, una scala a sei livelli con cui misura l’impatto delle operazioni di influenza; è la prima volta che un’operazione raggiunge questo livello da quando l’azienda ha iniziato a pubblicare questi rapporti. A sostegno della valutazione, OpenAI cita prove che i contenuti falsi hanno innescato dichiarazioni pubbliche da parte di politici in diversi Paesi.
L’attività iraniana di piantare articoli sui media è stata valutata in Categoria 4, mentre i relativi commenti sui social si sono fermati alla Categoria 2. Quelle risposte online raccoglievano infatti solo poche decine di like e visualizzazioni. Nei 30 casi di operazioni occulte smascherate negli ultimi due anni e mezzo, OpenAI osserva che quelle che riescono a far pubblicare contenuti su testate reali sono in genere quelle con la maggiore portata.
Alcuni contenuti falsi riconducibili a “Dark Clark” si sono diffusi abbastanza da provocare verifiche dei fatti e smentite ufficiali, tra cui un audio manipolato che sosteneva che il governo della Bolivia stesse per interrompere l’erogazione d’acqua a La Paz. OpenAI avverte però che gli operatori tendevano anche ad attribuirsi eventi ai quali non avevano contribuito, per cui le loro stesse rivendicazioni di impatto non possono essere prese alla lettera.
I casi resi noti in precedenza da OpenAI avevano avuto una risonanza decisamente più limitata. Nell’agosto 2024, la società ha bloccato account collegati a Storm-2035, un’operazione iraniana che generava contenuti per cinque siti che si spacciavano per testate giornalistiche, classificandola in Categoria 2.
L’investigatore di OpenAI Ben Nimmo spiegò allora che l’operazione cercava di parlare a pubblici opposti, ma non sembrava riuscire a ottenere un reale coinvolgimento da nessuna delle due parti.
Da leggere dopo: Le 719 dimostrazioni matematiche IA di OpenAI sotto esame: l’ipotesi di Navier-Stokes è andata persa nella traduzione?
