OpenAI heeft Russische en Iraanse netwerken verbannen die ChatGPT gebruikten om nepjournalisten en een schijnbare denktank te ondersteunen. Eén van die operaties wist bijna 100 artikelen in nieuwsmedia geplaatst te krijgen.
Belangrijkste punten:
- OpenAI sloot twee clusters ChatGPT-accounts uit Rusland en Iran die schijnorganisaties ondersteunden.
- Zeven verzonnen journalistpersonages kregen volgens het bedrijf bijna 100 artikelen geplaatst bij circa een dozijn media.
- De Russische campagne was de eerste die OpenAI waardeerde als Categorie 5 op de zespuntsschaal Breakout Scale.
Blokkades van ChatGPT-accounts door OpenAI
Het bedrijf maakte bekend dat het de accounts heeft geblokkeerd in een donderdag gepubliceerd rapport, waarin twee geheime campagnes worden beschreven rond wat OpenAI “false front entities” – schijnorganisaties – noemt. Beide clusters benaderden ChatGPT via VPN-verbindingen. OpenAI koppelde geen van de campagnes direct aan een specifieke overheidsdienst, en stelde dat de Iraanse activiteit meer weg had van een commerciële beïnvloedingsoperatie in opdracht.
De Iraanse operatie, met de bijnaam Bogus Bylines, liet zeven verzonnen verslaggevers optreden als westerse journalisten. Zij boden hoofdredacties lange achtergrondverhalen aan over het conflict tussen de VS en Iran. OpenAI identificeerde bijna 100 artikelen die onder deze namen zijn gepubliceerd of gesyndiceerd bij ongeveer een tiental kleine en middelgrote media. De oudste stukken dateren van juli 2025, de meest recente van deze maand.
De Russische operatie, Dark Clark genoemd, richtte zich op Latijns-Amerika en was vooral bedoeld om het imago van Oekraïne daar te beschadigen. De uitvoerders leken een zogenaamd onderzoeksplatform aan te sturen, het Social Research Center, via een fictieve persona met de naam Mia Clark. Volgens OpenAI wijst beschikbaar bewijs erop dat het lokale personeel van het centrum niet wist dat het feitelijk voor een Russische groep werkte.
Ook interessant: Momentum in crypto-ETF’s keert terug na $50 mrd instroom, zegt JPMorgan
Beoordelingen op de Breakout Scale
OpenAI waardeerde de Russische campagne als Categorie 5 op de zespuntsschaal Breakout Scale – de eerste operatie die dat niveau haalt sinds het bedrijf dergelijke rapporten publiceert. Als onderbouwing wijst OpenAI op aanwijzingen dat de desinformatie leidde tot publieke reacties van politici in meerdere landen.
De Iraanse poging om artikelen in de media te planten kreeg een beoordeling van Categorie 4, terwijl de bijbehorende socialmediacommentaren op 2 uitkwamen. Die reacties haalden doorgaans slechts een paar tot hooguit enkele tientallen likes en views. Over de 30 heimelijke operaties die het bedrijf in de afgelopen tweeënhalf jaar heeft blootgelegd, stelt OpenAI dat pogingen die content in echte media weten te plaatsen doorgaans de grootste reikwijdte hebben.
Sommige desinformatie van Dark Clark verspreidde zich zo ver dat er factchecks en officiële ontkenningen op volgden, waaronder een gefabriceerd audiofragment waarin werd beweerd dat de Boliviaanse regering de watervoorziening van La Paz zou afsluiten. OpenAI waarschuwt echter dat de uitvoerders ook de eer opeisten voor gebeurtenissen waarbij zij geen rol speelden, waardoor hun eigen claims over impact niet op waarde zijn te schatten.
Eerdere gevallen die OpenAI openbaar maakte, kregen veel minder tractie. In augustus 2024 blokkeerde het bedrijf accounts die werden gelinkt aan Storm-2035, een Iraanse operatie die content genereerde voor vijf websites die zich voordeden als nieuwsmedia, en waardeerde die als Categorie 2.
OpenAI-onderzoeker Ben Nimmo zei destijds dat die operatie “op twee paarden probeerde te wedden”, maar blijkbaar nergens noemenswaardige betrokkenheid wist te creëren.
Lees ook: OpenAI’s 719 AI-wiskundeproofs onder vuur: ging het Navier-Stokes-bewijs verloren in de vertaling?
