OpenAI heeft Russische en Iraanse netwerken van ChatGPT uitgesloten die het platform gebruikten om nepjournalisten en een schijn-denktank te ondersteunen. Een van de operaties wist bijna 100 artikelen in nieuwsmedia onder te brengen.
Belangrijkste punten:
- OpenAI blokkeerde twee clusters van ChatGPT-accounts uit Rusland en Iran die valse frontorganisaties ondersteunden.
- Zeven fictieve journalistprofielen wisten bijna 100 artikelen te plaatsen bij circa een dozijn media, aldus het bedrijf.
- De Russische campagne was de eerste die OpenAI als Categorie 5 beoordeelde op de zespuntsschaal Breakout Scale.
OpenAI grijpt in bij ChatGPT-gebruik
Het bedrijf maakte de blokkades bekend in een donderdag gepubliceerd rapport over twee heimelijke campagnes, opgebouwd rond wat het “false front entities” noemt: organisaties die zich anders voordoen dan ze zijn. Beide accountclusters gebruikten VPN’s om toegang tot ChatGPT te krijgen. OpenAI koppelde geen van de operaties formeel aan een specifieke overheidsdienst, en stelde dat de Iraanse campagne oogt als een commerciële, op opdrachtbasis werkende operatie.
De Iraanse operatie, door onderzoekers “Bogus Bylines” genoemd, liet zeven verzonnen verslaggevers optreden als westerse journalisten. Zij boden hoofdredacties lange achtergrondartikelen aan over het conflict tussen de VS en Iran. OpenAI vond bijna 100 artikelen die onder deze namen zijn gepubliceerd of gesyndiceerd bij om en nabij een dozijn kleinere en middelgrote media. De oudste stukken dateren van juli 2025, de meest recente van deze maand.
De Russische operatie, “Dark Clark” gedoopt, richtte zich op Latijns-Amerika en was vooral bedoeld om de reputatie van Oekraïne daar te ondermijnen. De betrokkenen leken een zogenaamd onderzoeksplatform te beheren, het Social Research Center, aangestuurd via een nepfiguur met de naam Mia Clark. Volgens OpenAI wijzen beschikbare aanwijzingen erop dat het lokale personeel van het centrum niet wist dat het feitelijk voor een Russische groep werkte.
Zie ook: Momentum bij crypto-ETF’s keert terug na $50 mrd instroom, zegt JPMorgan
Beoordeling op de Breakout Scale
OpenAI waardeerde de Russische campagne als Categorie 5 op de zespuntige Breakout Scale – de eerste operatie die dat niveau haalt sinds het bedrijf deze rapportages publiceert. Als reden noemt OpenAI onder meer aanwijzingen dat de nepcontent heeft geleid tot publieke reacties van politici in meerdere landen.
De Iraanse campagne om artikelen geplaatst te krijgen, kreeg een beoordeling Categorie 4, terwijl de sociale-mediaberichten uit dat netwerk op 2 uitkwamen. Die reacties leverden doorgaans slechts enkele tot hooguit tientallen likes en weergaven op. Over de 30 heimelijke operaties die het bedrijf in tweeënhalf jaar blootlegde, stelt OpenAI dat juist campagnes die erin slagen content bij echte media geplaatst te krijgen, gemiddeld het grootste bereik hebben.
Sommige Dark Clark-verzinsels verspreidden zich ver genoeg om factchecks en officiële ontkenningen uit te lokken. Een voorbeeld is een gefabriceerd audiobestand waarin werd beweerd dat de regering van Bolivia de watervoorziening naar La Paz zou afsluiten. OpenAI waarschuwde daarbij dat de bedieners van het netwerk ook de eer opeisten voor gebeurtenissen waar zij niets mee te maken hadden, waardoor hun eigen claims over impact niet op waarde kunnen worden geschat.
Eerdere dossiers die OpenAI openbaar maakte, haalden aanzienlijk minder tractie. In augustus 2024 blokkeerde het bedrijf accounts die in verband werden gebracht met Storm-2035, een Iraanse operatie die content produceerde voor vijf websites die zich als nieuwsmedia voordeden, en kwalificeerde die case als Categorie 2.
OpenAI-onderzoeker Ben Nimmo zei destijds dat deze operatie probeerde beide kanten van het politieke spectrum te bespelen, maar zichtbaar nauwelijks respons vanuit welke doelgroep dan ook wist te krijgen.
Lees verder: OpenAI’s 719 AI-wiskundeproofs onder vuur: raakte Navier-Stokes zoek in de vertaling?
