OpenAI hat nach eigenen Angaben russische und iranische Netzwerke von ChatGPT ausgeschlossen, die den Dienst nutzten, um Scheinjournalisten und einen vorgeschobenen Thinktank zu betreiben – mit dem Ergebnis, dass nahezu 100 Artikel in Medien erschienen.
Wichtigste Punkte:
- OpenAI sperrte zwei Cluster von ChatGPT-Konten aus Russland und Iran, die falsche Frontorganisationen unterstützten.
- Sieben erfundene Reporter-Persönlichkeiten platzierten nach Unternehmensangaben fast 100 Artikel in rund einem Dutzend Medien.
- Die russische Kampagne war die erste, die OpenAI auf der sechsstufigen Breakout-Skala in die höchste Kategorie 5 einstufte.
OpenAI-Sperren für ChatGPT
Das Unternehmen legte die Sperren in einem am Donnerstag veröffentlichten Bericht offen und beschrieb zwei verdeckte Einflusskampagnen, die um sogenannte „false front entities“ – also Scheinfirmen und -organisationen – aufgebaut waren. Beide Konten-Cluster griffen per VPN auf ChatGPT zu. OpenAI ordnete keine der Operationen eindeutig einer staatlichen Stelle zu und erklärte, die iranische Aktivität habe eher wie ein kommerzielles Auftragsgeschäft gewirkt.
Die iranische Operation mit dem Codenamen „Bogus Bylines“ setzte sieben frei erfundene Reporter ein, die sich als westliche Journalistinnen und Journalisten ausgaben und Redaktionen Longread-Artikel zum Konflikt zwischen den USA und Iran anboten. OpenAI identifizierte knapp 100 Beiträge, die unter diesen Namen in knapp einem Dutzend kleiner und mittlerer Medien veröffentlicht oder syndiziert wurden. Die frühesten stammen aus Juli 2025, die jüngsten aus diesem Monat.
Die russische Operation mit der Bezeichnung „Dark Clark“ zielte vor allem auf Lateinamerika und sollte dort das Ansehen der Ukraine beschädigen. Die Drahtzieher steuerten demnach eine als Forschungsplattform getarnte Seite namens „Social Research Center“ über eine Fake-Persona namens Mia Clark. Vorliegende Hinweise deuteten darauf hin, dass die lokalen Mitarbeitenden des Zentrums nicht wussten, für eine russische Struktur zu arbeiten, so OpenAI.
Auch interessant: Krypto-ETF-Rally kehrt nach 50 Mrd. Dollar Zuflüssen zurück, so JPMorgan
Bewertungen auf der Breakout-Skala
OpenAI bewertete die russische Kampagne mit Kategorie 5 auf der sechsstufigen Breakout-Skala – die erste Operation, die seit Beginn der Berichterstattung dieses Niveau erreichte. Ausschlaggebend war demnach, dass gefälschte Inhalte öffentliche Stellungnahmen von Politikerinnen und Politikern in mehreren Ländern ausgelöst haben sollen.
Die iranische Artikel-Pflanzaktion stufte OpenAI mit Kategorie 4 ein, während ihre Aktivitäten in sozialen Netzwerken lediglich eine 2 erhielten. Kommentare in sozialen Medien kamen demnach nur auf einstellige oder niedrige zweistellige Like- und View-Zahlen. Über alle 30 verdeckten Operationen hinweg, die das Unternehmen in zweieinhalb Jahren aufgedeckt hat, hätten sich jene als besonders reichweitenstark erwiesen, die Inhalte in etablierte Medien einschleusen konnten.
Einige Fakes aus dem Dark-Clark-Umfeld verbreiteten sich so weit, dass sie Faktenchecks und offizielle Dementis auslösten – darunter ein erfundener Audioclip, der der Regierung Boliviens unterstellte, die Wasserversorgung in La Paz kappen zu wollen. Zugleich warnte das Unternehmen, die Betreiber hätten sich wiederholt Erfolge zugeschrieben, an denen sie nachweislich nicht beteiligt waren; ihre eigenen Wirkungsbehauptungen seien daher mit großer Vorsicht zu genießen.
Frühere von OpenAI publik gemachte Fälle hatten deutlich weniger Wirkung. Im August 2024 sperrte das Unternehmen etwa Konten mit Bezug zu „Storm-2035“, einer iranischen Operation, die Inhalte für fünf als Nachrichtenportale getarnte Websites generierte, und bewertete sie nur mit Kategorie 2.
OpenAI-Ermittler Ben Nimmo erklärte damals, die Operation habe versucht, beide Seiten eines Konflikts zu bespielen, habe aber offenbar weder bei der einen noch bei der anderen echte Resonanz erzeugt.
Mehr dazu: OpenAIs 719 KI-Mathematik-Beweise in der Kritik: Ging Navier-Stokes in der Übersetzung verloren?
