OpenAI hat nach eigenen Angaben russische und iranische Netzwerke gesperrt, die ChatGPT nutzten, um Scheinjournalisten und einen vorgeschobenen Thinktank zu unterstützen. Eine der Kampagnen brachte nahezu 100 Beiträge in Medien unter.
Wichtigste Punkte:
- OpenAI blockierte zwei Cluster von ChatGPT-Konten aus Russland und Iran, die falsche Frontorganisationen stützten.
- Sieben frei erfundene Journalisten-Personas platzierten laut dem Unternehmen knapp 100 Artikel in rund einem Dutzend Medien.
- Die russische Kampagne war die erste, die OpenAI auf seiner sechsstufigen „Breakout Scale“ mit Kategorie 5 bewertete.
OpenAI-Sperren gegen ChatGPT-Konten
Das Unternehmen legte die Sperren in einem am Donnerstag veröffentlichten Bericht offen. Darin beschreibt OpenAI zwei verdeckte Einflusskampagnen, die auf sogenannte „false front entities“ – also Scheinorganisationen – setzten. Beide Konten-Cluster griffen per VPN auf ChatGPT zu. OpenAI ordnete keine der beiden Operationen eindeutig einer staatlichen Stelle zu und erklärte, die iranische Aktivität erinnere eher an einen kommerziellen Auftragsdienstleister.
Die iranische Operation mit dem internen Namen „Bogus Bylines“ steuerte sieben erfundene Reporter, die sich als westliche Journalistinnen und Journalisten ausgaben und Redaktionen Long-Form-Artikel zum Konflikt zwischen den USA und Iran anboten. OpenAI identifizierte knapp 100 Beiträge, die unter diesen Namen in knapp einem Dutzend kleiner und mittelgroßer Medien erschienen oder weiterverbreitet wurden – der früheste datiert auf Juli 2025, der jüngste auf diesen Monat.
Die russische Operation „Dark Clark“ zielte vor allem auf Lateinamerika und versuchte in erster Linie, das Ansehen der Ukraine in der Region zu beschädigen. Nach Erkenntnissen von OpenAI kontrollierten die Akteure eine vermeintliche Forschungsplattform namens Social Research Center über eine Fake-Persona namens Mia Clark. Vorliegende Hinweise deuten darauf hin, dass die lokalen Mitarbeiter des Zentrums nicht wussten, dass sie für eine russische Gruppe arbeiteten, so das Unternehmen.
Auch interessant: Krypto-ETF-Momentum kehrt nach 50 Mrd. US-Dollar Zuflüssen zurück, so JPMorgan
Bewertungen auf der „Breakout Scale“
OpenAI bewertete die russische Kampagne mit Kategorie 5 auf der sechsstufigen „Breakout Scale“ – die erste Operation, die seit Beginn der Offenlegung solcher Fälle dieses Niveau erreichte. Ausschlaggebend waren Hinweise, dass die Fälschungen öffentliche Stellungnahmen von Politikerinnen und Politikern in mehreren Ländern nach sich zogen.
Die iranische Artikelplatzierungs-Kampagne stufte OpenAI als Kategorie 4 ein, während ihre Social-Media-Kommentare nur eine 2 erhielten. Diese Beiträge erzielten Likes und Abrufe lediglich im ein- bis niedrigen zweistelligen Bereich. Über die 30 verdeckten Operationen hinweg, die OpenAI in zweieinhalb Jahren aufgedeckt hat, zeigt sich laut Unternehmen: Vorhaben, die Inhalte in echten Medien unterbringen, erzielen tendenziell die größte Reichweite.
Einige Fakes aus der „Dark Clark“-Kampagne verbreiteten sich so weit, dass sie Faktenchecks und offizielle Dementis auslösten – darunter ein erfundener Audiomitschnitt, wonach die Regierung Boliviens angeblich die Wasserversorgung für La Paz kürzen würde. OpenAI warnte zugleich, die Betreiber hätten sich auch Ereignisse zuschreiben wollen, mit denen sie nichts zu tun hatten; ihre eigenen Wirkungsaussagen seien daher mit Vorsicht zu genießen.
Frühere Fälle, die OpenAI publik gemacht hatte, erzielten deutlich weniger Resonanz. Im August 2024 sperrte das Unternehmen Konten, die mit „Storm-2035“, einer iranischen Operation, in Verbindung standen. Diese erzeugte Inhalte für fünf Webseiten, die sich als Nachrichtenportale ausgaben, und wurde mit Kategorie 2 eingestuft.
OpenAI-Ermittler Ben Nimmo erklärte damals, die Operation habe versucht, beide Seiten im politischen Spektrum zu bedienen, sei jedoch bei keiner erkennbar auf Resonanz gestoßen.
Lesen Sie außerdem: OpenAIs 719 KI-Math-Beweise in der Kritik: Ging Navier-Stokes in der Übersetzung verloren?
