OpenAI affirme avoir banni des réseaux russes et iraniens qui utilisaient ChatGPT pour alimenter de faux journalistes et un faux think tank, l’un d’eux ayant réussi à faire publier près d’une centaine d’articles dans des médias.
Points clés :
- OpenAI a fermé deux grappes de comptes ChatGPT en Russie et en Iran, reliés à des structures écrans.
- Sept faux profils de journalistes ont réussi à faire paraître près de 100 articles dans une douzaine de médias, selon l’entreprise.
- La campagne russe est la première qu’OpenAI classe en catégorie 5 sur sa grille d’évaluation à six niveaux, la « Breakout Scale ».
Interdictions liées à ChatGPT
L’entreprise a révélé ces bannissements dans un rapport publié jeudi, décrivant deux opérations d’influence clandestines bâties autour de ce qu’elle qualifie d’« entités de façade ». Les deux grappes de comptes accédaient à ChatGPT via des VPN. OpenAI ne les a pas rattachées à des agences d’État spécifiques, et estime que l’activité iranienne ressemble davantage à une prestation d’influence commerciale, « clé en main ».
L’opération iranienne, surnommée Bogus Bylines, a orchestré sept faux profils se présentant comme des journalistes occidentaux, proposant à des rédactions des analyses longues sur le conflit entre les États-Unis et l’Iran. OpenAI a recensé près de 100 articles publiés ou repris sous ces fausses signatures dans une petite douzaine de médias de taille modeste ou intermédiaire, du premier repéré en juillet 2025 jusqu’aux plus récents, ce mois-ci.
L’opération russe, baptisée Dark Clark, ciblait principalement l’Amérique latine et visait à dégrader l’image de l’Ukraine dans la région. Ses opérateurs semblaient piloter une plateforme présentée comme un centre de recherche, le Social Research Center, via un faux profil nommé Mia Clark. Selon OpenAI, les éléments disponibles suggèrent que les employés locaux de ce centre ignoraient qu’ils travaillaient au bénéfice d’un groupe russe.
À lire aussi : Le rebond des ETF crypto se confirme après 50 milliards de dollars d’entrées, selon JPMorgan
La « Breakout Scale » d’OpenAI
OpenAI a classé la campagne russe en catégorie 5 sur sa « Breakout Scale » à six niveaux, la première opération à atteindre ce stade depuis la publication de ces rapports. L’entreprise s’appuie notamment sur des indices montrant que certains contenus fabriqués ont suscité des réactions publiques de responsables politiques dans plusieurs pays.
L’opération iranienne de placement d’articles obtient, elle, une note de 4, tandis que les commentaires publiés sur les réseaux sociaux ne dépassent pas la catégorie 2. Ces réactions n’ont généré que quelques mentions « J’aime » et vues, au mieux dans les basses dizaines. Sur les 30 opérations clandestines déjouées en deux ans et demi, OpenAI observe que celles qui parviennent à se faire relayer par de « vrais » médias sont généralement celles qui atteignent le plus large public.
Certaines intox de Dark Clark se sont propagées suffisamment pour déclencher des vérifications de faits et des démentis officiels, notamment un faux enregistrement audio affirmant que le gouvernement bolivien allait couper l’eau à La Paz. OpenAI prévient toutefois que les opérateurs ont également revendiqué des événements auxquels ils n’avaient, de toute évidence, pas contribué, de sorte que leurs propres estimations d’impact ne peuvent être prises pour argent comptant.
Les précédents dossiers rendus publics par OpenAI avaient eu une portée bien plus limitée. En août 2024, la société a ainsi banni des comptes liés à Storm-2035, une opération iranienne qui produisait des contenus pour cinq sites se présentant comme des médias d’information, classée seulement en catégorie 2.
L’enquêteur d’OpenAI Ben Nimmo avait alors expliqué que cette opération « jouait sur les deux tableaux », sans pour autant parvenir à susciter une véritable audience d’aucun côté.
