OpenAIは、偽記者やシンクタンクを装ったフロント組織の運営にChatGPTが悪用されていたとして、 ロシアとイランに関連するネットワークを遮断したと明らかにした。なかには実在メディアに 約100本の記事を掲載させていたケースもあったという。
注目ポイント
- OpenAIは、虚偽のフロント組織を支えていたロシアとイラン発の2つのアカウント集団を遮断。
- イラン側の「偽記者」7名の人格が、十数のメディアで計約100本の記事を掲載・配信していた。
- ロシアの作戦は、OpenAI独自の「ブレイクアウト・スケール」で初のカテゴリー5評価。
OpenAIによるChatGPTアカウント停止
OpenAIは木曜日に公表した報告書の中で、 これらの措置を開示した。報告書によると、両ネットワークはいずれも「偽装フロント組織」を 中心に構築された隠然たる影響工作で、すべてVPN経由でChatGPTにアクセスしていた。
OpenAIは、いずれの作戦も特定の政府機関に直接は結び付けていないが、イラン側の活動については 「請負型の商業運営」に近いとみている。
イランの作戦は「Bogus Bylines（ボーガス・バイラインズ）」と名付けられ、西側の記者を装った 架空の7人のライターが、米イラン対立をテーマにした長文記事を編集者に売り込んでいた。 OpenAIが確認したところ、これらの偽名で掲載または配信された記事は、 小中規模メディアおよそ十数社で計約100本に上り、最も古いものは2025年7月、 最新のものは今月に掲載されていた。
一方、ロシアの作戦は「Dark Clark（ダーク・クラーク）」と呼ばれ、主にラテンアメリカを標的に ウクライナの評価を損なうことを狙っていた。運営側は「Mia Clark」という架空人物を名乗り、 Social Research Centerという自称リサーチプラットフォームを操っていた形跡がある。 OpenAIによれば、現地スタッフは、自身がロシア系の組織に関与しているとは認識していなかった 可能性が高いという。
関連記事: 暗号資産ETFに再び追い風、流入総額500億ドルで勢い回復とJPMorgan
ブレイクアウト・スケールによる評価
OpenAIは、ロシア側のキャンペーンについて、影響度を測る6段階の「ブレイクアウト・スケール」で 過去最高となるカテゴリー5に認定した。 同社によると、この偽情報をもとに複数国の政治家が公的なコメントを出しており、 その波及効果が評価を押し上げた。
イランによる記事執筆・掲載工作はカテゴリー4とされ、関連するソーシャルメディアでのコメントは カテゴリー2にとどまった。これらの投稿は「いいね」や閲覧数が一桁から二桁程度に限られており、 目立ったバイラルには至らなかった。
OpenAIは、過去2年半で30件の秘密工作を暴いてきたが、その中でも実在メディアへの掲載に成功した 事例ほど、リーチが大きくなる傾向があると指摘する。
Dark Clark関連の偽情報の一部は、ファクトチェックや当局による公式否定を招くまでに拡散した。 その一例が「ボリビア政府がラパスへの給水停止を計画している」という虚偽の音声データだ。 ただしOpenAIは、運営側が実際には関与していない出来事まで「自分たちの成果」と主張しているケースもあり、 彼らの自己申告による影響度は額面通りには受け取れないと警告している。
これまでにOpenAIが公表してきた事案の多くは、ここまでの浸透力は持たなかった。 2024年8月には、イラン系の「Storm-2035」と呼ばれる作戦に関連するアカウント群を 停止。 同グループはニュースサイトを装う5つのウェブサイト向けにコンテンツを生成していたが、 ブレイクアウト・スケールではカテゴリー2と低い評価にとどまった。
当時、OpenAIの調査担当であるBen Nimmo氏は、この作戦は「双方の陣営に取り入ろうとしたが、 結局どちらからも反応を得られなかった」とコメントしていた。
