OpenAIは、偽の記者や“看板だけ”のシンクタンクを支援する目的でChatGPTを悪用していた ロシアとイランのネットワークを停止したと明らかにした。イラン側の一つのネットワークだけで、 報道機関向けに約100本の記事が実際に掲載されていたという。
重要ポイント
- OpenAIは、ロシアとイランに関連する2つのChatGPTアカウント群を停止。 いずれも実態のないフロント組織を後押ししていた。
- イラン側の作戦では、7つの偽記者の人格が用いられ、約12のメディアで 計100本近い記事が掲載または配信されたとされる。
- ロシアのキャンペーンは、OpenAI独自の6段階「Breakout Scale」で 初のカテゴリー5評価となった。
OpenAIによるChatGPTアカウント停止
同社は木曜日に公表した報告書の中で、 今回の停止措置の詳細を説明した。いずれも、外形上は独立した団体を装った 「偽フロント組織」を中心に展開された隠密キャンペーンだという。両グループともVPN経由で ChatGPTにアクセスしていた。
OpenAIは、いずれの作戦も特定の政府機関と直接結び付ける証拠はないとしつつ、 イラン側の活動は「受託型」の商業的な影響工作に近いと分析している。
イランのオペレーションは「Bogus Bylines」と名付けられ、7人の架空記者が 西側メディアのジャーナリストを装って活動していた。 彼らは米国とイランの対立をテーマにした長文記事を編集部に売り込んでおり、 OpenAIは、これらの名前で掲載または配信された記事が、 中小規模のオンラインメディアを中心に約12媒体で 合計100本近く確認されたと説明している。最も古いものは2025年7月、 最新のものは今月付けの記事だった。
一方、ロシアの作戦は「Dark Clark」と呼ばれ、主に中南米を標的に、 同地域におけるウクライナの評価を損なうことを狙っていた。 オペレーターらは「Social Research Center」と名乗る独自の調査プラットフォームを 運営していたとみられ、その表看板となっていたのが 「Mia Clark」という架空人物だった。
OpenAIによれば、入手可能な証拠からは、現地で実務を担っていたスタッフは 自らがロシア関連組織の一部であることを認識していなかった可能性が高いという。
関連記事: 暗号資産ETFに再び追い風、流入額500億ドルで勢い回復とJPMorgan
Breakout Scaleによる評価
OpenAIは、ロシアのキャンペーンについて、 自社が運用する6段階の影響度指標「Breakout Scale」で 最高に近い「カテゴリー5」と評価した。 同社がこうしたレポートの公表を始めて以来、カテゴリー5に達した事例はこれが初めてだ。
カテゴリー5の根拠として、偽情報の一部が複数の国で政治家の公的発言を誘発するなど、 現実の政治言説に影響を与えた形跡が確認されたことを挙げている。
一方、イランによる記事投稿型の作戦はカテゴリー4と評価された。 ただし、ソーシャルメディア上でのコメント活動はカテゴリー2にとどまった。 これらの投稿への「いいね」数や閲覧数は一桁から二桁程度で、 目立った拡散は見られなかったという。
OpenAIは、過去2年半で30件の隠密作戦を摘発してきたが、 実在メディアにコンテンツを掲載できたオペレーションほど、 到達範囲が広がる傾向があると指摘している。
Dark Clarkによる偽情報の中には、ファクトチェック記事や当局の公式否定コメントを 引き出すほど拡散したものもあった。例えば、ボリビア政府がラパス市への 断水を決定したとする捏造の音声クリップなどだ。
ただしOpenAIは、オペレーター側が自らの影響力を誇張する目的で、 実際には関与していない出来事まで「自分たちの成果」と主張する事例もあり、 彼らの自己申告をそのまま鵜呑みにすべきではないと警告している。
これまでに公表されたケースの多くは、ここまでの浸透度には達していない。 2024年8月には、同社は「Storm-2035」と呼ばれるイランの影響工作に関連する アカウントを停止している。 この作戦はニュースサイトを装う5つのウェブサイト向けにコンテンツを量産していたが、 Breakout Scaleではカテゴリー2にとどまった。
当時、OpenAIの調査担当である**ベン・ニンモ（Ben Nimmo）**氏は、 このオペレーションが「双方の立場に迎合しようとしたが、どちらの陣営からも ほとんど反応を得られなかった」とコメントしている。
