OpenAI、ムーンショット系16,000件の大量リクエストで「隠れた推論」狙われたと公表

Chinese AI developer Moonshot faces OpenAI claims that linked users tried to extract its hidden model reasoning (Image: Shutterstock)
Chinese AI developer Moonshot faces OpenAI claims that linked users tried to extract its hidden model reasoning (Image: Shutterstock)

OpenAIは、中国の競合である**Moonshot AI(ムーンショットAI)**に関係する人物らが中核となり、 自社モデルの「隠れた推論(hidden reasoning)」を抜き出そうとする組織的な動きがあったと明らかにした。 この試みは7月24~25日にピークを迎え、合計リクエスト数は約16,000件に達したという。

主なポイント

  • 7月の不審なアクセスの「中核クラスター」は、Kimiを開発するMoonshot関係者に紐づくとOpenAIが分析。
  • オペレーターらはチャット間で暗号化された推論テキストをコピーし、復号を試みたが、暗号自体は突破されなかった。
  • Moonshot側は公に反論しておらず、中国政府はこれまでの「蒸留」疑惑を一貫して否定している。

OpenAI、Moonshotを名指し

OpenAIは水曜付のブログ投稿で、この調査結果を 公表した。 それによると、この活動は7月1日に小規模な形で始まり、 24日と25日に急増。 マッチした抽出パターンを用いて、4,000人超のユーザーが計16,000件のリクエストを送信した。

その後の分析で、関連行為は最終的に1万5,000人超のユーザーに及んでいたことが判明したが、 OpenAIは7月28日までに一連のキャンペーンを 完全に遮断したとしている。

全てのオペレーターを単一の主体に結び付けることはできなかったものの、 中核をなすクラスターについては、Kimiシリーズを手掛ける中国企業Moonshotに関連する人物だと特定した。

OpenAIは、モデルが回答を生成する前段階の推論プロセスを暗号化し、ユーザーから見えない形で隠している。 OpenAIによれば、今回のオペレーターらは、 あるチャットで生成された暗号化済みの推論テキストをコピーし、 別のチャットで別のモデルに「書き起こし」を依頼することで、事実上の復号を狙った。 ただし暗号自体が破られた形跡はなく、保存済みユーザー会話にもアクセスされていないという。

OpenAIはこの関連アカウントを停止し、新規登録時の審査を強化。 さらに、他のAI研究機関や政府チャネルと情報を共有したとしている。

関連記事: Bitget、出金再開でプロテクションファンド残高を3億ドル超に回復

OpenAIが懸念する「蒸留」の線引き

OpenAIで国家安全保障戦略を統括するCaroline Zier氏は、 インタビューで、 同社が問題視しているのは「利用規約違反であって、『オープンモデル』や正当な手続きによる蒸留そのものではない」と強調した。

モデル蒸留(distillation)は、業界全体で広く用いられる技術だ。 OpenAIは今回のブログで、暗号化された推論が抜き取られれば、 元の安全策を伴わない形で競合モデルの学習に利用され、 「安全への同等の投資を伴わずに高度な能力を移転し得る」と警鐘を鳴らした。

一方で、トランプ前政権でAI担当「ツァー」を務めたDavid Sacks氏は、 こうした報告について、OpenAIやAnthropicのビジネスを脅かすオープンモデルを ワシントンに禁止させるためのロビー活動だと批判している。

MoonshotとKimiモデルへの包囲網

Moonshotは、OpenAIの主張に対し現時点で公的なコメントを出していない。 中国政府は、これまで米企業やトランプ政権から出ていた蒸留疑惑を否定し続けており、 米側が制裁などを科した場合には対抗措置も辞さない構えを示してきた。

Moonshotは7月16日にKimi K3モデルをローンチした。 その数週間後、ホワイトハウスの科学技術担当顧問Michael Kratsios氏は、 同社がNvidiaのブラックウェル(Blackwell)サーバー──本来は中国企業への販売が禁じられている製品──にアクセスし、 米国発のモデルからデータを引き出していたと指摘した。

続いて9月10日には、Anthropicが 報告を公表。 そこでは、Moonshotが5,380件の不正アカウントを通じて、 約30万件のユーザーリクエストを自社サービスからAnthropicのClaudeモデルに密かに迂回させていたとされる。

こちらも読む: Dogecoin、12年越しの「アプリレイヤー」実装へ

Alexey Bondarev profile photo

Alexey Bondarev

アレクセイ・ボンダレフは Yellow.com のコンテンツ責任者です。彼は詳細なリサーチ記事や学習コンテンツを専門としており、分析的なレポーティング、業界の文脈、そして AI 時代やセキュリティ技術からフィンテック・イノベーションに至るまで、暗号資産を形作るより大きな潮流に焦点を当てています。彼は、デジタルなものが近い将来アナログなものすべてを凌駕すると確信しており、その実現のために精力的に取り組んでいます。

免責事項とリスク警告: この記事で提供される情報は教育および情報提供のみを目的としており、著者の意見に基づいています。金融、投資、法的、または税務上のアドバイスを構成するものではありません。 暗号資産は非常に変動性が高く、投資の全部または相当な部分を失うリスクを含む高いリスクにさらされています。暗号資産の取引または保有は、すべての投資家に適しているとは限りません。 この記事で表明された見解は著者のものであり、Yellow、その創設者、または役員の公式な方針や立場を表すものではありません。 投資決定を行う前に、常にご自身で十分な調査(D.Y.O.R.)を行い、ライセンスを持つ金融専門家にご相談ください。
OpenAI、ムーンショット系16,000件の大量リクエストで「隠れた推論」狙われたと公表 | Yellow