OpenAIが、顧客データを保存せずに不正利用を検知できる安全システムをテストしている。企業顧客に30日間のデータ保持を求めるライバルのAnthropicに対する、正面からの対抗措置だ。
注目ポイント
- OpenAIは「Private Safety Processing」と呼ぶ仕組みをプレビュー。関連する複数セッションをまたいだ不正パターンを検知しながら、プロンプトや応答そのものは保存しないとしている。
- Anthropicは、最上位モデルの企業利用に対し30日間のログ保存を必須とし、多段階攻撃の検出にはログが不可欠と説明。
- OpenAIは9月にかけて本格展開と技術ホワイトペーパーの公開を予定している。
「Private Safety Processing」でマルチセッション攻撃を狙い撃ち
同社は水曜、公式発表を行い、今回のプレビューを「Zero Data Retention（ゼロデータ保持）」の拡張版と位置づけた。Zero Data Retentionは、リクエスト処理後にプロンプトやモデル応答をOpenAI側に残さないという企業向けオプションだ。9月には、対象拡大と技術的詳細をまとめたホワイトペーパーの公表を予定している。
新たな仕組みでは、顧客コンテンツは基本的に顧客側が管理するインフラ上にとどまるか、あるいは顧客が単独で管理する鍵で暗号化された状態でOpenAI側に保存される。その上で、自動ツールが関連する複数セッションにまたがる不正利用のパターンを解析する。ユーザーが「停止」と指示した後もエージェントが自律的に動き続けるような「エージェント型」の振る舞いも監視対象に含める設計だ。人間のオペレーターが生データを目にすることはないと強調している。
同社のプロダクトポリシー責任者であるAleah Houze氏は、記者団への説明で、「危険な行為は単発のやり取りではなく、複数のインタラクションをつなぎ合わせて初めて姿を現すことが多い」と指摘した。例えば、あるセッションではソフトウエアの脆弱性を探り、別のセッションではリモートアクセスツールについて質問するといったケースだ。
関連記事: Claudeの「隠し透かし」は文章表現を歪めるとGruber氏が批判
Anthropicの30日保持ルールで両社のスタンスが分岐
Anthropicは7月、最上位クラスのモデル—Fable 5やMythos 5など—を利用する企業顧客に対し、30日間のデータ保持を義務づける方針を打ち出した。
研究所側は、この方針が利用企業には不評となり、ビジネス面のマイナス要因になり得ることを認めつつも、多数のリクエストへ意図的に分散させた攻撃を検知するにはログが不可欠だと主張している。人手によるレビューも可能だが、厳しく管理されたルートを通じ、承認された少数のレビュアーに限定される仕組みだ。各セッションは改ざん不能な形で記録される。
アナリストはOpenAIの発表時期と実効性に疑問も
シンクタンクFormerGovのエグゼクティブディレクターであるBrian Levine氏は、今回の公約を「技術的にはかなり野心的だ」と評価した。従来、不正監視とプライバシー保護（コンテンツ非閲覧）はトレードオフの関係にあり、その両立は難しかったためだ。
一方で同氏は、具体的な技術的裏付けが示されるのは数週間先になる点を指摘。調査会社Moor Insights and StrategyのJason Andersen氏は、こうした一連の発表の背景に、株式公開（IPO）を見据えたポジショニングの意図を読み取る。
LexisNexis Risk Solutions Groupの最高情報セキュリティ責任者（CISO）、Flavio Villanustre氏は、今後強まると見込む規制圧力を先回りして和らげようとする試みだとの見方を示した。
今回のプレビューは、OpenAIが安全対策を前面に押し出した1週間の締めくくりでもある。同社は前日の火曜、スケーリング（拡張）ペースを落とし、研究環境の防御強化と「レッドチーミング」（疑似攻撃テスト）の実施に伴い、強化学習のトレーニングを一時停止したと明らかにした。また、監視範囲の拡大によって、対象となる推論計算資源のおよそ20％が安全監視に費やされるとの試算も示した。
