OpenAIが、顧客データを保存せずに不正利用を検知する新たな安全システムをテスト中だ。競合のAnthropicが企業向けに導入した「30日間のログ保存」ルールに正面から挑む格好となる。
主なポイント
- OpenAIは、関連セッションをまたいだ乱用パターンを検出しつつ、プロンプトや応答を一切保持しない「Private Safety Processing」をプレビュー提供。
- Anthropicは、複数ステップにまたがる攻撃検知に不可欠だとして、最上位モデルの企業利用に30日間のデータ保存を義務化。
- OpenAIは9月にかけて提供範囲を拡大し、技術ホワイトペーパーも公表する計画。
「Private Safety Processing」はマルチセッション型の乱用を標的に
OpenAIは水曜、公式ブログでPrivate Safety Processingのプレビュー開始を発表した。同社が一部フロンティアモデル向けに提供している「Zero Data Retention（ゼロ・データ保存）」——リクエスト処理後はプロンプトや応答を保持しない取り決め——を拡張する位置づけだ。9月にかけて提供拡大と技術ホワイトペーパーの公表を予定する。
新システムでは、顧客コンテンツはクライアント側が管理するインフラに留まるか、もしくはクライアントのみが鍵を保持する形で暗号化され、OpenAIのストレージに保存される。自動ツールが、関連する複数セッションを横断して乱用パターンを検査する設計で、ユーザーが停止を指示した後もエージェントが動き続けるような「エージェント的な挙動」も監視対象に含める。一方で、OpenAIのスタッフがコンテンツを直接目にすることはないとしている。
同社のプロダクトポリシー責任者であるAleah Houze氏は、記者団に対し、危険な挙動は単発のやり取りからではなく、複数のインタラクションを組み合わせて初めて浮かび上がるケースが多いと説明。具体例として、ある対話ではソフトウェアの脆弱性を探り、別の対話ではリモートアクセスツールについて質問するといった、時間差攻撃的な利用パターンを挙げた。
関連記事: Claudeの隠れウォーターマークは「文章表現を歪める」とGruber氏が批判
データ保持巡りAnthropicとOpenAIが対照的アプローチ
Anthropicは7月、最上位モデル群であるFable 5やMythos 5を含むラインアップを企業が利用する際、30日間のデータ保持を義務づけるポリシーを公表した。
同社は、この方針が利用企業に不評を買い、ビジネス上の逆風になり得ることを認めつつも、多数のリクエストに意図的に分散させた攻撃を検知するにはログが不可欠だと強調。限定された「承認済みレビュアー」にのみアクセスが許された統制プロセスのもとで、人間によるレビューも可能としている。あらゆるセッションは、改ざん防止機能付きログに記録される。
アナリストはOpenAIの発表時期と実効性に疑問
元政府関係者向けシンクタンクFormerGovの事務局長、Brian Levine氏は、今回のコミットメントを「技術的には強い約束だ」と評価する一方で、乱用監視とコンテンツ非保持は本来トレードオフ関係にあると指摘し、両立の難しさをにじませた。
実際の技術的な裏付けは数週間後に示される予定で、投資家向けテック調査会社Moor Insights and StrategyのJason Andersen氏は、今週の一連の発表を「IPO（新規株式公開）を意識したポジショニング」という側面からも読み解けるとみる。
LexisNexis Risk Solutions Groupの最高情報セキュリティ責任者（CISO）、Flavio Villanustre氏は、将来的に強まるとみる規制を、事前に「ソフト化」しようとする動きとの見方を示した。
今回のプレビューは、安全性に関するメッセージング強化の1週間を締めくくる位置づけでもある。OpenAIは前日の火曜、スケーリングを一時的に減速し、研究環境の堅牢化とレッドチーミング（攻撃的検証）の実施に伴い、強化学習のトレーニングを停止したと発表。また、新たな監視体制の拡充により、対象となる推論コンピュートの約20％が安全監視に費やされるとの見積もりも公表した。
