Anthropicが生成AI「Claude」のテキストに不可視ウォーターマークを埋め込み、対応ファイルには 署名付きプロベナンス（来歴）情報を付与する仕組みを世界規模で導入した。欧州連合（EU）の規則に 沿った対応だが、約190の署名企業による枠組みの一環であるにもかかわらず、ユーザーから反発が広がっている。
主なポイント
- Claudeが生成するテキストには、コピー＆ペーストしても残る機械可読なウォーターマークを埋め込む。 対応ファイルには署名付きプロベナンスメタデータが付与される。
- このポリシーは対応するClaudeモデルに対し世界共通で適用され、旧モデルについても移行期間中に順次更新される。
- 批判派は、人間が主体的に書いた文章やコードであっても、校正や補助にClaudeを使っただけで AI生成物としてフラグが立つ可能性があると懸念している。
Claudeのウォーターマーク制度
Anthropicは8月11日、EUのAI法に基づく透明性フレームワークへのコミットメントの一環として、 マーキングの仕組みの概要を公表した。 8月2日以降にEUでローンチされたClaudeモデルは、提供開始時からマーキングに対応しており、 同社はそれ以前のモデルにも対応を広げている。
仕組みとしては、生成テキストの中に肉眼では識別できないウォーターマークを直接埋め込む一方で、 SVG、PNG、JPGなど対応ファイルについては、C2PA規格に準拠したデジタル署名付きプロベナンスメタデータを付与する。 Anthropicは、このテキスト用マークが意味や品質、可読性を損なうことはないとしている。Forbesによれば、 ユーザー側でオプトアウト（無効化）することはできないという。
もっとも、マークには限界もある。大幅な編集や言い換え、翻訳、他の文章との混在といった加工が加わると、 検出可能なシグナルが失われる可能性がある。また、ファイル形式の変換や再保存、スクリーンショットの取得などで、 プロベナンスメタデータが消えてしまうこともある。
関連記事: XRP Breaks Below $1 While Whales Quietly Scoop Up 380M Tokens
Claudeに対する反発
この発表は、XやReddit上で即座に批判を呼んだ。特に、文章校正にClaudeを使うユーザーや、 コード関連の作業への影響を懸念する開発者の間で反発が強い。
ラジオ司会者兼ブロガーのErick Erickson氏は、Claudeに校正を手伝わせただけで、 自身が書いた文章までウォーターマーク付きになり得るのは「ばかげている」と不満を表明した。
こうした懸念は、Anthropic自身が示している重要な区別を浮き彫りにしている。検出されたマークは、 そのコンテンツをClaudeが処理した可能性を示すにすぎず、Claudeが元の著者であることを保証するわけではない、 という点だ。同社は特に、校正や翻訳、要約、ファイル変換などの用途では、他者が作成した素材に基づきながらも マーク付きの出力が生成され得ると明記している。
EUの行動規範自体は任意の枠組みだが、 AI法第50条の透明性要件は8月2日付で法的拘束力を持つようになった。 7月末までにGoogle、Meta、Microsoft、OpenAI、Anthropicなど約190の組織がこのコードに署名している。
変化はClaudeにとどまらない。OpenAIは現在、対応画像向けにC2PAメタデータとSynthIDウォーターマークを実装し、 音声についてもSynthIDによる識別を導入している。一方で、同社が一般に公開しているプロベナンス検証ツールは、 現時点ではテキストを検出対象形式としては挙げていない。
次に読む: Apple Pay Chief Jennifer Bailey Retires After 25 Years At The Company
