OpenAIと**メタ（Meta）**は、AIが生成した音声・映像を見抜く検出ツールは「決して完全には信頼できない」可能性が高いと連邦判事らに訴えた。もっとも、連邦司法センターの調査では、931人の回答判事のうち、こうした争点を実際に扱ったのはわずか15人にとどまっている。
主なポイント
- OpenAIとメタはボストンで開かれた連邦証拠規則パネルに対し、AI生成の音声・映像は真贋判定が一段と難しくなっていると説明。
- OpenAI側の弁護士は、透かし（ウォーターマーク）や検出ツールが「完全に信頼できる仕組みになることはない」と指摘。
- 判事らはディープフェイクを念頭に置いた証拠規則案を検討中だが、まだ正式承認には至っていない。
OpenAIのディープフェイク警鐘
両社の代表者は10月15日、米司法会議証拠規則諮問委員会がボストンで開いた会合で、自社の懸念を説明した。同委員会は2023年からこの問題を継続審議している。
OpenAIのポリシーカウンセルである**シラ・アンダーソン（Shira Anderson）**氏は、AIによる画像生成技術は急速に高度化しており、「将来的にも科学的に決定的な検出手段が確立される見通しはない」と委員会に述べた。カリフォルニア州や欧州連合（EU）では、すでに透かし表示を義務づける新法が導入されているが、アンダーソン氏によれば、各社が独自方式を採用しており、あらゆるビジュアルコンテンツの真偽を一元的に検証できる仕組みは存在しないという。同氏は、こうしたツールが「完全無欠（bulletproof）」になることには懐疑的だと強調した。
メタでプロダクトマネジメントディレクターを務める**デビン・ノーダー（Devin Norder）**氏は、最新のAIモデルが生成するコンテンツは、人間には本物と見分けがつかなくなっていると指摘。こうしたメディアを作るのに必要な時間もコストも、すでに大幅に低下していると述べた。
関連記事: ビットコイン8万ドル維持：8万7,000ドル再挑戦前の一服か
ジェシー・ファーマン判事によるディープフェイク検証
パネル議長を務めるニューヨーク南部地区連邦地裁判事の**ジェシー・ファーマン（Jesse Furman）**氏は、ディープフェイクが法廷を席巻するという学界の警鐘は、現時点では実務で広く顕在化しているとは言い難いと指摘する。その裏付けとして、連邦司法センターが3月に実施した調査では、931人の回答判事のうち、証拠がディープフェイクだとの異議申立てに直面したのは15人にすぎなかった。
ファーマン氏は、問題をさらに詳しく検討するため小委員会を設置。同小委員会は、いまだ正式承認されていないものの、「証拠規則901条(c)案」と呼ばれる改正案を起草している。そこでは、ある当事者が「偽物だ」と主張する場合、まずその主張を裏づける一定の立証を求め、その後で相手方に対し、当該証拠が「本物である可能性が高い」ことを示す説明責任を負わせる枠組みが提案されている。
一方で、委員の中からは慎重論も出ている。連邦地裁判事の**バレリー・カプロニ（Valerie Caproni）**氏は、AI特有のルールを拙速に導入することに警鐘を鳴らし、ディープフェイクが法廷で「広範な問題」となっていることを示す証拠が不十分な段階で新規則を設けるべきではないと訴えた。
同氏は、裁判所はこれまでも長年にわたり虚偽証拠の提出と向き合ってきており、すでに存在する詐欺的行為を禁じる法律だけでも一定の対応は可能だと主張した。
2025年5月には、パネルが法学者らによるディープフェイク対応規則案の採用を見送っている。委員の多くが、AI生成物の真偽を評価するうえでも、現行の証拠能力・真正性に関する基準で十分に対処可能との見解を示したためだ。
その数カ月後、カリフォルニア州アラメダ郡高等裁判所の**ビクトリア・コラコフスキ（Victoria Kolakowski）**判事は、原告側がAI生成の証人動画を実在の証拠として提出していたことが判明した住宅関連訴訟を棄却している。
