OpenAIと**メタ（Meta Platforms）**が米連邦判事らに対し、AIが生成した音声・動画を見抜くための検出ツールは、将来にわたっても「完全に信頼できるものにはならない」との見方を示した。もっとも、連邦司法センターの調査によれば、ディープフェイクを巡る争いを実際に扱った判事は931人中わずか15人にとどまる。
主なポイント
- OpenAIとメタは、ボストンで開かれた米連邦司法会議証拠規則諮問委員会で、AI生成音声・動画の真正性確認が一段と困難になっていると報告。
- OpenAI側の弁護士は、ウォーターマーク（透かし）や検出ツールは「決して完全にはならない」と指摘。
- 判事らはディープフェイク対応の新ルール案を検討中だが、まだ正式決定には至っていない。
OpenAIのディープフェイク警鐘
両社の担当者は10月15日、米連邦司法会議の証拠規則諮問委員会がボストンで開いた会合で、自社の懸念を説明した。同委員会は2023年からディープフェイク問題を議題として扱っている。
OpenAIのポリシーカウンセルである**シラ・アンダーソン（Shira Anderson）**氏は、AIによる画像・映像の精度はなお向上を続けており、将来的にも科学的に確実といえる検出手法が確立される見込みは薄いと指摘した。カリフォルニア州や欧州連合（EU）では、すでにウォーターマーク表示を義務付ける法令が施行されているものの、「各社がバラバラの方式を採用しており、あらゆるビジュアルコンテンツを一括で検証できる統一規格は存在しない」と述べ、どのような検出ツールでも「完全無欠（bulletproof）」にはなり得ないとの認識を示した。
メタでプロダクトマネジメント部門ディレクターを務める**デビン・ノーダー（Devin Norder）**氏も、最新のAIモデルが生成する映像・音声は、人間の目や耳では本物とほぼ見分けがつかない水準に達していると説明。こうしたコンテンツを作るコストと時間も「すでに非常に低く抑えられる段階にある」と述べ、悪用リスクの高まりに警鐘を鳴らした。
関連記事: ビットコイン8万ドル維持、8万7,000ドル再トライ前の一服か
ジェシー・ファーマン判事によるディープフェイク検証
証拠規則諮問委員会の委員長を務めるニューヨーク南部地区連邦地裁の**ジェシー・ファーマン（Jesse Furman）**判事は、学界などで懸念が指摘される法廷でのディープフェイク横行について、「現時点では実務における顕在化は限定的だ」と冷静に評価する。
その裏付けとして、連邦司法センターが3月に実施した調査では、回答した931人の判事のうち、証拠がディープフェイクだとの主張が出されたケースを経験したのは15人にとどまったと紹介した。
ファーマン判事は、問題の深掘りを目的とする小委員会を設置。そのメンバーは、証拠採否を定める連邦証拠規則に新たに「ルール901(c)」を追記する草案をまとめている。草案では、ある証拠が偽物だと主張する当事者側に、まず一定の根拠を示させたうえで、相手方が「本物である蓋然性が高い」と立証する仕組みを想定している。ただし、現時点ではあくまで案にとどまり、正式採択には至っていない。
慎重姿勢を崩さない委員もいる。連邦地裁判事の**ヴァレリー・カプロニ（Valerie Caproni）**氏は、AI固有の新ルールを拙速に導入するべきではないと主張。ディープフェイクが法廷で「広範な問題」となっていることを示す十分なエビデンスがない段階で、特別ルールを設けるのは時期尚早だと警告した。
カプロニ判事は、裁判所はこれまでも「虚偽の証拠」の提出と向き合ってきており、すでに詐欺的な証拠提出を禁じる規定や運用が存在すると指摘。AI生成物であっても、現行法の枠組みで対処し得るとの立場だ。
実際、同委員会は2025年5月、法学者らが提案したディープフェイク専用ルールの導入を見送っている。委員の多くが、AI生成コンテンツであっても、既存の真正性立証基準で十分対応可能だとの見解を示したためだ。
その数カ月後には、カリフォルニア州アラメダ郡高等裁判所の**ヴィクトリア・コロコウスキー（Victoria Kolakowski）**判事が、原告側がAI生成の証人動画を実在の証拠として提出していたことを問題視し、同州の住宅関連訴訟を却下したケースも報告されている。判事がディープフェイクを理由に訴えを退けた象徴的事例として注目された。
