OpenAI 與 Meta向聯邦法官示警，指出用來辨識 AI 生成音訊與影片的工具，恐怕永遠無法做到完全可靠，儘管在一項調查中，931 名法官裡，目前僅 15 人曾在案件中真正遇到深偽證據爭議。
重要觀察重點：
- OpenAI 與 Meta 在波士頓向聯邦證據規則小組表示，AI 生成的影音內容愈來愈難以鑑別真偽。
- OpenAI 律師指出，無論是數位浮水印還是偵測工具，都不可能百分之百可信。
- 法官目前仍在研究一項深偽相關的證據規則修正草案，尚未正式通過。
OpenAI 對深偽風險的警告
兩家公司代表於 10 月 15 日，在美國司法會議轄下「證據規則諮詢委員會」於波士頓舉行的會議上提出上述憂慮。這個小組自 2023 年起便開始研究深偽對證據規則可能造成的衝擊。
OpenAI 政策顧問 Shira Anderson 對委員會表示，AI 影像生成技術持續快速進步，她不認為未來會出現可「科學地」穩健辨識所有 AI 圖像的技術。加州與歐盟新法已要求平台替內容加註浮水印，但 Anderson 指出，目前各家公司採用的標記方式各自為政，缺乏統一標準，因此不可能有一套能驗證所有視覺內容真偽的通用機制，她並直言，這類工具恐怕很難做到「銅牆鐵壁」式的防護。
Meta 產品管理總監 Devin Norder 則表示，一般人已難以分辨最新 AI 模型生成的影音與真實內容之間的差異，而製作成本與門檻也大幅降低，「時間與金錢成本都不高」，讓假內容更易在社會流通。
延伸閱讀：比特幣守住 80,000 美元：挑戰 87,000 前的整固？
Furman 法官盤點深偽實務現況
紐約曼哈頓聯邦地方法院法官、該證據規則小組主席 Jesse Furman 表示，學界過去幾年對「深偽證據將席捲法院」的預測，目前在實務案件中尚未大規模出現。數字也呼應這個觀察：根據聯邦司法中心今年 3 月的問卷調查，在 931 名回覆的法官中，僅有 15 人曾遇到一造主張對方證據是深偽內容。
為進一步釐清影響，Furman 已成立一個小組深入研究。該小組草擬了一項名為「聯邦證據規則第 901(c) 條」的修正案，尚未獲得通過。草案構想是：若一方主張證據為捏造或深偽，必須先提出初步佐證，之後才由提出該證據的一方負責說明，證據「較有可能」是真實而非偽造。
小組內部也不乏謹慎聲音。聯邦法官 Valerie Caproni 提醒，不宜在缺乏更充足實證的情況下，急於訂出專門針對 AI 的新規則。她強調，法院長期以來一直在面對偽造、虛假證據問題，現行法律早已禁止詐欺性提交，未必需要「為 AI 另開一條線」。
今年 5 月，該小組否決了部分法律學者提出的深偽專章建議，理由是現行的證據真實性審查標準，原則上已足以適用於 AI 生成內容。
不過，AI 偽證據已開始在個案中浮現。數月後，加州阿拉米達郡高等法院法官 Victoria Kolakowski 在一件房屋糾紛案中，發現原告將 AI 生成的證人影片當成真實影像提交，最終裁定駁回整起訴訟。
