OpenAI及Meta向聯邦法官警示，現有用作分辨AI生成影音的工具，無論是水印還是偵測技術，長遠都難以做到完全可靠。聯邦司法中心早前調查顯示，在931名回覆的法官之中，只有15人曾處理過涉及深偽爭議的案件。
重點整理：
- OpenAI及Meta在波士頓向聯邦證據規則專家小組表示，AI生成影音愈來愈難以核實真偽。
- OpenAI代表稱，即使加入水印和使用偵測工具，也永遠無法做到百分百可信。
- 法官正研讀一項有關深偽證據的修訂草案，但暫未正式通過。
OpenAI就深偽風險發出警號
兩間公司代表於10月15日，出席美國司法會議轄下「證據規則諮詢委員會」在波士頓舉行的會議，向成員匯報憂慮。該委員會自2023年起已著手研究深偽證據問題。
OpenAI政策法律顧問Shira Anderson向委員會指出，AI影像生成技術仍在快速提升，她不預期將來會出現一套可靠的科學方法，可以穩定地揪出所有AI圖片或影片。加州及歐盟的新法例已要求使用水印標示AI內容，但Anderson稱，各公司採用的水印系統各自為政，欠缺統一標準，很難建立一套通行全行業的驗證機制，她並直言相關工具難以做到「滴水不漏」。
Meta產品管理總監Devin Norder則表示，以最新AI模型生成的影像與聲音，普通人幾乎已難以分辨其真假，而且製作門檻大幅降低，所費時間與成本亦愈來愈少。
延伸閱讀：比特幣穩守$80,000：挑戰$87,000前的整固？
Furman法官審視深偽規則
紐約曼哈頓聯邦地區法官、同時是該委員會主席的Jesse Furman指出，學界多年來預言深偽證據會在法庭廣泛出現，但目前真正在訴訟中浮現的案例仍然不多。數據亦反映同一情況：根據聯邦司法中心於今年3月的調查，在931名回覆問卷的法官當中，只有15人曾遇到一方指控對方提交的證據屬深偽造假。
為進一步跟進，Furman其後委任一個小組專責研究，並起草了一項被稱為「規則901(c)」的修訂建議。按草案，一旦有一方聲稱證據是深偽，必須先提出一定基礎理由，之後對方才需要證明該證據「較大可能」是真實的。
不過，並非所有成員都贊成立即訂立針對AI的特別條文。聯邦法官Valerie Caproni便提醒，未有足夠證據顯示深偽已在法院內構成「普遍性問題」之前，不宜操之過急制訂AI專章。她指出，法院處理虛假證據並非新鮮事，現行法律本身已禁止虛假及欺詐性文件，具備一定防線。
2025年5月，該委員會最終沒有採納部分法律學者提出的深偽專門條文建議，理由是現行的證據真實性審查標準，對AI相關證據仍然適用。
幾個月後，加州阿拉米達縣高等法院法官Victoria Kolakowski在一宗房屋糾紛案件中，發現原告方提交的所謂證人影片其實由AI生成，最終裁定案件撤銷，成為AI深偽證據在實務上「中招」的具體案例之一。
