OpenAI及Meta早前向多名聯邦法官表示，用作識別AI生成聲音及影像的工具，從技術上可能永遠無法做到「完全可靠」。不過，在一項覆蓋931名聯邦法官的調查中，至今只有15人曾在案件中實際遇到有人以「深偽」為由，質疑對方提交的證據。
要點摘要：
- OpenAI與Meta在波士頓向聯邦證據規則小組表示，AI生成影音愈來愈難核實真偽。
- OpenAI律師稱，無論水印還是偵測工具，都不可能做到百分百穩妥。
- 法官正研究一條針對深偽的草擬新規則，但仍未正式通過。
OpenAI就深偽向司法界發出警號
兩家公司代表於10月15日，在美國司法會議轄下「證據規則諮詢委員會」於波士頓舉行的會議上，向法官陳述對深偽證據的憂慮。該委員會自2023年起已開始跟進相關議題。
OpenAI政策法律顧問Shira Anderson向委員會指出，AI圖像質素持續提升，她並不預期未來會出現一套穩健的「科學方法」足以可靠偵測此類內容。加州及歐盟的新法例已要求加入水印，但Anderson強調，各家公司各用一套水印方案，市場上不存在統一標準，可以一次過驗證所有視覺內容，她對這些工具最終能否「萬無一失」表示懷疑。
Meta產品管理總監Devin Norder則表示，以最新AI模型生成的影音內容，在視覺上已難以與真實媒體區分，而且製作成本及所需時間亦愈來愈低，令任何人都可以低門檻製作高質素深偽。
延伸閱讀： 比特幣穩守80,000美元：挑戰87,000美元前的整固？
Furman法官審視深偽風險與實際影響
曼哈頓聯邦地區法院法官、同時為該委員會主席的Jesse Furman指出，學界多年來不斷警告深偽可能在法庭掀起風暴，但從現實個案而言，暫時仍未大量浮現。聯邦司法中心今年3月的調查顯示，在931名回覆問卷的聯邦法官中，只有15人曾遇到一方指控對方證據屬深偽。
Furman其後成立小組深入研究，並草擬一項名為「規則901(c)」的修訂建議。根據草案，若一方聲稱對方證據屬偽造，必須先提出初步理據，之後舉證責任才會轉回另一方，由對方證明有關證據「在可能性上較大是真實」。
不過，委員會內部亦有聲音主張保持克制。聯邦法官Valerie Caproni提醒，未有充分證據證明深偽已在法院構成廣泛問題前，不宜匆忙制定專為AI而設的新規則。她指出，法庭一直以來都要處理虛假或被操控的證據，而現行法律本身已禁止詐騙性陳述及提交虛假文件。
2025年5月，委員會最終拒絕採納部分法律學者提出的深偽專門規則，理由是現行證據真實性標準，足以涵蓋AI生成內容。
幾個月後，加州阿拉米達縣高等法院法官Victoria Kolakowski在一宗房屋糾紛案中，裁定原告方提交的證人視頻屬AI生成而並非真實錄影，最終將整宗訴訟駁回，成為AI假證據在法院翻盤的典型案例。
