OpenAI與Meta向美國聯邦法官示警，用來辨識AI生成影音的技術，恐怕永遠無法做到完全可靠，即使目前在一項針對931名法官的調查中，僅有15人實際遇過深偽證據爭議。
重點整理：
- OpenAI與Meta在波士頓向聯邦證據規則諮詢委員會表示，AI生成影音愈來愈難以驗證真偽。
- OpenAI律師指出，無論是數位浮水印或偵測工具，都不可能百分之百可靠。
- 法官們正研議一套深偽專章規則草案，但尚未正式通過。
OpenAI對深偽風險的警告
兩家公司代表於10月15日，在美國司法會議證據規則諮詢委員會於波士頓舉行的會議上提出憂慮。該委員會自2023年起即開始研究AI深偽對訴訟證據的影響。
OpenAI政策顧問Shira Anderson向委員會表示，AI生成影像的逼真程度持續提升，她不認為未來會出現一套穩健的科學方法，可以可靠偵測所有此類內容。雖然加州及歐盟新法已要求導入浮水印機制，但Anderson指出，各家公司採用的標記技術各自為政，目前並無統一標準可跨平台驗證所有視覺內容，她並直言相關工具恐怕永遠無法做到「萬無一失」。
Meta產品管理總監Devin Norder則表示，一般人已難以分辨最新AI模型生成的影音與真實素材之間的差異，而製作成本與時間門檻也顯著降低。
延伸閱讀： 比特幣穩守80,000美元：是挑戰87,000美元前的整理？
Furman法官審視深偽規則
紐約曼哈頓聯邦地區法官、同時也是該委員會主席的Jesse Furman指出，學界對深偽證據將充斥法庭的憂慮，目前在實務上尚未大量出現。數據亦顯示相同趨勢：聯邦司法中心今年3月調查931名法官，僅有15人曾在案件中遇到一造指控對方提出的證據為深偽。
Furman隨後成立一個小組進一步研究，成員已擬出但尚未通過的《規則901(c)》修正草案。依草案設計，若有一方主張證據遭偽造，須先提出初步佐證，對方才有義務進一步證明該證據「較可能是真實」而非偽造。
但委員會內部也出現謹慎聲音。聯邦地區法官Valerie Caproni提醒，不宜在尚未確認深偽問題已廣泛衝擊法院前，就匆忙制定AI專屬規則。她強調，法院長期以來都在處理偽證與假文件，現行法律本就禁止詐欺性證據，未必需要另設一套完全獨立的AI制度。
今年5月，該委員會否決多名法律學者提出的深偽專章規則建議，多數成員認為，現行證據「真實性」審查標準，已足以涵蓋AI生成內容。
然而數月後，加州阿拉米達郡高等法院法官Victoria Kolakowski在一樁房屋相關訴訟中裁定原告提出的關鍵證人影片為AI生成並偽裝成真實證據，因而直接駁回整起案件，凸顯深偽問題已開始在實務中浮現。
下一步閱讀： 加密貨幣飆漲39.6%隱憂：現貨買盤腳步跟不上
