OpenAI与Meta近日在一场联邦司法听证会上直言，当前用于识别AI合成音频和视频的技术手段，恐怕永远无法做到完全可靠；但在现实司法实践中，真正遭遇此类争议的法官仍只是极少数，在一项调研中，931名受访法官中仅15人曾经审理过相关纠纷。
要点概览：
- OpenAI与Meta在波士顿向联邦证据规则咨询委员会表示，AI合成音视频的“逼真度”正迅速攀升，真伪鉴定难度加大。
- 一位OpenAI律师指出，无论是数字水印还是检测工具，都不太可能发展为完全可靠的解决方案。
- 法官们正在研究一项有关深度伪造的新证据规则草案，但尚未正式通过。
OpenAI：深度伪造检测或难有“科学必杀技”
两家公司代表于10月15日出席了美国司法会议下属“证据规则咨询委员会”在波士顿举行的会议，并在会上提交陈述，表达对AI深度伪造证据问题的担忧。该委员会自2023年起便持续研究相关议题。
OpenAI政策顾问Shira Anderson在会上表示，AI生成图像的质量仍在快速提升，她并不预期未来会出现一种稳定可靠的“科学方法”来区分真伪。目前，加州及欧盟已经立法要求对部分生成内容打上“水印”标识，但各家公司采用的技术标准彼此不同，缺乏统一方案，导致无法通过单一工具验证所有视觉内容。她还强调，即便是水印和检测系统本身，也难以达到“刀枪不入”的绝对可靠程度。
Meta产品管理总监Devin Norder则指出，就最新一代模型而言，人眼几乎无法分辨AI生成内容与真实素材之间的差别，而制作此类内容所需的时间和成本不断下降，使其更易被滥用。
延伸阅读：比特币稳守80,000美元：是短暂盘整，还是蓄势冲击87,000美元？
Furman法官：学界忧虑尚未大规模“落地”到案件中
纽约南区联邦地区法官、咨询委员会主席Jesse Furman表示，学术界多年来不断警告“深度伪造证据”将冲击法院，但迄今在真实案件中出现的频率仍不算高。一份由联邦司法中心于今年3月发布的调查显示，在931位参与问卷的联邦法官中，仅有15人遇到当事人以“深度伪造”为由质疑对方提交的证据。
Furman已设立专门小组进一步研究此议题。小组成员起草了但尚未通过一项名为“规则901(c)”的修正案草案。根据草案，如一方法称对方证据为伪造，需先提出一定程度的初步依据，然后对方才负有进一步证明该证据“更可能为真”的责任。
不过，委员会内部也有呼吁谨慎的声音。联邦地区法官Valerie Caproni提醒，同仁不应在缺乏充分证据证明问题已“大面积失控”的情况下，匆忙出台专门针对AI的证据规则。她指出，法院长期以来一直在与虚假证据作斗争，现行法律本就严禁伪造和欺诈性材料，并非“无章可循”。
早在2025年5月，委员会便已否决数名法律学者提出的“深度伪造特别规则”建议，理由是现有关于证据真实性的规则，原则上同样可以适用于AI生成内容。
几个月后，加州阿拉米达县高等法院法官Victoria Kolakowski在一宗房屋纠纷案中，直接驳回了原告的起诉，原因是她认定原告提交的“证人视频”其实是AI生成的深度伪造内容，却冒充真实证据。
