OpenAI与Meta在一次联邦司法听证会上直言，当前用于识别AI生成音视频的技术，可能永远无法做到完全可靠。
然而，根据最新调研，在931名受访法官中，真正遭遇相关证据争议的仅有15人。
要点概览：
- OpenAI与Meta向在波士顿召开的联邦证据规则专家小组表示，AI生成音视频日益逼真，传统认证方式正被逐步瓦解。
- 一名OpenAI律师指出，无论是水印还是检测工具，都难以实现“百分百可靠”。
- 法官们正在研究一份关于深度伪造的证据规则草案，但尚未正式通过。
OpenAI敲响深度伪造警钟
两家公司代表于10月15日出席了美国司法会议下属“证据规则咨询委员会”在波士顿举行的会议，在会上陈述了各自对AI深度伪造的担忧。该专家小组自2023年起便开始就此议题开展研究。
OpenAI公共政策法律顾问Shira Anderson在会上表示，AI生成图像的质量仍在快速提升，她并不预期未来能出现一种“科学上可靠”的通用检测方法。
虽然加州与欧盟已经立法要求对生成内容加注水印，但Anderson指出，各家公司各用一套体系，缺乏统一标准，使得无法通过单一机制来验证所有视觉内容，她对这些工具能否达到“防弹级”（绝对可靠）深表怀疑。
Meta产品管理总监Devin Norder则表示，以最新模型生成的多媒体内容，普通人已难以分辨真伪，而且制作门槛极低，几乎无需太多时间和资金投入。
延伸阅读：比特币稳守$80,000：在挑战$87,000前的盘整？
Furman法官审视“深度伪造规则”
负责主持该专家小组的纽约南区联邦地区法官Jesse Furman指出，学界多年来对深度伪造进入法庭的风险屡屡示警，但在真实案件中，目前出现的频率仍然不高。
数据也印证了他的判断：联邦司法中心今年3月的一项调查显示，在931名回应问卷的法官中，仅有15人遇到当事人以“深度伪造”为由质疑证据真伪的情况。
Furman已设立一个专门小组进一步研究。该小组起草了一项名为“规则901(c)”的修正规则草案，尚未获通过。
按照草案设想，若一方主张证据为伪造，必须先提供初步支持材料，之后对方才需要举证证明相关内容“更有可能是真实的”。
不过，并非所有成员都赞成“立刻入法”。
联邦法官Valerie Caproni提醒，应慎重对待专门针对AI的新增规则，在缺乏充分证据证明深度伪造已在法庭广泛成灾前，不宜仓促行动。
她强调，司法体系长期以来一直在与虚假证据打交道，现行法律本身就对欺诈性材料有明确禁止和制裁机制。
今年5月，该专家小组否决了一批来自法律学者、旨在针对深度伪造的规则建议，多数学者认为，目前关于证据真实性的既有标准，同样可以适用于AI生成内容。
几个月后，加州阿拉米达县高等法院法官Victoria Kolakowski在一宗住房案件中作出了具有代表性的判决：由于发现原告提交的所谓“证人视频”实为AI合成，她直接裁定驳回该案。
