OpenAI и Meta предупредили федеральных судей, что технологии распознавания аудио и видео, сгенерированных ИИ, вряд ли когда‑либо станут полностью надежными, хотя из 931 опрошенного судьи лишь 15 уже сталкивались с подобными спорами.
Главное:
- OpenAI и Meta заявили на заседании федеральной комиссии по доказательствам в Бостоне, что подделки аудио и видео, созданные ИИ, становится все сложнее проверять на подлинность.
- Юрист OpenAI отметила, что водяные знаки и детекторы не станут стопроцентно надежными.
- Судьи изучают проект специального правила о deepfake-контенте, но пока его не одобрили.
Предупреждение OpenAI о deepfake-доказательствах
Представители обеих компаний выступили 15 октября на заседании Консультативного комитета по правилам доказательственного права при Конференции судей США, прошедшем в Бостоне. Комитет занимается этой проблемой с 2023 года.
Юрисконсульт OpenAI по вопросам политики Шира Андерсон сообщила членам комитета, что качество изображений, создаваемых ИИ, постоянно растет и она не ожидает появления универсального научного метода их выявления. Новые законы в Калифорнии и Евросоюзе уже требуют проставлять водяные знаки. Однако, подчеркнула Андерсон, каждая компания использует собственную систему маркировки, поэтому единого способа проверки всего визуального контента нет, и, по ее словам, вряд ли когда‑либо появятся инструменты, которые можно будет назвать «непробиваемыми».
Директор по управлению продуктом Meta Девин Нордер заявил, что пользователи больше не в состоянии на глаз отличить материалы, созданные передовыми ИИ‑моделями, от подлинного контента. При этом, добавил он, производство таких материалов теперь требует минимальных затрат времени и денег.
Также читайте: Биткоин держится у $80 000: пауза перед штурмом $87 000?
Оценка проблемы deepfake-свидетельств по версии Джесси Фурмана
Федеральный судья окружного суда Манхэттена Джесси Фурман, возглавляющий комитет, отметил, что мрачные прогнозы академического сообщества о нашествии deepfake-доказательств в судах пока слабо подтверждаются практикой. Статистика это подтверждает: согласно мартовскому опросу Федерального судебного центра, лишь 15 из 931 судьи сталкивались с оспариванием доказательств как deepfake-подделки.
Фурман создал подкомитет для более глубокого анализа. Его участники подготовили, но пока не утвердили проект поправки под названием Правило 901(c). Согласно этому подходу, сторона, заявляющая о фальсификации, должна сначала обосновать свои доводы, прежде чем оппонент будет обязан доказывать, что представленные материалы с большей вероятностью являются подлинными.
Один из членов комитета призвал к осторожности. Судья Валери Капрони предупредила, что не стоит торопиться с введением отдельного «ИИ‑правила» без более убедительных доказательств того, что deepfake-контент стал системной проблемой для судов.
По ее словам, суды давно умеют иметь дело с ложными доказательствами, а существующее законодательство уже запрещает мошеннические представления материалов.
В мае 2025 года комитет отказался поддержать предложения группы правоведов о создании специальных норм по deepfake-доказательствам, поскольку большинство членов посчитали, что действующие стандарты установления подлинности достаточно применимы и к ИИ‑контенту.
Спустя несколько месяцев судья Высшего суда округа Аламида Виктория Колаковски прекратила производство по делу о жилье в Калифорнии после того, как выяснила, что истцы попытались выдать сгенерированное ИИ видео «свидетеля» за реальное доказательство.
Читайте далее: Ралли криптовалют на 39,6% имеет проблему: спотовые покупатели не поспевают
