OpenAI и Meta предупредили федеральных судей США, что технологии выявления аудио- и видеоматериалов, созданных искусственным интеллектом, вряд ли когда-либо станут полностью надежными, хотя из 931 опрошенного судьи лишь 15 сталкивались с подобными спорами.
Главное:
- Представители OpenAI и Meta заявили консультативной комиссии по доказательствам в Бостоне, что аутентифицировать контент, созданный ИИ, становится все сложнее.
- Юрист OpenAI подчеркнула, что водяные знаки и детекторы подделок никогда не будут стопроцентно надежными.
- Судьи изучают проект специального правила о deepfake‑доказательствах, но пока его не одобрили.
Предупреждение OpenAI о deepfake
Представители обеих компаний выступили 15 октября на заседании Консультативного комитета по правилам доказывания при Судебной конференции США в Бостоне. Комитет занимается этой темой с 2023 года.
Политический юрист OpenAI Шира Андерсон заявила членам комитета, что качество изображений, генерируемых ИИ, постоянно растет и что она не ожидает появления надежного научного метода их распознавания. Новые законы Калифорнии и Евросоюза уже требуют использования водяных знаков. Но, по ее словам, каждая компания применяет собственную систему, поэтому универсального способа проверить весь визуальный контент не существует, и вряд ли инструменты когда-либо станут «непробиваемыми».
Директор по продукту Meta Девин Нордер добавил, что пользователи уже не могут отличить материалы, созданные новейшими моделями ИИ, от подлинных. При этом производство такого контента занимает минимум времени и почти не требует затрат.
Читайте также: Биткоин удерживает $80 000: пауза перед штурмом $87 000?
Как судья Джесси Фурман оценивает угрозу deepfake
Федеральный судья США Джесси Фурман из Манхэттена, возглавляющий комитет, отметил, что апокалиптические прогнозы ученых о потоке deepfake‑доказательств в судах пока не подтверждаются практикой. Статистика на его стороне: согласно опросу Федерального судебного центра в марте, лишь 15 из 931 судьи сталкивались с оспариванием доказательств как deepfake.
Фурман создал рабочую подгруппу для более глубокой проработки вопроса. Ее члены подготовили, но еще не одобрили проект поправки под названием Правило 901(c). В нем предлагается, чтобы сторона, заявляющая о подделке, сначала приводила базовые обоснования своей позиции, после чего уже оппонент должен был бы доказывать, что материал, скорее всего, подлинный.
Не все в комиссии поддерживают активное нормотворчество. Судья Валери Капрони призвала не спешить с принятием отдельного «анти‑ИИ»-правила без убедительных доказательств того, что deepfake‑подделки стали системной проблемой для судов.
Она напомнила, что суды давно имеют дело с фальсифицированными доказательствами, а действующее законодательство уже предусматривает санкции за мошеннические материалы.
В мае 2025 года комиссия отказалась от предложений группы юристов по созданию специальных правил для deepfake‑доказательств, сочтя, что существующие стандарты аутентичности достаточны и для материалов, созданных ИИ.
Спустя несколько месяцев судья Высшего суда округа Аламида Виктория Коловковски прекратила производство по делу о жилищном споре в Калифорнии после того, как выяснилось, что истцы выдали сгенерированное ИИ видео «свидетеля» за реальное доказательство.
Читайте далее: Ралли в криптоактивах на 39,6% сталкивается с проблемой: спотовые покупатели не поспевают
