OpenAI та Meta попередили федеральних суддів, що інструменти для виявлення штучно згенерованих аудіо й відео, ймовірно, ніколи не стануть повністю надійними — попри те, що серед 931 опитаного судді лише 15 уже стикалися з подібними спорами.
Ключові тези:
- OpenAI та Meta заявили на засіданні федеральної комісії з доказового права в Бостоні, що автентифікація AI-створеного аудіо й відео стрімко ускладнюється.
- Юрист OpenAI наголосила: водяні знаки та системи детекції ніколи не стануть абсолютно надійними.
- Судді вивчають проєкт правила щодо deepfake-доказів, але поки що його не схвалили.
Попередження OpenAI щодо deepfake-доказів
Представники обох компаній представили свої застереження 15 жовтня на засіданні Консультативного комітету з доказових правил при Конференції суддів США в Бостоні. Панель працює над цією темою ще з 2023 року.
Шіра Андерсон, радниця з питань політики в OpenAI, повідомила комітету, що якість AI-зображень постійно зростає і вона не очікує появи надійного наукового методу їх розпізнавання в майбутньому. Нові закони в Каліфорнії та ЄС уже вимагають використання водяних знаків. Однак, за її словами, кожна компанія застосовує власну систему маркування, тож універсального стандарту, який би дозволяв перевіряти увесь візуальний контент, не існує. Вона сумнівається, що такі інструменти будь-коли стануть «безвідмовними».
Девін Нордер, директор з продуктової стратегії Meta, додав, що люди вже не здатні відрізнити контент, створений найновішими AI-моделями, від реального. Виготовлення такого матеріалу, за його словами, потребує мінімум часу й коштів.
Читайте також: Bitcoin утримує $80 000: пауза перед штурмом $87 000?
Огляд проблеми deepfake-доказів від Джессі Фурмана
Федеральний суддя округа Нью-Йорк Джессі Фурман з Мангеттена, який очолює панель, зазначив, що академічні прогнози про «лавину» deepfake-доказів у судах поки що майже не підтверджуються на практиці. Статистика це підтверджує: згідно з опитуванням Федерального судового центру за березень, лише 15 із 931 судді, що відповіли, стикалися з оскарженням доказів як deepfake.
Фурман створив підкомітет для глибшого вивчення проблеми. Його члени підготували, але ще не затвердили проєкт поправки під назвою Правило 901(c). Вона передбачає, що сторона, яка стверджує фальсифікацію, спершу має надати обґрунтовані докази цього, а вже потім опонент повинен доводити, що матеріал, швидше за все, є автентичним.
Не всі в панелі підтримали активний регуляторний підхід. Суддя Валері Капроні закликала не поспішати з окремим «AI-правилом» без переконливих доказів того, що deepfake-докази стали справді масовою проблемою в судах.
Вона нагадала, що суди й раніше десятиліттями мали справу з фальсифікованими доказами, а чинне законодавство вже забороняє подання шахрайських матеріалів.
У травні 2025 року панель відхилила пропозиції низки правників запровадити спеціальні правила для deepfake-доказів, дійшовши висновку, що чинні стандарти автентичності достатні й для оцінки AI-контенту.
Однак за кілька місяців суддя Верховного суду округу Аламеда Вікторія Колаковскі закрила житлову справу в Каліфорнії після того, як з’ясувалося, що позивачі подали як доказ відео «свідка», створене за допомогою штучного інтелекту й подане як справжній запис.
Читайте далі: Ралі на 39,6% на крипторинку має проблему: попит «спот»-покупців не встигає
