OpenAI та Meta заявили федеральним суддям, що інструменти для виявлення штучно згенерованого аудіо й відео, ймовірно, ніколи не стануть повністю надійними, попри те що з 931 опитаного судді лише 15 уже стикалися з подібними спорами.
Ключові тези:
- OpenAI та Meta на засіданні у Бостоні попередили федеральну комісію з доказів, що перевіряти справжність AI‑аудіо та відео стає дедалі складніше.
- Юрист OpenAI заявив, що водяні знаки та інструменти детекції ніколи не гарантуватимуть стовідсоткову надійність.
- Судді вивчають проєкт спеціального правила щодо діпфейків, але ще не схвалили його.
Попередження OpenAI щодо діпфейків
Представники обох компаній представили свої застереження 15 жовтня на засіданні Консультативного комітету з правил доказів Судової конференції США в Бостоні. Ця панель працює над проблемою з 2023 року.
Шира Андерсон, юристка з політики в OpenAI, повідомила комітету, що якість зображень, створених штучним інтелектом, невпинно зростає, і вона не очікує появи достовірного наукового методу для їх виявлення в майбутньому. У Каліфорнії та ЄС уже діють норми, що вимагають маркування таких матеріалів водяними знаками. Водночас, за її словами, кожна компанія використовує власні технології, тож універсальної системи перевірки всього візуального контенту фактично не існує, і навряд чи ці інструменти колись стануть «абсолютно надійними».
Девін Нордер, директор із продуктової стратегії в Meta, зазначив, що люди вже не здатні на око відрізнити контент, створений сучасними моделями ШІ, від справжніх фото‑ та відеоматеріалів. До того ж виробництво таких матеріалів нині потребує мінімальних витрат часу й коштів.
Читайте також: Біткоїн утримує $80 000: пауза перед штурмом $87 000?
Огляд діпфейків очима Джессі Фурмана
Федеральний суддя Манхеттена Джессі Фурман, який очолює цю панель, заявив, що академічні прогнози щодо масового напливу діпфейків у судах поки що не підтвердилися на практиці. Статистика це підкріплює: за опитуванням Федерального судового центру у березні лише 15 із 931 опитаного судді стикалися зі спробами поставити під сумнів докази як можливий діпфейк.
Фурман створив підкомітет для глибшого аналізу проблеми. Його учасники підготували, але ще не затвердили поправку під назвою Правило 901(c). Відповідно до проєкту, сторона, яка стверджує, що доказ є фальшивим, спершу має обґрунтувати свою підозру, і лише після цього опонент буде зобов’язаний доводити, що матеріал, швидше за все, є автентичним.
Не всі члени панелі підтримують такий підхід. Суддя Валері Капроні закликала не поспішати із запровадженням спеціального правила саме для ШІ, доки немає більш переконливих доказів того, що діпфейки стали системною проблемою в судовій практиці.
Вона наголосила, що суди давно мають справу з намаганнями подавати фальшиві докази, а чинні закони й так передбачають відповідальність за шахрайські процесуальні дії.
У травні 2025 року панель відхилила пропозиції правників щодо окремого регулювання діпфейків, дійшовши висновку, що чинні стандарти перевірки автентичності достатні й для доказів, пов’язаних із штучним інтелектом.
Уже за кілька місяців суддя Вищого суду округу Аламіда Вікторія Колаковський закрила житлову справу в Каліфорнії, встановивши, що позивачі подали як доказ відео «свідка», повністю згенероване ШІ.
Читайте далі: Ралі крипто на 39,6% має проблему: спотові покупці не встигають
