OpenAI i Meta ostrzegły sędziów federalnych, że narzędzia do wykrywania materiałów audio i wideo generowanych przez AI prawdopodobnie nigdy nie będą całkowicie wiarygodne – mimo że spośród 931 ankietowanych sędziów tylko 15 zetknęło się dotąd ze sporem dotyczącym deepfake’ów.
Najważniejsze ustalenia:
- OpenAI i Meta poinformowały federalny zespół ds. dowodów w Bostonie, że materiały audio i wideo tworzone przez AI są coraz trudniejsze do uwierzytelnienia.
- Prawniczka OpenAI stwierdziła, że znaki wodne i narzędzia detekcji nigdy nie osiągną pełnej niezawodności.
- Sędziowie analizują projekt przepisu o deepfake’ach, ale na razie go nie zatwierdzili.
Ostrzeżenie OpenAI przed deepfake’ami
Przedstawiciele obu firm zaprezentowali swoje obawy 15 października na posiedzeniu Komitetu Doradczego ds. Zasad Dowodowych przy Konferencji Sądowej USA w Bostonie. Panel zajmuje się tym tematem od 2023 r.
Shira Anderson, doradczyni ds. polityki publicznej w OpenAI, powiedziała członkom komitetu, że obrazy tworzone przez sztuczną inteligencję stale się poprawiają i nie spodziewa się powstania niezawodnej, naukowo potwierdzonej metody ich wykrywania. Zwróciła uwagę, że nowe regulacje w Kalifornii i Unii Europejskiej już wymagają stosowania znaków wodnych. Każda firma stosuje jednak własny system, co uniemożliwia stworzenie uniwersalnego standardu weryfikacji obrazów i nagrań. Anderson oceniła, że te narzędzia raczej nigdy nie będą „niezawodne jak skała”.
Devin Norder, dyrektor ds. zarządzania produktem w Meta, podkreślił, że przeciętny odbiorca nie jest już w stanie odróżnić materiałów wytworzonych przez najnowsze modele AI od autentycznych treści. Dodał, że ich produkcja wymaga dziś minimalnych nakładów czasu i pieniędzy.
Przeczytaj też: Bitcoin utrzymuje 80 000 USD: pauza przed atakiem na 87 000 USD?
Przegląd przepisów o deepfake’ach według Jessego Furmana
Sędzia federalny Jesse Furman z Manhattanu, przewodniczący panelu, zaznaczył, że pesymistyczne prognozy środowiska akademickiego na temat zalewu sądów deepfake’ami jak dotąd nie znajdują szerokiego odzwierciedlenia w praktyce. Potwierdzają to dane: w badaniu Federal Judicial Center z marca jedynie 15 z 931 sędziów zgłosiło, że któraś ze stron próbowała podważyć dowód, powołując się na deepfake.
Furman powołał jednak podkomitet, który ma szczegółowo zbadać problem. Grupa przygotowała – lecz na razie nie zatwierdziła – projekt poprawki oznaczonej jako Reguła 901(c). Zgodnie z nią strona twierdząca, że ma do czynienia z podrobionym materiałem, musiałaby najpierw wstępnie uprawdopodobnić swoje zarzuty, zanim ciężar dowodu przeszedłby na drugą stronę, zmuszając ją do wykazania, że dowód jest „bardziej prawdopodobnie autentyczny niż nie”.
W panelu pojawiły się jednak też głosy wzywające do ostrożności. Sędzia Valerie Caproni ostrzegła przed pochopnym tworzeniem osobnej regulacji poświęconej AI bez mocniejszych dowodów na to, że deepfake’i stały się już powszechnym problemem procesowym.
Zwróciła uwagę, że sądy od dawna mierzą się z próbami przedstawiania fałszywych dowodów, a obowiązujące przepisy już dziś zakazują składania sfałszowanych materiałów.
W maju 2025 r. panel odrzucił propozycje ekspertów prawa, by wprowadzić osobne regulacje dotyczące deepfake’ów. Członkowie uznali wówczas, że istniejące standardy weryfikacji autentyczności są wystarczające również w odniesieniu do dowodów opartych na AI.
Kilka miesięcy później sędzia Sądu Najwyższego hrabstwa Alameda, Victoria Kolakowski, umorzyła sprawę mieszkaniową w Kalifornii po ustaleniu, że powodowie przedstawili nagranie rzekomego świadka, które w rzeczywistości zostało wygenerowane przez sztuczną inteligencję.
Następny artykuł: Rajd kryptowalut o 39,6% ma słaby punkt: inwestorzy spot nie nadążają
