OpenAI i Meta ostrzegły sędziów federalnych, że narzędzia do wykrywania generowanych przez AI materiałów audio i wideo mogą nigdy nie być w pełni wiarygodne – mimo że spośród 931 ankietowanych sędziów tylko 15 miało dotąd do czynienia ze sporem dotyczącym deepfake'ów.
Najważniejsze informacje:
- Przedstawiciele OpenAI i Meta przekazali panelowi ds. dowodów w Bostonie, że materiały audio i wideo tworzone przez AI są coraz trudniejsze do wiarygodnego uwierzytelnienia.
- Prawniczka OpenAI stwierdziła, że znaki wodne i narzędzia detekcji nigdy nie będą całkowicie niezawodne.
- Sędziowie analizują projekt przepisu dotyczącego deepfake'ów, ale nie został on jeszcze przyjęty.
Ostrzeżenie OpenAI przed deepfake'ami
Przedstawiciele obu firm zaprezentowali swoje obawy 15 października podczas posiedzenia Komitetu Doradczego ds. Zasad Dowodowych przy Konferencji Sądowej USA w Bostonie. Panel zajmuje się tym tematem od 2023 r.
Shira Anderson, doradczyni ds. polityki regulacyjnej w OpenAI, powiedziała komitetowi, że jakość obrazów generowanych przez AI stale rośnie i nie spodziewa się powstania naukowo pewnej metody ich wykrywania. Nowe przepisy w Kalifornii i Unii Europejskiej wymagają już stosowania znaków wodnych. Jak podkreśliła, każda firma stosuje jednak własny system oznaczeń, więc nie istnieje uniwersalny standard pozwalający zweryfikować cały materiał wizualny. W jej ocenie narzędzia te nigdy nie będą „kuloodporne”.
Devin Norder, dyrektor ds. zarządzania produktem w Meta, wskazał, że ludzie nie są w stanie odróżnić treści wygenerowanych przez najnowsze modele AI od materiałów autentycznych. Dodał, że stworzenie takich materiałów wymaga dziś niewielkiego nakładu czasu i pieniędzy.
Przeczytaj także: Bitcoin utrzymuje 80 000 dolarów: pauza przed atakiem na 87 000?
Przegląd deepfake'ów według sędziego Jessego Furmana
Sędzia federalny Jesse Furman z Manhattanu, przewodniczący panelu, zaznaczył, że akademickie prognozy dotyczące zalewu sądów deepfake'ami na razie nie znajdują odzwierciedlenia w praktyce. Potwierdzają to dane. W ankiecie Federal Judicial Center z marca tylko 15 z 931 sędziów zetknęło się z sytuacją, w której strona procesu kwestionowała dowód jako deepfake.
Furman powołał podkomisję do pogłębienia tematu. Jej członkowie opracowali – choć jeszcze nie przyjęli – projekt poprawki oznaczonej jako Reguła 901(c). Zgodnie z nim strona, która twierdzi, że dowód jest fałszywy, musiałaby najpierw uprawdopodobnić swoje zarzuty, zanim druga strona zostałaby zobowiązana do wykazania, że materiał jest najpewniej autentyczny.
Nie wszyscy są jednak zwolennikami nowych, wyspecjalizowanych regulacji. Sędzia Valerie Caproni apelowała o powściągliwość i przestrzegała przed pochopnym wprowadzaniem przepisu poświęconego wyłącznie AI bez mocniejszych dowodów na to, że deepfake'i stały się powszechnym problemem na salach sądowych.
Zwróciła uwagę, że sądy od dawna mają do czynienia z próbami przedstawiania sfałszowanych dowodów, a obowiązujące już przepisy zakazują składania oszukańczych materiałów w postępowaniu.
W maju 2025 r. panel odrzucił propozycje ekspertów prawa dotyczące odrębnych zasad dla deepfake'ów, argumentując, że obecne standardy w zakresie autentyczności są wystarczające także wobec dowodów pochodzących z systemów AI.
Kilka miesięcy później sędzia Sądu Najwyższego hrabstwa Alameda Victoria Kolakowski oddaliła sprawę dotyczącą nieruchomości w Kalifornii, po tym jak ustaliła, że powodowie przedstawili wygenerowane przez AI nagranie rzekomego świadka jako autentyczny dowód.
Zobacz następnie: Rally na krypto o 39,6% ma problem: inwestorzy spot nie nadążają z zakupami
