OpenAI en Meta hebben federale rechters gewaarschuwd dat de huidige en toekomstige hulpmiddelen om door AI gegenereerde audio en video te herkennen waarschijnlijk nooit volledig betrouwbaar zullen zijn, ook al kregen tot nu toe slechts 15 van de 931 bevraagde rechters met zo’n geschil te maken.
Belangrijkste punten:
- OpenAI en Meta meldden aan een federale bewijscommissie in Boston dat AI‑audio en ‑video steeds moeilijker te authenticeren zijn.
- Een advocaat van OpenAI stelde dat watermerken en detectietools nooit volledig sluitend zullen zijn.
- Rechters bestuderen een conceptregel over deepfakes, maar hebben die nog niet goedgekeurd.
OpenAI waarschuwt voor deepfakes
Vertegenwoordigers van beide bedrijven presenteerden hun zorgen op 15 oktober tijdens een vergadering in Boston van de Advisory Committee on Evidence Rules van de U.S. Judicial Conference. De commissie buigt zich sinds 2023 over het vraagstuk.
Shira Anderson, beleidsjurist bij OpenAI, zei tegen de commissie dat AI‑beelden zich razendsnel ontwikkelen en dat zij er niet op rekent dat er ooit een sluitende wetenschappelijke methode zal komen om ze te ontmaskeren. Nieuwe wetgeving in Californië en de Europese Unie verplicht al tot watermerken. Maar elk bedrijf hanteert zijn eigen systeem, aldus Anderson, waardoor er geen universele standaard is om visuele content te verifiëren. Ze betwijfelt dan ook of de hulpmiddelen ooit echt “kogelvrij” zullen zijn.
Devin Norder, directeur productmanagement bij Meta, stelde dat mensen content die met de nieuwste AI‑modellen is gemaakt nauwelijks nog kunnen onderscheiden van echt beeld‑ en geluidsmateriaal. Het produceren ervan kost volgens hem bovendien nog maar weinig tijd en geld.
Ook interessant: Bitcoin houdt stand op $80.000: een adempauze voordat $87.000 wordt getest?
Jesse Furman’s beoordeling van deepfakes
De federale rechter Jesse Furman in Manhattan, voorzitter van de commissie, merkte op dat de sombere academische voorspellingen over een golf aan deepfakes in rechtszaken vooralsnog nauwelijks terug te zien zijn in de praktijk. De cijfers ondersteunen dat beeld. In een enquête van het Federal Judicial Center van maart gaven slechts 15 van de 931 respondenten aan dat in hun zaken bewijs als mogelijke deepfake was aangevochten.
Furman heeft daarop een subcommissie ingesteld die het onderwerp verder moet uitdiepen. Die werkte een – nog niet aangenomen – wijziging uit, bekend als Rule 901(c). Die bepaalt dat een partij die stelt dat bewijs gemanipuleerd is, die beschuldiging eerst met argumenten moet onderbouwen voordat de wederpartij hoeft aan te tonen dat het materiaal naar alle waarschijnlijkheid authentiek is.
Niet iedereen wil zo ver gaan. Rechter Valerie Caproni waarschuwde ervoor om niet overhaast een AI‑specifieke bewijsregel in te voeren zolang er geen steviger aanwijzingen zijn dat deepfakes een wijdverbreid probleem zijn in rechtszalen.
Volgens haar hebben rechtbanken altijd al te maken gehad met partijen die vals bewijs proberen in te brengen, en bieden bestaande regels nu al voldoende basis om frauduleuze stukken af te wijzen.
In mei 2025 wees de commissie voorstellen van juridische experts voor aparte deepfake‑bepalingen af. De leden vonden dat de huidige eisen aan de echtheid van bewijs ook voor AI‑materiaal toereikend zijn.
Enkele maanden later zette een rechter in Californië de kwestie alsnog op scherp: rechter Victoria Kolakowski van de Superior Court van Alameda County verwees een huisvestingszaak naar de prullenbak nadat zij had vastgesteld dat eisers een door AI gegenereerde getuigenvideo als echt hadden gepresenteerd.
Lees ook: Crypto’s koerssprong van 39,6% kent een zwak punt: spotkopers haken niet voldoende aan
