OpenAI en Meta hebben federale rechters gewaarschuwd dat hulpmiddelen om AI-gegenereerde audio en video op te sporen mogelijk nooit volledig betrouwbaar worden, ook al hebben tot nu toe slechts 15 van de 931 geraadpleegde rechters daadwerkelijk een dergelijk geschil behandeld.
Kernpunten:
- OpenAI en Meta vertelden een federale bewijsgroep in Boston dat AI-audio en -video steeds moeilijker te verifiëren zijn.
- Een advocaat van OpenAI stelde dat watermerken en detectietools nooit volledig waterdicht zullen zijn.
- Rechters bestuderen een conceptregel over deepfakes, maar hebben die nog niet goedgekeurd.
OpenAI waarschuwt voor deepfakes
Vertegenwoordigers van beide bedrijven presenteerden hun zorgen op 15 oktober tijdens een bijeenkomst in Boston van het Advisory Committee on Evidence Rules van de U.S. Judicial Conference. De commissie buigt zich sinds 2023 over de gevolgen van AI-bewijs.
Shira Anderson, beleidsjurist bij OpenAI, zei tegen de commissie dat AI-beelden snel blijven verbeteren en dat zij er niet op rekent dat er ooit een sluitende, wetenschappelijke detectiemethode komt. Nieuwe wetgeving in Californië en de Europese Unie verplicht al tot gebruik van watermerken. Maar omdat elke aanbieder zijn eigen systeem hanteert, bestaat er geen universele standaard om alle beeldmateriaal te controleren, aldus Anderson. Ze betwijfelde bovendien of de bestaande tools ooit echt “kogelvrij” zullen zijn.
Devin Norder, directeur productmanagement bij Meta, benadrukte dat mensen materiaal dat is gemaakt met de nieuwste AI-modellen nauwelijks nog kunnen onderscheiden van authentieke opnamen. Volgens hem kost het bovendien steeds minder tijd en geld om zulke deepfakes te produceren.
Ook interessant: Bitcoin houdt stand op $80.000: een adempauze vóór de aanval op $87.000?
Jesse Furman’s herijking van deepfake-risico
De Amerikaanse federale rechter Jesse Furman uit Manhattan, voorzitter van het panel, merkte op dat academische waarschuwingen over een golf aan deepfakes in de rechtszaal tot nu toe nauwelijks terug te zien zijn in echte zaken. De cijfers onderstrepen dat beeld: uit een enquête van het Federal Judicial Center in maart bleek dat slechts 15 van de 931 bevraagde rechters hadden meegemaakt dat een partij bewijs als deepfake betwistte.
Furman stelde een subcommissie in om het vraagstuk verder uit te diepen. Die werkte een, nog niet aangenomen, wijziging uit: Rule 901(c). Volgens dat voorstel moet eerst de partij die stelt dat bewijs vervalst is, met onderbouwing komen, pas daarna zou de wederpartij moeten aantonen dat het materiaal waarschijnlijk echt is.
Niet iedereen wil echter zo ver gaan. Rechter Valerie Caproni riep op tot terughoudendheid. Zij waarschuwde tegen het overhaast invoeren van een AI-specifieke regel zonder sterker bewijs dat deepfakes al een wijdverbreid probleem vormen in rechtbanken.
Caproni wees erop dat rechtbanken al decennialang omgaan met partijen die vervalst of misleidend bewijs aandragen, en dat bestaande wet- en regelgeving fraude al verbiedt.
In mei 2025 wees het panel voorstellen van juridische experts om aparte deepfake-regels op te nemen van de hand. De commissieleden vonden dat de huidige authenticiteitsnormen ook voor AI-bewijs toereikend zijn.
Enkele maanden later zette de discussie zich in de praktijk voort. Rechter Victoria Kolakowski van de Superior Court in Alameda County verwees een Californische huurzaak van de rol, nadat bleek dat eisers een door AI gegenereerde getuigenvideo als echt bewijsmateriaal hadden ingebracht.
Lees verder: De 39,6% rally in crypto kent een probleem: spotkopers blijven achter
