OpenAI und Meta haben US-Bundesrichter davor gewarnt, dass Werkzeuge zur Erkennung KI-generierter Audio- und Videoaufnahmen womöglich nie vollständig zuverlässig sein werden – obwohl in einer Umfrage nur 15 von 931 Richtern bisher überhaupt mit solchen Streitfällen konfrontiert waren.
Wichtigste Punkte:
- OpenAI und Meta erklärten vor einem Beweisrechts-Gremium in Boston, dass sich KI-generierte Audio- und Videoinhalte immer schwerer zweifelsfrei authentifizieren lassen.
- Eine OpenAI-Juristin betonte, Wasserzeichen und Erkennungstools würden wohl nie völlig verlässlich sein.
- Richter prüfen derzeit einen Entwurf für eine spezielle Deepfake-Regel, haben diese aber noch nicht verabschiedet.
OpenAI warnt vor Deepfake-Risiken
Vertreter beider Konzerne präsentierten ihre Bedenken am 15. Oktober bei einer Sitzung des Advisory Committee on Evidence Rules der U.S. Judicial Conference in Boston. Das Gremium befasst sich seit 2023 mit dem Thema.
Shira Anderson, Policy Counsel bei OpenAI, sagte vor dem Ausschuss, KI-Bilder würden kontinuierlich realistischer – und sie rechne nicht damit, dass es künftig eine verlässliche wissenschaftliche Methode geben werde, um solche Inhalte sicher zu entlarven. Neue Gesetze in Kalifornien und der Europäischen Union schreiben zwar Wasserzeichen vor. Doch jedes Unternehmen nutze eigene Systeme, so Anderson, sodass es kein universelles Verfahren gebe, um alle visuellen Inhalte zu prüfen. Sie bezweifelte, dass entsprechende Tools jemals „wasserdicht“ sein werden.
Devin Norder, Director of Product Management bei Meta, erklärte, inzwischen könnten Menschen Medieninhalte aus den neuesten KI-Modellen praktisch nicht mehr von echten Aufnahmen unterscheiden. Die Produktion solcher Inhalte erfordere inzwischen kaum noch Zeit oder Geld.
Auch interessant: Bitcoin hält 80.000 Dollar: Nur eine Verschnaufpause vor dem Test von 87.000 Dollar?
Jesse Furmans Blick auf Deepfakes
Der New Yorker Bundesrichter Jesse Furman vom District Court in Manhattan, der das Gremium leitet, erklärte, viele akademische Warnungen vor Deepfakes im Gerichtssaal hätten sich bislang in der Praxis noch kaum niedergeschlagen. Die Zahlen stützen diese Einschätzung: In einer Umfrage des Federal Judicial Center vom März berichteten nur 15 von 931 teilnehmenden Richtern, dass in ihren Verfahren Beweise als mögliche Deepfakes angegriffen worden seien.
Furman hat eine Unterarbeitsgruppe eingesetzt, die das Thema vertiefen soll. Diese hat einen – bislang nicht verabschiedeten – Ergänzungsentwurf namens Rule 901(c) ausgearbeitet. Demnach müsste eine Partei, die eine Fälschung behauptet, diese Behauptung zunächst substantiieren, bevor die Gegenseite nachweisen muss, dass das Material mit überwiegender Wahrscheinlichkeit authentisch ist.
Nicht alle Mitglieder wollen neue Spezialregeln. Richterin Valerie Caproni mahnte zur Zurückhaltung und warnte davor, vorschnell eine explizit KI-bezogene Vorschrift zu schaffen, ohne dass klar sei, dass Deepfakes tatsächlich schon ein flächendeckendes Problem in den Gerichtssälen darstellen.
Sie argumentierte, Gerichte hätten es seit jeher mit manipulierten oder fingierten Beweisen zu tun, und das geltende Recht untersage bereits heute bewusst gefälschte Beweisvorlagen.
Im Mai 2025 lehnte das Gremium Vorschläge von Rechtsexperten für eigenständige Deepfake-Regeln ab – mit der Begründung, die bestehenden Authentizitätsstandards reichten auch für KI-generierte Beweise aus.
Einige Monate später wies die Richterin Victoria Kolakowski am Superior Court im kalifornischen Alameda County eine Wohnungsrechtsklage ab, nachdem sie festgestellt hatte, dass die Kläger ein KI-generiertes Zeugen-Video als echte Beweisaufnahme ausgegeben hatten. Der Fall wurde abgewiesen.
Lesen Sie außerdem: Das Problem hinter der 39,6%-Rallye am Kryptomarkt: Spot-Käufer ziehen nicht mit
