OpenAI und Meta haben US-Bundesrichtern deutlich gemacht, dass Tools zur Erkennung von KI-generierten Audio- und Videoaufnahmen wohl nie vollständig verlässlich sein werden – obwohl nur 15 von 931 befragten Richtern bislang überhaupt mit solchen Streitfällen konfrontiert waren.
Wichtigste Punkte:
- OpenAI und Meta erklärten vor einem Beweisrechts-Gremium in Boston, dass KI-generierte Audio- und Videoinhalte immer schwerer zu verifizieren sind.
- Eine OpenAI-Juristin betonte, Wasserzeichen und Erkennungstools würden nie hundertprozentig zuverlässig sein.
- Richter prüfen derzeit einen Entwurf für eine Deepfake-Regel, haben ihn aber noch nicht verabschiedet.
OpenAI warnt vor Deepfake-Risiken
Vertreter beider Unternehmen haben ihre Bedenken am 15. Oktober auf einer Sitzung des Advisory Committee on Evidence Rules der U.S. Judicial Conference in Boston vorgebracht. Das Gremium befasst sich seit 2023 mit der Frage, wie Gerichte mit KI-beeinflussten Beweismitteln umgehen sollen.
Shira Anderson, Policy Counsel bei OpenAI, erklärte vor dem Ausschuss, dass sich KI-generierte Bilder rasant verbesserten und sie nicht damit rechne, dass es jemals eine belastbare wissenschaftliche Methode zu ihrer zweifelsfreien Erkennung geben werde. Neue Gesetze in Kalifornien und der Europäischen Union schreiben zwar Wasserzeichen vor. Doch jedes Unternehmen nutze eigene Systeme, so Anderson, weshalb es keine einheitliche Methode gebe, um alle visuellen Inhalte zu überprüfen. Sie äußerte zudem Zweifel, dass die derzeitigen oder künftigen Tools jemals wirklich „idiotensicher“ würden.
Devin Norder, Director of Product Management bei Meta, sagte, Nutzer könnten Inhalte, die mit den neuesten KI-Modellen erzeugt wurden, praktisch nicht mehr von authentischem Material unterscheiden. Die Produktion solcher Deepfakes koste zudem immer weniger Zeit und Geld.
Auch interessant: Bitcoin hält 80.000 Dollar: Verschnaufpause vor dem Angriff auf 87.000 Dollar?
Jesse Furmans Blick auf Deepfakes vor Gericht
Der New Yorker Bundesrichter Jesse Furman vom U.S. District Court in Manhattan, der den Ausschuss leitet, wies darauf hin, dass dramatische akademische Prognosen über Deepfakes im Gerichtssaal bislang nur selten in der Praxis angekommen seien. Die Zahlen stützen diese Einschätzung: In einer Umfrage des Federal Judicial Center vom März berichteten lediglich 15 der 931 teilnehmenden Richter, dass in ihren Verfahren Beweismittel konkret als Deepfake angegriffen worden seien.
Furman hat eine Unterarbeitsgruppe eingesetzt, die die Thematik vertieft prüfen soll. Das Gremium hat einen, noch nicht verabschiedeten, Änderungsvorschlag mit der Bezeichnung Rule 901(c) erarbeitet. Demnach müsste eine Partei, die behauptet, ein Beweisstück sei manipuliert oder gefälscht, zunächst selbst substantiiert darlegen, warum dies plausibel ist, bevor die Gegenseite nachweisen muss, dass das Material mit überwiegender Wahrscheinlichkeit echt ist.
Eine Stimme im Ausschuss mahnte jedoch zur Zurückhaltung. Die Bundesrichterin Valerie Caproni warnte davor, vorschnell eine KI-spezifische Beweisregel zu schaffen, solange nicht klar sei, dass Deepfakes in der gerichtlichen Praxis tatsächlich ein breitflächiges Problem darstellen.
Sie argumentierte, Gerichte hätten seit jeher mit gefälschten oder manipulierten Beweismitteln zu tun, und das bestehende Recht untersage bereits heute Betrugsversuche und falsche Eingaben in Verfahren.
Im Mai 2025 lehnte das Panel Vorschläge von Rechtsexperten für spezielle Deepfake-Regeln ab. Die Mehrheit war der Ansicht, dass die vorhandenen Echtheits- und Authentizitätsstandards auch für KI-generierte Beweise ausreichend seien.
Einige Monate später sorgte ein konkreter Fall für Schlagzeilen: Die Richterin am Superior Court von Alameda County, Victoria Kolakowski, verwarf eine Wohnungsrechtsklage in Kalifornien, nachdem sie festgestellt hatte, dass die Kläger ein von einer KI erzeugtes Video einer angeblichen Zeugin als echte Aussage auszugeben versucht hatten.
Lesen Sie außerdem: Das 39,6-%-Krypto-Rallye-Problem: Spotkäufer halten nicht Schritt
