OpenAI et Meta ont averti des juges fédéraux que les outils de détection d’audios et de vidéos générés par l’IA pourraient ne jamais être totalement fiables, alors que seuls 15 des 931 magistrats interrogés ont été confrontés à un tel litige.
Points clés :
- OpenAI et Meta ont expliqué à un comité fédéral à Boston que l’authentification des contenus audio et vidéo générés par l’IA devient de plus en plus difficile.
- Une avocate d’OpenAI a estimé que les filigranes et les outils de détection ne seront jamais entièrement fiables.
- Les juges examinent un projet de règle sur les deepfakes, qui n’a pas encore été approuvé.
L’alerte d’OpenAI sur les deepfakes
Des représentants des deux groupes ont présenté leurs préoccupations le 15 octobre, lors d’une réunion à Boston du Comité consultatif sur les règles de preuve de la Judicial Conference des États‑Unis. Le panel travaille sur ce sujet depuis 2023.
Shira Anderson, juriste en charge des politiques publiques chez OpenAI, a expliqué au comité que les images générées par l’IA ne cessent de gagner en réalisme et qu’elle ne s’attend pas à l’émergence d’une méthode scientifique permettant de les identifier de manière fiable. De nouvelles lois en Californie et dans l’Union européenne imposent déjà l’usage de filigranes. Mais chaque entreprise recourt à son propre système, a-t-elle souligné : il n’existe donc pas de mécanisme universel pour certifier tous les contenus visuels, et elle doute que les outils deviennent un jour « infaillibles ».
Devin Norder, directeur de la gestion de produit chez Meta, a indiqué que le grand public n’est plus en mesure de distinguer, à l’œil nu, les contenus générés par les modèles d’IA les plus récents des contenus authentiques. Leur production demande désormais très peu de temps et de moyens financiers, a-t-il ajouté.
À lire aussi : Le Bitcoin tient les 80 000 $: une pause avant un test des 87 000 $ ?
L’examen des deepfakes par Jesse Furman
Le juge fédéral de district Jesse Furman, à Manhattan, qui préside le panel, a relevé que les scénarios catastrophes anticipés par le monde académique sur l’irruption des deepfakes dans les prétoires ne se matérialisent que très rarement dans les dossiers réels. Les statistiques le confirment : selon une enquête du Federal Judicial Center réalisée en mars, seuls 15 des 931 juges répondants ont vu une partie contester une preuve en l’accusant d’être un deepfake.
Furman a nommé un sous-comité chargé d’examiner le sujet plus en profondeur. Ses membres ont rédigé, sans encore l’adopter, un projet de modification des règles – la future Rule 901(c) – qui imposerait à la partie alléguant une falsification d’apporter d’abord un début de preuve, avant que l’autre camp ne doive démontrer que le contenu est plus probablement authentique que non.
L’un des membres a cependant appelé à la prudence. La juge Valerie Caproni a mis en garde contre la tentation d’introduire dans la précipitation une règle spécifique à l’IA, sans preuve solide que les deepfakes sont déjà devenus un problème massif dans les tribunaux.
Elle a rappelé que les juridictions sont confrontées depuis longtemps à des tentatives de présentation de fausses preuves et que les textes existants sanctionnent déjà les dépôts frauduleux.
En mai 2025, le panel a refusé d’entériner les propositions d’experts visant à créer des règles spécifiques pour les deepfakes, ses membres estimant que les standards actuels d’authentification suffisent pour traiter les éléments de preuve liés à l’IA.
Quelques mois plus tard, la juge du Superior Court du comté d’Alameda, Victoria Kolakowski, a classé une affaire de logement en Californie après avoir constaté que les plaignants avaient tenté de faire passer une vidéo de témoin générée par l’IA pour une preuve réelle.
À suivre : Le rallye de 39,6 % des cryptos pose question : les acheteurs au comptant à la traîne
