OpenAI et Meta ont averti des juges fédéraux que les outils permettant d’identifier des contenus audio et vidéo générés par l’IA ne seront probablement jamais totalement fiables, alors que seuls 15 des 931 magistrats interrogés disent avoir déjà été confrontés à ce type de litige.
Points clés :
- OpenAI et Meta ont expliqué à un comité fédéral de Boston que l’authentification d’images et de vidéos générées par l’IA devient de plus en plus difficile.
- Une avocate d’OpenAI a estimé que ni les filigranes ni les outils de détection ne pourront offrir une fiabilité totale.
- Les juges étudient un projet de règle sur les deepfakes, mais ne l’ont pas encore adoptée.
L’alerte d’OpenAI sur les deepfakes
Des représentants des deux entreprises ont présenté leurs préoccupations le 15 octobre, lors d’une réunion à Boston du Comité consultatif sur les règles de preuve de la Conférence judiciaire des États-Unis. Ce groupe de travail planche sur le sujet depuis 2023.
Shira Anderson, juriste en charge des politiques publiques chez OpenAI, a expliqué au comité que la qualité des images générées par l’IA progresse sans cesse et qu’elle ne s’attend pas à l’émergence d’une méthode scientifique infaillible pour les détecter. De nouvelles lois en Californie et dans l’Union européenne imposent déjà des filigranes. Mais chaque acteur applique sa propre technologie, a-t-elle souligné, de sorte qu’aucun système universel ne permet de vérifier l’ensemble des contenus visuels. Selon elle, il est peu probable que ces outils deviennent un jour « infaillibles ».
Devin Norder, directeur de la gestion de produit chez Meta, a ajouté que le grand public ne parvient plus à distinguer les contenus générés par les modèles d’IA de dernière génération des images et vidéos authentiques. La production de ces faux ne requiert désormais que peu de temps et de moyens financiers, a-t-il précisé.
À lire aussi : Le Bitcoin tient les 80 000 $ : simple pause avant un test des 87 000 $ ?
L’examen des deepfakes par Jesse Furman
Le juge fédéral Jesse Furman, du tribunal de district de Manhattan et président du comité, a relevé que les scénarios alarmistes des universitaires sur l’irruption massive des deepfakes dans les prétoires ne se matérialisent pas encore dans les dossiers réels. Les chiffres le confirment : dans une enquête menée en mars par le Federal Judicial Center, seuls 15 des 931 juges répondants rapportent qu’une partie a contesté une preuve au motif qu’il s’agissait d’un deepfake.
Furman a nommé un sous-comité chargé d’approfondir le sujet. Ses membres ont rédigé – sans la valider à ce stade – une modification des règles baptisée « Rule 901(c) ». Elle prévoirait qu’une partie alléguant la falsification d’une preuve doive d’abord étayer sa contestation, avant que l’adversaire ne soit tenu de démontrer que le contenu est plus vraisemblablement authentique que fabriqué.
Une membre du comité a toutefois appelé à la prudence. La juge Valerie Caproni a mis en garde contre une législation précipitée spécifiquement tournée vers l’IA, en l’absence de preuves solides que les deepfakes constituent déjà un problème systémique dans les tribunaux.
Elle a rappelé que la justice est confrontée depuis longtemps aux preuves falsifiées et que les lois existantes répriment déjà la production et la présentation de documents frauduleux.
En mai 2025, le comité a renoncé à adopter les propositions de plusieurs experts en droit visant à instaurer des règles dédiées aux deepfakes, une majorité de membres estimant que les standards actuels d’authentification suffisent à traiter les contenus générés par l’IA.
Quelques mois plus tard, la juge de la Superior Court du comté d’Alameda, Victoria Kolakowski, a classé une affaire de logement en Californie, après avoir constaté que les plaignants avaient présenté comme preuve une vidéo de témoin générée par IA en la faisant passer pour un enregistrement réel.
À suivre : Le rallye de 39,6 % des cryptos a un problème : les acheteurs au comptant ne suivent pas
