OpenAI y Meta advirtieron a un grupo de jueces federales de que las herramientas para detectar audio y vídeo generados con inteligencia artificial quizá nunca lleguen a ser plenamente fiables, pese a que solo 15 de los 931 magistrados encuestados han afrontado por ahora un litigio de este tipo.
Puntos clave:
- OpenAI y Meta dijeron a un comité federal de pruebas en Boston que el audio y el vídeo generados por IA son cada vez más difíciles de autenticar.
- Una abogada de OpenAI afirmó que las marcas de agua y los sistemas de detección nunca serán totalmente fiables.
- Los jueces estudian un borrador de norma sobre ‘deepfakes’, pero aún no lo han aprobado.
La advertencia de OpenAI sobre las deepfakes
Representantes de ambas compañías expusieron sus preocupaciones el 15 de octubre en una reunión en Boston del Comité Asesor sobre Reglas de Prueba de la Conferencia Judicial de Estados Unidos. El panel trabaja en este asunto desde 2023.
Shira Anderson, asesora de política pública en OpenAI, explicó al comité que las imágenes generadas por IA mejoran de forma constante y que no espera que exista en el futuro un método científico que permita detectarlas de forma fiable. Recordó que nuevas leyes en California y la Unión Europea ya exigen marcar este tipo de contenidos. Pero, según añadió, cada compañía aplica su propio sistema de marcas de agua, lo que impide contar con un estándar universal para verificar todo el contenido visual, y se mostró escéptica de que las herramientas lleguen a ser “a prueba de balas”.
Devin Norder, director de gestión de producto en Meta, señaló que, con los modelos de IA más avanzados, las personas ya no son capaces de distinguir el material generado artificialmente de las imágenes y vídeos auténticos. Producir estos contenidos requiere ahora muy poco tiempo y dinero, añadió.
También puede leer: Bitcoin mantiene los 80.000 dólares: ¿pausa antes de atacar los 87.000?
La revisión de Jesse Furman sobre las deepfakes
El juez federal de distrito Jesse Furman, de Manhattan, que preside el panel, apuntó que las sombrías previsiones académicas sobre el impacto de las ‘deepfakes’ en los tribunales todavía no se han materializado de forma significativa en los casos reales. Los datos lo respaldan: en una encuesta del Federal Judicial Center realizada en marzo, solo 15 de los 931 jueces que respondieron habían visto a una de las partes impugnar una prueba alegando que se trataba de una ‘deepfake’.
Furman designó a un subcomité para profundizar en el tema. Sus miembros han redactado, pero aún no aprobado, una enmienda denominada Regla 901(c). Según el borrador, la parte que alegue manipulación deberá presentar primero indicios que respalden su acusación, antes de que la contraparte tenga que demostrar que el material es, con mayor probabilidad, auténtico.
Uno de los integrantes pidió cautela. La jueza Valerie Caproni advirtió del riesgo de precipitarse con una norma específica sobre IA sin pruebas sólidas de que las ‘deepfakes’ se hayan convertido en un problema generalizado en las salas de vistas.
Caproni recalcó que los tribunales llevan décadas lidiando con pruebas falsas y que el ordenamiento jurídico ya prohíbe la presentación de documentos o materiales fraudulentos.
En mayo de 2025, el panel rechazó adoptar las propuestas de expertos legales para introducir reglas específicas sobre ‘deepfakes’, al considerar sus miembros que los estándares actuales de autenticidad son suficientes para evaluar pruebas generadas por IA.
Meses después, la jueza del Tribunal Superior del condado de Alameda, Victoria Kolakowski, archivó un caso de vivienda en California tras concluir que los demandantes habían presentado como auténtico el testimonio en vídeo de un testigo generado con IA.
Lea también: El rally del 39,6% en las ‘crypto’ tiene un problema: los compradores al contado no acompañan
