OpenAI y Meta advirtieron a un grupo de jueces federales de que las herramientas para identificar audio y video generados con inteligencia artificial podrían no llegar a ser nunca totalmente fiables, pese a que solo 15 de los 931 magistrados consultados dicen haber afrontado por ahora un litigio de este tipo.
Puntos clave:
- OpenAI y Meta explicaron a un panel federal de pruebas en Boston que cada vez es más difícil autenticar audio y video generados por IA.
- Una abogada de OpenAI sostuvo que las marcas de agua y los sistemas de detección nunca serán totalmente confiables.
- Los jueces analizan un borrador de norma sobre deepfakes, pero aún no lo han aprobado.
La advertencia de OpenAI sobre las deepfakes
Representantes de ambas compañías expusieron sus preocupaciones el 15 de octubre en una reunión en Boston del Comité Asesor sobre Reglas de Prueba de la Conferencia Judicial de Estados Unidos. El panel trabaja en este asunto desde 2023.
Shira Anderson, asesora de política pública en OpenAI, explicó al comité que las imágenes generadas por IA mejoran de forma constante y que no prevé la aparición de un método científico infalible para detectarlas. Recordó que nuevas leyes en California y la Unión Europea ya exigen incorporar marcas de agua. Sin embargo, cada empresa emplea su propio sistema, señaló Anderson, de modo que no existe un estándar universal que permita verificar todo el contenido visual, y se mostró escéptica sobre que las herramientas puedan llegar a ser “a prueba de balas”.
Devin Norder, director de gestión de productos en Meta, afirmó que el público ya no es capaz de distinguir el material creado por los modelos de IA más avanzados del contenido auténtico. Añadió que producir estas piezas requiere hoy muy poco tiempo y dinero.
También puede interesarle: Bitcoin mantiene los 80.000 dólares: ¿pausa antes de atacar los 87.000?
El análisis de Jesse Furman sobre las deepfakes
El juez federal de distrito Jesse Furman, de Manhattan, que preside el panel, subrayó que las advertencias académicas sobre un aluvión de deepfakes en los tribunales aún no se han materializado de forma generalizada en la práctica. Los datos lo respaldan: en una encuesta del Centro Judicial Federal realizada en marzo, solo 15 de los 931 jueces que respondieron habían visto a alguna de las partes impugnar una prueba alegando que era una deepfake.
Furman creó un subcomité para estudiar el fenómeno en detalle. Sus miembros han redactado —aunque todavía no aprobado— una enmienda conocida como Regla 901(c). Según el borrador, la parte que alegue manipulación deberá presentar primero indicios que respalden su denuncia, antes de que la otra parte tenga que demostrar que el material es auténtico con una probabilidad superior al 50%.
No todos quieren moverse con rapidez. La jueza Valerie Caproni pidió cautela y advirtió contra la tentación de adoptar deprisa una norma específica para IA sin pruebas más sólidas de que las deepfakes se han convertido en un problema sistémico en las salas de vistas.
Caproni recordó que los tribunales llevan décadas lidiando con intentos de presentar pruebas falsas y que el marco legal vigente ya prohíbe la aportación fraudulenta de documentos o grabaciones.
En mayo de 2025, el panel optó por no respaldar las propuestas de varios expertos para introducir reglas específicas sobre deepfakes, al considerar que los criterios actuales de autenticidad siguen siendo suficientes para valorar pruebas generadas con IA.
Meses después, la jueza del Tribunal Superior del condado de Alameda, Victoria Kolakowski, archivó un caso de vivienda en California al concluir que los demandantes habían intentado hacer pasar como legítimo un video de un testigo generado por IA.
Lea también: El rally del 39,6% en cripto tiene un problema: los compradores al contado no acompañan
