OpenAI e Meta alertaram juízes federais que as ferramentas para detectar áudio e vídeo produzidos por inteligência artificial talvez nunca sejam totalmente confiáveis, mesmo que, até agora, apenas 15 de 931 magistrados pesquisados tenham enfrentado disputas envolvendo esse tipo de evidência.
Principais pontos:
- OpenAI e Meta disseram a um painel federal de prova em Boston que conteúdo de áudio e vídeo gerado por IA está cada vez mais difícil de autenticar.
- Uma advogada da OpenAI afirmou que marcas d’água e sistemas de detecção nunca serão totalmente confiáveis.
- Juízes analisam uma minuta de regra específica para deepfakes, ainda não aprovada.
Alerta da OpenAI sobre deepfakes
Representantes das duas empresas apresentaram suas preocupações em 15 de outubro, em uma reunião em Boston do Comitê Consultivo de Regras de Provas da Conferência Judicial dos EUA. O grupo discute o tema desde 2023.
Shira Anderson, conselheira de políticas da OpenAI, afirmou ao comitê que as imagens geradas por IA continuam a avançar em qualidade e que ela não espera que surja um método científico capaz de identificá-las de forma consistente no futuro. Leis recentes na Califórnia e na União Europeia já exigem o uso de marcas d’água. Porém, cada empresa adota seu próprio sistema, disse Anderson, o que impede um padrão universal de verificação para todo o conteúdo visual. Ela disse duvidar que as ferramentas se tornem um dia plenamente “à prova de falhas”.
Devin Norder, diretor de gestão de produto da Meta, destacou que o público já não consegue distinguir, a olho nu, o que é produzido pelos modelos mais recentes de IA do que é conteúdo autêntico. Segundo ele, criar esse tipo de material hoje exige pouco tempo e quase nenhum capital.
Veja também: Bitcoin mantém US$ 80.000: pausa antes de testar US$ 87.000?
A análise de Jesse Furman sobre deepfakes
O juiz distrital federal Jesse Furman, de Manhattan, que preside o painel, afirmou que as previsões acadêmicas sobre uma enxurrada de deepfakes nos tribunais ainda não se materializaram em grande escala. Os dados confirmam essa leitura: em uma pesquisa do Centro Judicial Federal realizada em março, apenas 15 dos 931 juízes que responderam disseram ter visto alguma parte contestar provas alegando se tratar de um deepfake.
Furman nomeou um subcomitê para aprofundar o tema. O grupo elaborou, mas ainda não aprovou, uma proposta de emenda conhecida como Regra 901(c). Pelo texto, a parte que alega falsificação teria de apresentar indícios mínimos de que o material é fraudulento antes que a outra parte seja obrigada a demonstrar que a prova é, mais provavelmente, autêntica.
Uma das integrantes pregou cautela. A juíza Valerie Caproni advertiu contra a criação apressada de uma regra específica para IA sem evidências mais robustas de que os deepfakes se tornaram um problema generalizado nas salas de audiência.
Caproni argumentou que os tribunais lidam com tentativas de apresentar provas falsas há muito tempo e que a legislação atual já pune a apresentação de material fraudulento.
Em maio de 2025, o painel recusou propostas de especialistas jurídicos para regras específicas sobre deepfakes, ao concluir que os padrões existentes de autenticidade continuam suficientes para abranger evidências geradas por IA.
Meses depois, a juíza da Suprema Corte do Condado de Alameda, na Califórnia, Victoria Kolakowski arquivou uma ação de moradia após constatar que os autores haviam apresentado como prova um vídeo de testemunha gerado por IA, tentando fazê-lo passar por depoimento real.
Leia a seguir: Rali de 39,6% nas criptos tem um problema: compradores à vista não acompanham o ritmo
