OpenAI e Meta alertaram juízes federais de que as ferramentas para identificar áudios e vídeos gerados por IA talvez nunca sejam totalmente confiáveis, embora apenas 15, entre 931 magistrados pesquisados, tenham lidado com esse tipo de disputa até agora.
Principais pontos:
- OpenAI e Meta disseram a um painel de provas em Boston que áudios e vídeos gerados por IA estão cada vez mais difíceis de autenticar.
- Uma advogada da OpenAI afirmou que marcas d’água e ferramentas de detecção nunca serão totalmente confiáveis.
- Juízes analisam um rascunho de regra sobre deepfakes, mas ainda não a aprovaram.
Alerta da OpenAI sobre deepfakes
Representantes das duas empresas apresentaram suas preocupações em 15 de outubro, durante reunião em Boston do Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos EUA. O painel discute o tema desde 2023.
Shira Anderson, conselheira de políticas da OpenAI, disse ao comitê que as imagens geradas por IA continuam a se aprimorar e que não espera surgir um método científico definitivo para detectá-las. Novas leis na Califórnia e na União Europeia já exigem o uso de marcas d’água. Mas cada empresa utiliza seu próprio sistema, afirmou Anderson, o que impede a criação de um método universal de verificação de imagens, e ela duvida que as ferramentas cheguem a ser “à prova de balas”.
Devin Norder, diretor de gestão de produtos da Meta, afirmou que o público já não consegue distinguir, de forma confiável, o conteúdo produzido pelos modelos mais avançados de IA do material autêntico. Segundo ele, criar esse tipo de mídia hoje exige pouco tempo e baixo investimento.
Veja também: Bitcoin mantém US$ 80.000: pausa antes de mirar US$ 87.000?
A análise de Jesse Furman sobre deepfakes
O juiz federal Jesse Furman, de Manhattan, que preside o painel, observou que as previsões acadêmicas sobre uma enxurrada de deepfakes nos tribunais ainda não se concretizaram na prática. Os dados confirmam: em uma pesquisa do Federal Judicial Center, realizada em março, apenas 15 dos 931 juízes que responderam relataram ter visto alguma parte contestar uma prova alegando se tratar de deepfake.
Furman criou um subcomitê para aprofundar o tema. O grupo elaborou — mas ainda não aprovou — uma proposta de emenda, a Regra 901(c), segundo a qual a parte que alegar falsificação teria de apresentar fundamentos iniciais antes de o lado oposto ser obrigado a demonstrar que o material é, mais provavelmente do que não, autêntico.
Uma das integrantes pediu cautela. A juíza Valerie Caproni alertou contra a adoção apressada de uma regra específica para IA sem evidências mais robustas de que deepfakes já são um problema generalizado nas salas de audiência.
Ela argumentou que os tribunais lidam com tentativas de apresentar provas falsas há muito tempo e que o arcabouço jurídico atual já coíbe a apresentação fraudulenta de documentos e registros.
Em maio de 2025, o painel rejeitou propostas de especialistas para criar regras específicas sobre deepfakes, sob o argumento de que os padrões de autenticação existentes ainda são adequados para avaliar evidências produzidas por IA.
Meses depois, a juíza do Tribunal Superior do Condado de Alameda, Victoria Kolakowski, extinguiu um processo de habitação na Califórnia ao concluir que os autores haviam apresentado como prova um depoimento em vídeo gerado por IA, tentando fazê-lo passar por testemunho real.
Leia a seguir: Rali de 39,6% das criptos tem um problema: compradores à vista não estão acompanhando
