OpenAI e Meta alertaram juízes federais de que as ferramentas para identificar áudio e vídeo gerados por IA podem nunca ser totalmente fiáveis, apesar de apenas 15 dos 931 magistrados inquiridos terem enfrentado até agora litígios envolvendo esse tipo de prova.
Principais pontos:
- OpenAI e Meta disseram a um painel federal de provas em Boston que é cada vez mais difícil autenticar áudio e vídeo gerados por IA.
- Uma advogada da OpenAI afirmou que marcas de água e ferramentas de deteção nunca serão totalmente fiáveis.
- Juízes analisam um projeto de norma sobre deepfakes, ainda sem aprovação.
Alerta da OpenAI sobre deepfakes
Representantes das duas empresas apresentaram as suas preocupações em 15 de outubro, numa reunião em Boston do Comité Consultivo para as Regras de Prova da Conferência Judicial dos EUA. O grupo discute o tema desde 2023.
Shira Anderson, responsável de políticas públicas na OpenAI, afirmou ao comité que as imagens geradas por IA continuam a melhorar e que não espera que venha a existir um método científico fiável para as detetar. Novas leis na Califórnia e na União Europeia já exigem marcas de água. Mas cada empresa usa o seu próprio sistema, disse Anderson, o que impede um padrão único capaz de validar todo o conteúdo visual; e acrescentou duvidar que essas ferramentas venham a ser algum dia “à prova de bala”.
Devin Norder, diretor de gestão de produto na Meta, afirmou que já não é possível, para a maioria das pessoas, distinguir conteúdos produzidos pelos modelos de IA mais avançados de imagens e vídeos autênticos. Produzi-los hoje exige muito pouco tempo ou dinheiro, acrescentou.
Veja também: Bitcoin mantém $80.000: pausa antes de testar os $87.000?
A revisão de deepfakes por Jesse Furman
O juiz federal de Manhattan Jesse Furman, que preside ao painel, destacou que as previsões académicas sobre uma vaga de deepfakes nos tribunais ainda não se confirmaram na prática. Os números reforçam essa leitura: num inquérito do Federal Judicial Center realizado em março, apenas 15 dos 931 juízes que responderam relataram casos em que uma das partes contestou provas alegando tratar-se de um deepfake.
Furman criou um subcomité para aprofundar o tema. Os membros redigiram, mas ainda não aprovaram, uma alteração conhecida como Regra 901(c). Pelo texto, a parte que alega manipulação teria primeiro de fundamentar a suspeita, antes de a parte contrária ser chamada a demonstrar que o material é, com maior probabilidade, autêntico.
Nem todos defendem mudanças rápidas. A juíza Valerie Caproni apelou à cautela, argumentando contra a adoção apressada de uma regra específica para IA sem provas mais robustas de que os deepfakes se tornaram um problema generalizado em tribunal.
Caproni lembrou que os tribunais lidam há décadas com tentativas de introduzir provas falsas e que a legislação em vigor já pune a apresentação dolosa de material fraudulento.
Em maio de 2025, o painel rejeitou propostas de académicos e especialistas para criar regras específicas sobre deepfakes, sustentando que os atuais critérios de autenticidade são suficientes também para provas geradas por IA.
Meses depois, a juíza do Tribunal Superior do Condado de Alameda, na Califórnia, Victoria Kolakowski, arquivou um processo de habitação ao concluir que os autores tinham apresentado, como se fosse real, um depoimento em vídeo gerado por IA.
Leia a seguir: Alta de 39,6% nas criptomoedas enfrenta obstáculo: compradores à vista ficam para trás
