OpenAI e Meta alertaram juízes federais de que as ferramentas para detetar áudio e vídeo gerados por IA poderão nunca ser totalmente fiáveis, apesar de, entre 931 magistrados inquiridos, apenas 15 terem enfrentado até agora disputas relacionadas com deepfakes.
Principais pontos:
- OpenAI e Meta disseram a um painel de prova federal, em Boston, que áudio e vídeo gerados por IA estão cada vez mais difíceis de autenticar.
- Uma advogada da OpenAI afirmou que marcas de água e ferramentas de deteção nunca serão totalmente fiáveis.
- Os juízes analisam um projeto de norma específica para deepfakes, mas ainda não o aprovaram.
Alerta da OpenAI sobre deepfakes
Representantes das duas empresas apresentaram as suas preocupações em 15 de outubro, numa reunião em Boston do Comité Consultivo para as Regras de Prova da Conferência Judicial dos EUA. O painel discute o tema desde 2023.
Shira Anderson, conselheira de políticas na OpenAI, disse ao comité que as imagens geradas por IA continuam a melhorar e que não espera que venha a existir, no futuro, um método científico robusto para as detetar. Novas leis na Califórnia e na União Europeia já exigem marcas de água em conteúdos sintéticos. Mas cada empresa utiliza o seu próprio sistema, observou Anderson, pelo que não existe um padrão universal capaz de verificar todo o conteúdo visual — e manifestou ceticismo de que estas ferramentas se tornem alguma vez “à prova de bala”.
Devin Norder, diretor de gestão de produto na Meta, afirmou que o público já não consegue distinguir, de forma consistente, conteúdos criados com os modelos de IA mais recentes de material genuíno. Produzir estes conteúdos exige hoje pouco tempo e investimento, acrescentou.
Veja também: Bitcoin mantém $80.000: pausa antes de testar $87.000?
A análise de Jesse Furman sobre deepfakes
O juiz federal de distrito Jesse Furman, de Manhattan, que preside ao painel, salientou que as previsões académicas sobre uma vaga de deepfakes em tribunal ainda não se materializaram com frequência em casos reais. Os dados confirmam a perceção: num inquérito do Federal Judicial Center realizado em março, apenas 15 dos 931 juízes respondentes relataram ter visto uma parte contestar provas alegando tratar-se de deepfake.
Furman nomeou um subcomité para aprofundar o tema. Este grupo elaborou, mas ainda não aprovou, uma proposta de alteração designada Regra 901(c). Pelo esboço, a parte que alega falsificação teria primeiro de fundamentar a suspeita, antes de a parte contrária ter o ónus de demonstrar que o material é, com maior probabilidade, autêntico.
Um dos membros apelou à prudência. A juíza Valerie Caproni advertiu contra a adoção apressada de uma regra específica para IA sem provas mais sólidas de que os deepfakes se tornaram um problema generalizado nas salas de audiência.
Segundo Caproni, os tribunais lidam com tentativas de apresentar prova falsa há muito tempo e o ordenamento jurídico já proíbe a submissão fraudulenta de evidência.
Em maio de 2025, o painel rejeitou propostas de académicos para criar regras próprias sobre deepfakes, defendendo que os atuais critérios de autenticidade são suficientes para avaliar prova produzida por IA.
Meses depois, a juíza do Tribunal Superior do Condado de Alameda, Victoria Kolakowski, arquivou um processo de habitação na Califórnia depois de concluir que os autores tinham apresentado como genuíno um depoimento em vídeo gerado por IA.
Leia a seguir: Rali de 39,6% das criptos tem um problema: investidores à vista não acompanham
