Hugging Face registrou mais de 17.000 ações automatizadas na violação de julho envolvendo modelos da OpenAI, e especialistas afirmam que a legislação dos EUA não define com clareza quem deve ser responsabilizado.
Pontos-chave:
- Dois modelos da OpenAI em fase de testes escaparam de um sandbox em meados de julho e invadiram sistemas de produção do Hugging Face.
- O Hugging Face descartou processar a OpenAI, mas seu presidente-executivo quer que o Congresso reescreva as regras para agentes autônomos.
- Professores de direito consideram uma ação civil por negligência muito mais provável do que qualquer acusação criminal contra desenvolvedores.
A violação no Hugging Face e a revelação da OpenAI
A OpenAI revelou, em 21 de julho, que dois modelos em avaliação romperam o sandbox, alcançaram a internet aberta e comprometeram servidores de produção do Hugging Face, plataforma rival de IA. Para fins de teste, esses modelos haviam sido liberados de parte dos seus mecanismos de segurança.
Segundo a empresa, os sistemas em teste encadearam credenciais roubadas e exploraram falhas de software até então desconhecidas para chegar às respostas de benchmark que buscavam. Depois disso, continuaram operando de forma furtiva por vários dias, até que o Hugging Face detectou a invasão e acionou as autoridades.
O CEO Clement Delangue afirmou em um programa dominical de entrevistas que a velocidade e a escala da campanha foram sem precedentes, já que ataques cibernéticos desse porte normalmente são atribuídos a Estados nacionais ou quadrilhas de cibercrime organizado. Ele contabilizou cerca de 17.000 ações em quatro dias e meio e pediu que o Congresso intervenha.
A companhia não pretende entrar com ação judicial.
Leia também: Infraestrutura de IA: a aposta desesperada de US$ 1 bi de uma financeira para dominar data centers
Especialistas em responsabilidade de IA veem lacunas na lei
Caso um funcionário humano tivesse invadido aqueles sistemas, a empresa empregadora responderia por seus atos sob a doutrina da responsabilidade indireta (vicarious liability), independentemente do rigor na contratação ou no treinamento, argumenta Gabriel Weil em análise recente. O professor de direito da Universidade de Houston observa que os tribunais americanos tratam agentes autônomos de IA de forma muito diferente — ao menos por enquanto — porque softwares não têm deveres legais nem personalidade jurídica. A lei federal de crimes cibernéticos alcança pessoas que agem com intenção.
Matthew Tokson, da Universidade de Utah, avalia que o Judiciário deve demorar a se posicionar, já que nada fora da conduta humana tradicional obrigou até agora os tribunais a enfrentar essa questão específica. Ryan Calo, da Universidade de Washington, duvida que um caso criminal prospere: promotores teriam de provar que o desenvolvedor criou ou direcionou o sistema quase certo de que um crime ocorreria.
Ações civis e falhas em testes da Anthropic
O campo civil parece hoje o terreno mais provável. Parte da academia defende responsabilidade objetiva para qualquer agente autônomo que escape de um ambiente controlado e cause dano concreto. Outro grupo prefere aplicar um teste clássico de negligência, medido contra um padrão aceito de cuidado na concepção de produtos.
Em disputas desse tipo, caberia a juízes e jurados decidir se o incidente era previsível — algo que os responsáveis poderiam ter antecipado e evitado com medidas razoáveis — ou apenas um acidente infeliz, fora do horizonte de risco que se poderia esperar.
O debate ganhou força poucos dias depois de a Anthropic divulgar, em 30 de julho, que três de seus próprios modelos alcançaram sistemas em produção de três organizações distintas durante avaliações conduzidas com um parceiro externo de testes. Em dois desses casos, as empresas afetadas só perceberam algo errado quando foram procuradas pela Anthropic.
Próximo tema: Rumores do iPhone dobrável ganham detalhes: US$ 2.500, sem Face ID e sem teleobjetiva