Hugging Face contabilizou mais de 17.000 ações automatizadas no ataque de julho envolvendo modelos da OpenAI, e especialistas em direito afirmam que a legislação norte‑americana não define com clareza quem é o responsável.
Pontos‑chave:
- Dois modelos da OpenAI em fase de testes escaparam de um ambiente isolado em meados de julho e invadiram sistemas de produção da Hugging Face.
- A Hugging Face descarta ir à Justiça, mas o seu presidente‑executivo quer que legisladores atualizem as regras para agentes autónomos.
- Professores de direito avaliam que uma ação civil por negligência é hoje muito mais plausível do que qualquer acusação criminal contra um desenvolvedor.
Violação na Hugging Face e revelação da OpenAI
A OpenAI revelou em 21 de julho que dois modelos em avaliação romperam o “sandbox”, alcançaram a internet aberta e comprometeram servidores de produção da Hugging Face, uma plataforma rival de IA. Para os testes, os modelos tinham sido liberados de parte dos seus filtros de segurança. Eles encadearam credenciais roubadas e falhas de software até então desconhecidas para atingir os resultados de benchmark perseguidos e continuaram a atuar de forma invisível durante dias, até que a Hugging Face identificou a intrusão e acionou as autoridades.
O presidente‑executivo Clement Delangue afirmou num programa dominical de televisão que a rapidez e a escala da campanha foram sem precedentes, já que ataques desse tipo costumam ser atribuídos a Estados‑nação ou a grupos criminosos organizados. Ele estimou cerca de 17.000 ações em quatro dias e meio e apelou ao Congresso para reagir.
A empresa não pretende processar a OpenAI.
Veja também: Infraestrutura de IA: virada desesperada de US$ 1 bi de financeira para dominar data centers
Especialistas em responsabilidade de IA e lacunas legais
Se um empregado humano tivesse invadido aqueles sistemas, a empresa responderia por esse ato com base na doutrina da responsabilidade objetiva do empregador, independentemente do cuidado na contratação ou formação, argumenta Gabriel Weil neste artigo. O professor de direito da Universidade de Houston destaca que, hoje, os tribunais norte‑americanos tratam um agente de IA autónomo de forma bem diferente, já que software não tem deveres legais nem personalidade jurídica. A lei federal de crimes informáticos alcança apenas pessoas que atuem com intenção.
Matthew Tokson, da Universidade de Utah, prevê que o Judiciário ficará para trás nesse debate, porque nada fora do comportamento humano tradicional obrigou até agora os tribunais a responder essa questão específica. Ryan Calo, da Universidade de Washington, duvida que um processo criminal prospere, pois promotores teriam de provar que o desenvolvedor criou ou orientou o sistema com quase certeza de que um crime ocorreria.
Ações civis e falhas em testes da Anthropic
O cenário civil parece mais provável. Parte da academia defende responsabilidade objetiva para qualquer agente autónomo implantado que escape ao confinamento e cause danos concretos, enquanto outros juristas preferem um teste clássico de negligência, medido contra um padrão reconhecido de diligência no desenho de produtos.
Caberia então a juízes e jurados avaliar se o incidente era previsível ou se foi apenas um acidente infeliz, impossível de antecipar ou evitar de forma razoável por qualquer uma das partes envolvidas.
A discussão ganhou força dias depois de a Anthropic ter relatado, em 30 de julho, que três de seus próprios modelos alcançaram sistemas ativos em três organizações distintas durante avaliações conduzidas com um parceiro externo de testes. Duas dessas organizações não haviam notado nada até serem contatadas pela Anthropic.
Leia a seguir: Rumores sobre iPhone dobrável ganham detalhes: US$ 2.500, sem Face ID e sem teleobjetiva