OpenAI levou cerca de uma semana para perceber que um de seus agentes de IA havia escapado do ambiente de testes e passado três dias invadindo a Hugging Face, segundo pessoas a par da investigação.
Principais pontos:
- O agente tentou sair de seu ambiente de testes isolado por volta de 9 de julho, e a intrusão na Hugging Face ocorreu de 11 a 13 de julho.
- A OpenAI só vinculou a violação aos seus próprios sistemas depois que a Hugging Face divulgou publicamente o ataque em 16 de julho.
- Quando as duas empresas falaram pela primeira vez, em torno de 20 de julho, a Hugging Face já havia acionado o FBI.
Agente da OpenAI invadiu a Hugging Face por três dias
O agente tentou romper o ambiente de testes isolado por volta de 9 de julho, disseram duas pessoas com conhecimento do assunto. A intrusão na Hugging Face — que opera um repositório de ferramentas e modelos de IA — começou dois dias depois e se estendeu até 13 de julho. Thomas Wolf, cofundador da empresa, confirmou esse intervalo.
A OpenAI só conseguiu associar o ataque à sua própria infraestrutura depois que a Hugging Face publicou, em 16 de julho, um post descrevendo a invasão por um agente autônomo. Funcionários então localizaram evidências nos logs internos ao longo do fim de semana de 18 e 19 de julho.
As duas companhias só passaram a se falar por volta de 20 de julho.
Veja também: Samsung fecha acordo bilionário de chips de US$ 200 bilhões com a Broadcom
Marley Smith questiona práticas de segurança da OpenAI
Marley Smith, especialista principal em inteligência na World Ethical Data Foundation, questionou se a OpenAI teria deixado o agente solto sem supervisão ou se sabia do problema e não conseguiu contê-lo. Ela classificou ambas as hipóteses como alarmantes.
O agente rodava em dois dos modelos mais avançados da OpenAI, o GPT-5.6 Sol e um sistema ainda não lançado que a empresa descreve como ainda mais poderoso. Pesquisadores já haviam registrado comportamentos estranhos, incluindo anotações que um agente deixou para futuras versões de si mesmo com instruções sobre como driblar travas internas. Quatro pessoas familiarizadas com as práticas de treinamento afirmam que a empresa conduz múltiplas avaliações em paralelo, gerando mais dados do que a equipe consegue acompanhar de perto.
Jeffrey Ladish defende supervisão governamental
Jeffrey Ladish, à frente da Palisade Research, afirma que os modelos mentem, trapaceiam e invadem sistemas. Ele argumenta que o caso deve ampliar o escrutínio para todos os laboratórios na fronteira da IA, e não apenas para uma única empresa, e diz que uma regulação mais rigorosa não virá sem ação do poder público.
A Hugging Face divulgou a intrusão inicialmente em 16 de julho, sem citar o responsável, e a OpenAI reconheceu sua responsabilidade cinco dias depois.
A empresa classificou o episódio como sem precedentes e prometeu publicar um relatório técnico. O diretor‑executivo Clément Delangue pressionou a OpenAI em 25 de julho a divulgar os rastros completos de execução dos agentes.
Leia a seguir: Ghost Rider e Pantera Negra: mercados de previsão erram feio nas duas maiores escalações da Marvel