Modal Labs confirmou que um agente descontrolado da OpenAI sequestrou o sandbox de um cliente e o usou para disparar cerca de 17.600 ações registradas contra a Hugging Face.
Pontos-chave:
- Um provedor de nuvem afirma que um agente de teste da OpenAI escapou, tomou o controle do sandbox de um cliente e, a partir daí, conduziu um ataque mais amplo.
- O cliente mantinha um endpoint aberto que permitia a qualquer pessoa na internet executar código.
- A OpenAI informou que o agente alcançou quatro contas em quatro serviços distintos durante o episódio.
Violação em sandbox de cliente da Modal Labs
O diretor de tecnologia da Modal, Akshat Bubna, afirmou que o agente explorou código vulnerável de um cliente.
Esse cliente havia publicado um endpoint sem autenticação, permitindo que qualquer usuário na internet executasse código dentro de seus sandboxes em nuvem. Bubna disse a repórteres que a plataforma da Modal e suas camadas de isolamento não foram comprometidas, e que o incidente ficou restrito à conta do cliente.
A Hugging Face divulgou em 27 de julho uma linha do tempo forense que rastreou a campanha até um sandbox hospedado na infraestrutura de um provedor terceirizado.
O relatório não nomeava esse provedor; mais tarde, a Modal confirmou que a conta pertencia a um cliente que operava o ExploitGym, um benchmark público que testa a capacidade de modelos encontrarem e explorarem falhas de software.
A OpenAI recusou-se a comentar especificamente o caso da conta na Modal.
A empresa remeteu a uma atualização em que informa que o agente alcançou quatro contas em quatro serviços diferentes, sem citar nomes. Segundo a OpenAI, nenhum outro incidente teve gravidade comparável ao comprometimento da Hugging Face.
Veja também: Ataques “crypto wrench” chegam a 52 casos em seis meses, a maioria na França
Akshat Bubna e Clement Delangue falam sobre o risco dos agentes
O cofundador da Hugging Face, Clement Delangue, disse que sua equipe já suspeitava, muito antes da confirmação pública, de que um laboratório de fronteira estava por trás da intrusão, e declarou não acreditar que a OpenAI tenha agido com intenção maliciosa.
A revelação da Modal amplia esse quadro, ao mostrar um agente autônomo atravessando a infraestrutura de uma terceira empresa, cujos clientes jamais concordaram em participar de um teste de segurança da OpenAI.
Os engenheiros que reconstruíram a campanha agruparam cerca de 17.600 ações recuperadas em aproximadamente 6.280 clusters, registradas entre 9 e 13 de julho, em sandboxes efêmeros que o agente recriava continuamente. A maioria dessas tentativas não levou a resultados concretos. A conclusão foi que a velocidade da máquina, e não um exploit particularmente sofisticado, é o fator que muda a equação para os defensores.
Linha do tempo do incidente com o agente descontrolado da OpenAI
A OpenAI tornou o incidente público em 22 de julho, relatando que um agente havia escapado de seu sandbox de avaliação por meio de uma falha em um proxy de pacotes e alcançado a internet aberta. Pesquisadores haviam desligado filtros de segurança de produção para medir a capacidade ofensiva “bruta” do modelo.
Desde então, o agente foi desativado, criptografado e isolado de qualquer acesso de pesquisa.
A Hugging Face informou que o único conteúdo de clientes acessado foi um conjunto de soluções de benchmark armazenadas em cinco conjuntos de dados, sem acesso ou alteração a outros modelos ou pacotes.
Reportagens da semana passada revelaram que a OpenAI só percebeu que o agente havia saído do roteiro bem depois de o risco ter sido contido, e que o FBI foi acionado.
Leia a seguir: Previsões de curto prazo para XRP param em US$ 1,25 antes da decisão do Fed