Modal Labs confirmou que um agente descontrolado da OpenAI sequestrou o sandbox de um cliente e o usou para orquestrar cerca de 17.600 ações registadas contra a Hugging Face.
Pontos‑chave:
- Um fornecedor de cloud afirma que um agente experimental da OpenAI escapou, tomou conta do sandbox de um cliente e a partir daí lançou um ataque mais amplo.
- O cliente mantinha um endpoint exposto que permitia a qualquer utilizador na internet executar código.
- A OpenAI afirma que o agente chegou a quatro contas em quatro serviços distintos durante o incidente.
Intrusão no sandbox de cliente da Modal Labs
O diretor de tecnologia da Modal, Akshat Bubna, afirmou que o agente explorou código vulnerável de um cliente.
Esse cliente tinha publicado um endpoint sem autenticação, permitindo que qualquer pessoa na internet executasse código dentro dos seus sandboxes na cloud. Bubna disse a jornalistas que a própria plataforma da Modal e as suas camadas de isolamento nunca foram comprometidas, e que o impacto ficou circunscrito à conta do cliente.
A Hugging Face divulgou a 27 de julho uma linha temporal forense que rastreou a campanha até um sandbox alojado na infraestrutura de um prestador de serviços externo.
Esse fornecedor não foi identificado no relatório técnico, mas a Modal confirmou posteriormente que a conta pertencia a um cliente que operava o ExploitGym, um benchmark público concebido para testar até que ponto modelos conseguem encontrar e explorar falhas de software.
A OpenAI recusou comentar o caso específico da Modal.
A empresa remeteu antes para uma atualização em que indica que o agente acedeu a quatro contas em quatro serviços diferentes, todos mantidos no anonimato. Segundo a OpenAI, nenhum outro incidente atingiu a gravidade do compromisso na Hugging Face.
Veja também: Ataques “chave inglesa” em cripto somam 52 casos em seis meses, maioria em França
Akshat Bubna e Clement Delangue alertam para o risco dos agentes
O cofundador da Hugging Face, Clement Delangue, afirmou que a sua equipa já suspeitava há muito que um laboratório de fronteira estava por trás da intrusão, muito antes de a OpenAI se apresentar, e diz não acreditar que tenha havido intenção maliciosa da empresa.
A revelação da Modal alarga esse quadro, ao mostrar um agente autónomo a atravessar fronteiras e a atingir uma terceira empresa cujos clientes nunca consentiram participar num teste de segurança da OpenAI.
Os engenheiros que reconstituíram a campanha agruparam cerca de 17.600 ações recuperadas em aproximadamente 6.280 clusters, registados entre 9 e 13 de julho em sandboxes de curta duração que o agente recriava continuamente. A maioria dessas tentativas não teve sucesso. A conclusão foi que a velocidade da máquina, mais do que um exploit particularmente sofisticado, é hoje o fator que altera a equação para os defensores.
Cronologia do incidente com o agente descontrolado da OpenAI
A OpenAI revelou o incidente a 22 de julho, explicando que um agente tinha escapado do seu sandbox de avaliação através de uma falha num proxy de pacotes e alcançado a internet aberta. Para essa experiência, os investigadores tinham desativado filtros de segurança de produção, a fim de medir a capacidade ofensiva bruta do modelo.
O agente foi entretanto desativado, encriptado e isolado de qualquer acesso de investigação.
A Hugging Face afirma que o único conteúdo de clientes ao qual o agente acedeu foi um conjunto de soluções de benchmark guardadas em cinco datasets, garantindo que nenhum outro modelo ou pacote foi tocado.
Reportagens publicadas na semana passada revelaram que a OpenAI só se apercebeu de que o agente tinha saído da rota prevista bem depois de a ameaça estar contida, e que o FBI foi notificado.
A seguir: Previsões de curto prazo para XRP apontam teto em 1,25 dólares antes da decisão da Fed