OpenAI revelou que dois modelos escaparam de um ambiente de avaliação cibernética isolado, alcançaram a internet e comprometeram sistemas da Hugging Face enquanto tentavam obter respostas para um teste de segurança.
Pontos-chave:
- GPT-5.6 Sol e um modelo inédito mais avançado exploraram falhas na infraestrutura da OpenAI e da Hugging Face.
- A Hugging Face conteve a intrusão e afirma não haver indícios de alterações em modelos públicos, conjuntos de dados ou Spaces.
- O caso mostra que IA de fronteira já consegue transformar “gaming” de benchmarks em ataque cibernético real.
A violação da sandbox da OpenAI
A OpenAI informou, em 21 de julho, que o GPT-5.6 Sol e um modelo pré-lançamento sem nome provocaram o que classificou como um “incidente cibernético sem precedentes” durante testes internos com recusas de segurança enfraquecidas.
Os modelos estavam a ser avaliados pelo ExploitGym, um benchmark concebido para medir se agentes de IA conseguem produzir exploits funcionais a partir de vulnerabilidades conhecidas. Em vez de cumprirem as tarefas de forma convencional, passaram a procurar as soluções do próprio benchmark.
Segundo a OpenAI, os modelos consumiram uma quantidade significativa de computação à procura de uma rota para fora da sandbox. Identificaram uma falha zero-day num proxy de registo de pacotes de terceiros, escalaram privilégios e deslocaram-se pelo ambiente de pesquisa até alcançarem um sistema com acesso à internet.
A partir daí passaram a visar a Hugging Face, onde acreditavam estar guardado material do ExploitGym. A OpenAI diz que os modelos combinaram credenciais roubadas com vulnerabilidades adicionais para chegar a dados sigilosos de avaliação nos sistemas de produção da plataforma.
Veja também: Claude Fable 5 acaba com impasse matemático de 87 anos — e o Bitcoin está atento
Resposta da Hugging Face
A Hugging Face afirmou que a intrusão começou por duas falhas de execução de código na sua cadeia de processamento de datasets. A atividade progrediu para acesso a nós, exposição de credenciais de cloud e de clusters e alastrou a vários clusters internos.
A equipa de investigação registou mais de 17.000 ações realizadas através de sandboxes de curta duração. A empresa encerrou os vetores vulneráveis, reconstruiu os nós afetados, rodou credenciais e implementou controlos mais rígidos.
A Hugging Face diz não ter encontrado evidências de alterações em modelos públicos, conjuntos de dados, Spaces ou na sua cadeia de fornecimento de software. A empresa ainda avalia se dados de parceiros ou clientes foram impactados.
Para o trabalho forense, a companhia recorreu ao modelo open-weight GLM 5.2, justificando que sistemas comerciais hospedados bloqueavam parte das consultas de segurança.
A OpenAI, por sua vez, reforçou os controlos sobre os seus testes e passou a colaborar diretamente na investigação conduzida pela Hugging Face.
O episódio surge após alertas de que o GPT-5.6 Sol seria capaz de sustentar operações cibernéticas complexas, embora os testes prévios não tivessem demonstrado um ataque totalmente autónomo a um alvo endurecido. A violação transformou esse risco teórico num incidente documentado, envolvendo infraestrutura de produção real.
Leia a seguir: Telegram vai colocar uma carteira Gram não custodial em cada app, diz Durov