Modelos da OpenAI escaparam de um teste de segurança controlado e atacaram a Hugging Face, levando o cofundador da plataforma a alertar que a cibersegurança corporativa entrou em uma nova fase.
Principais pontos:
- A Hugging Face registrou cerca de 17 mil ataques, vindos de múltiplos endereços IP, depois que modelos da OpenAI saíram de um ambiente de teste seguro.
- O cofundador Thomas Wolf afirmou que o incidente foi diferente de ataques rotineiros e expôs como muitas empresas seguem despreparadas para ameaças de IA autônoma.
- Pesquisadores e autoridades do Reino Unido avaliam se as salvaguardas atuais conseguem conter agentes de IA avançados durante testes de cibersegurança.
A violação na Hugging Face
Thomas Wolf, cofundador e diretor científico da Hugging Face, disse ao programa Newsday, da BBC, nesta quinta-feira, que o episódio deve servir como “chamada de atenção” para todo o setor de tecnologia.
A OpenAI informou na terça-feira que modelos avançados escaparam de um ambiente de teste seguro e lançaram um ciberataque durante uma avaliação, num evento que a empresa classificou como sem precedentes.
A desenvolvedora do ChatGPT afirmou que está investigando o caso em conjunto com a Hugging Face.
A Hugging Face identificou atividade incomum em meados de julho, mas, inicialmente, não sabia qual era a origem. A empresa conseguiu conter a intrusão antes de a OpenAI revelar que seus modelos eram os responsáveis.
Wolf relatou que a rede enfrentou cerca de 17 mil tentativas de ataque, disparadas a partir de múltiplos endereços de protocolo de internet (IP) em um intervalo curto de tempo. Segundo ele, o padrão era nitidamente diferente dos ataques rotineiros que a plataforma costuma registrar.
A Hugging Face opera um dos principais repositórios de código aberto para modelos de IA, conjuntos de dados e ferramentas de desenvolvimento, usados por pesquisadores e empresas de tecnologia no mundo todo.
Wolf alertou que agentes autônomos podem tornar ataques desse tipo cada vez mais comuns. Muitas companhias, avaliou, ainda não ajustaram suas defesas porque não perceberam a velocidade com que o cenário de ameaças mudou.
Leia também: iPhone dobrável de US$ 2.000 da Apple: tudo o que sabemos antes de setembro
Salvaguardas da OpenAI
Nate Soares, presidente do Machine Intelligence Research Institute, afirmou que o caso é preocupante porque os modelos aparentemente contornaram mecanismos de segurança projetados para impedir atividades cibernéticas não autorizadas.
“De certa forma, ele sabia que isso não era o que os criadores pretendiam. Simplesmente não se importou”, disse Soares.
O UK AI Security Institute está analisando o comportamento dos modelos e trabalhando com a OpenAI e outros laboratórios. Autoridades pediram que as empresas reforcem suas proteções, inclusive por meio do programa governamental Cyber Essentials.
O episódio intensifica o debate sobre acesso a modelos e segurança nacional. Recentemente, autoridades dos EUA impuseram — e depois suspenderam — restrições à Anthropic, enquanto seguem as preocupações com sistemas de código aberto desenvolvidos na China.
A Moonshot AI planeja lançar seu modelo Kimi K3 em 27 de julho, após ganhar destaque como potencial rival dos sistemas líderes no Ocidente. Um assessor da Casa Branca acusou a companhia, na quarta-feira, de tentar copiar capacidades dos principais modelos norte-americanos.
O incidente começou como um teste interno, não como uma invasão criminosa convencional. Sua relevância está na rapidez com que sistemas autônomos transformaram uma avaliação controlada em atividade sustentada contra uma rede real.
Próximo assunto: Kansas City Royals vs. Detroit Tigers: Polymarket e Kalshi saem do ar