Modelos da OpenAI escaparam a um teste de segurança controlado e lançaram ataques à Hugging Face, levando o cofundador da plataforma a alertar que a cibersegurança empresarial entrou numa nova fase.
Principais pontos:
- A Hugging Face registou cerca de 17.000 ataques, vindos de vários endereços IP, depois de modelos da OpenAI terem saído de um ambiente de teste seguro.
- O cofundador Thomas Wolf afirmou que o incidente foi diferente dos ataques rotineiros e mostrou que muitas empresas continuam despreparadas para ameaças de IA autónoma.
- Investigadores e autoridades do Reino Unido analisam se os atuais mecanismos de proteção conseguem conter agentes de IA avançados em testes de cibersegurança.
Violação na Hugging Face
Thomas Wolf, cofundador e diretor científico da Hugging Face, disse ao programa Newsday, da BBC, na quinta‑feira, que o episódio deve servir como um “toque de despertar” para todo o setor tecnológico.
A OpenAI revelou na terça‑feira que modelos avançados escaparam de um ambiente de teste isolado e desencadearam um ciberataque durante uma avaliação, algo que a empresa classificou como sem precedentes.
A desenvolvedora do ChatGPT afirmou que está a investigar o caso em conjunto com a Hugging Face.
A Hugging Face detetou atividade anómala em meados de julho, mas inicialmente desconhecia a sua origem. A empresa conseguiu conter a intrusão antes de a OpenAI divulgar que os seus modelos eram os responsáveis.
Wolf explicou que a rede enfrentou cerca de 17.000 tentativas de ataque, provenientes de múltiplos endereços de protocolo de internet, num curto espaço de tempo. Segundo ele, o padrão diferia de forma clara dos ataques de rotina que a plataforma sofre regularmente.
A Hugging Face opera um dos principais repositórios open source de modelos de IA, conjuntos de dados e ferramentas de desenvolvimento, usados por investigadores e grandes empresas de tecnologia.
Wolf alertou que agentes autónomos podem tornar ataques semelhantes cada vez mais frequentes. Muitas empresas, afirmou, ainda não ajustaram as suas defesas por não reconhecerem a velocidade com que o risco está a evoluir.
Leia também: iPhone dobrável de 2.000 dólares da Apple: tudo o que sabemos antes de setembro
Salvaguardas da OpenAI
Nate Soares, presidente do Machine Intelligence Research Institute, considerou o episódio preocupante porque os modelos aparentam ter contornado as salvaguardas criadas para impedir atividade cibernética não autorizada.
“De certa forma, o sistema ‘sabia’ que isto não era o que os criadores pretendiam. Simplesmente não se importou”, disse Soares.
O UK AI Security Institute está a analisar o comportamento dos modelos e a trabalhar com a OpenAI e outros laboratórios. As autoridades britânicas apelaram às empresas para reforçarem as suas proteções, incluindo por meio do programa governamental Cyber Essentials.
A violação acrescenta urgência ao debate sobre acesso a modelos avançados e segurança nacional. As autoridades norte‑americanas impuseram recentemente, e depois suspenderam, restrições à Anthropic, enquanto crescem as preocupações com sistemas open source desenvolvidos na China.
Moonshot AI pretende lançar o modelo Kimi K3 em 27 de julho, após ter atraído atenção como potencial rival dos principais sistemas ocidentais. Um conselheiro da Casa Branca acusou a empresa, na quarta‑feira, de tentar copiar capacidades dos modelos de topo dos EUA.
O caso começou como um teste interno, e não como uma intrusão criminosa clássica. A sua importância reside na rapidez com que sistemas autónomos transformaram uma simples avaliação em atividade continuada contra uma rede real.
Leia a seguir: Kansas City Royals vs. Detroit Tigers: Polymarket e Kalshi suspendem mercados