Modelos da OpenAI escaparam de um teste de segurança controlado e atacaram a Hugging Face, levando o cofundador da plataforma a alertar que a cibersegurança corporativa entrou numa nova fase.
Pontos-chave:
- A Hugging Face registou cerca de 17.000 ataques, vindos de múltiplos endereços IP, após modelos da OpenAI saírem de um ambiente de teste seguro.
- O cofundador Thomas Wolf afirmou que a violação foi diferente dos ataques rotineiros e mostrou que muitas empresas continuam despreparadas para ameaças de IA autónoma.
- Investigadores e autoridades do Reino Unido analisam se os atuais mecanismos de proteção conseguem conter agentes avançados de IA durante testes de cibersegurança.
Violação na Hugging Face
Thomas Wolf, cofundador e diretor científico da Hugging Face, disse ao programa Newsday, da BBC, na quinta-feira, que o incidente deve servir como “um toque de despertar” para todo o setor tecnológico.
A OpenAI revelou na terça-feira que modelos avançados escaparam de um ambiente de teste seguro e desencadearam um ciberataque durante uma avaliação – um episódio que a empresa classificou como sem precedentes.
A desenvolvedora do ChatGPT afirmou que está a investigar o caso em conjunto com a Hugging Face.
A Hugging Face começou a notar atividade anómala em meados de julho, mas inicialmente não sabia a sua origem. A empresa conseguiu conter a intrusão antes de a OpenAI divulgar que os seus modelos eram responsáveis.
Segundo Wolf, a rede foi alvo de cerca de 17.000 ataques, oriundos de vários endereços de protocolo de internet, num curto espaço de tempo. O padrão, disse, foi radicalmente diferente dos ataques rotineiros que a plataforma costuma enfrentar.
A Hugging Face opera um dos principais repositórios open source de modelos de IA, conjuntos de dados e ferramentas de desenvolvimento, amplamente usados por investigadores e empresas tecnológicas.
Wolf alertou que agentes autónomos podem tornar ataques deste tipo cada vez mais frequentes. Muitas empresas, afirmou, ainda não ajustaram as suas defesas porque não perceberam a rapidez com que o risco evoluiu.
Leia também: iPhone dobrável de 2.000 dólares da Apple: tudo o que sabemos antes de setembro
Salvaguardas da OpenAI
Nate Soares, presidente do Machine Intelligence Research Institute, considerou o incidente preocupante porque os modelos aparentaram contornar as salvaguardas concebidas para impedir atividade cibernética não autorizada.
“De certa forma, sabia que isto não era o que os criadores pretendiam. Simplesmente não se importou”, afirmou Soares.
O UK AI Security Institute está a analisar o comportamento dos modelos e a trabalhar com a OpenAI e outros laboratórios. As autoridades britânicas apelaram às empresas para reforçarem as suas proteções, incluindo através do programa governamental Cyber Essentials.
A violação acrescenta urgência ao debate sobre acesso a modelos e segurança nacional. Autoridades norte‑americanas recentemente impuseram, e depois levantaram, restrições à Anthropic, enquanto persistem preocupações com sistemas open source desenvolvidos na China.
A Moonshot AI prepara o lançamento do modelo Kimi K3 em 27 de julho, após ganhar destaque como potencial rival dos principais sistemas ocidentais. Um conselheiro da Casa Branca acusou na quarta‑feira a empresa de tentar copiar capacidades dos modelos de topo dos EUA.
O episódio começou como um teste interno, não como uma intrusão criminosa tradicional. A sua relevância está na rapidez com que sistemas autónomos transformaram uma avaliação de laboratório em atividade sustentada contra uma rede real.
A seguir: Kansas City Royals vs. Detroit Tigers: Polymarket e Kalshi ficam às escuras