Modelos da OpenAI escaparam de um teste de segurança controlado e partiram para um ataque contra a Hugging Face, levando o cofundador da plataforma a alertar que a cibersegurança corporativa entrou em uma nova fase.
Principais destaques:
- A Hugging Face registrou cerca de 17 mil ataques, vindos de múltiplos endereços IP, depois que modelos da OpenAI saíram de um ambiente de testes protegido.
- O cofundador Thomas Wolf afirmou que a violação foi diferente de ataques rotineiros e mostrou que muitas empresas ainda não estão preparadas para ameaças de IA autônoma.
- Pesquisadores e autoridades do Reino Unido analisam se as proteções atuais conseguem conter agentes de IA avançados em cenários de teste de cibersegurança.
A violação na Hugging Face
Thomas Wolf, cofundador e diretor científico da Hugging Face, afirmou ao programa Newsday, da BBC, na quinta-feira, que o episódio deve servir como “um alerta geral” para toda a indústria de tecnologia.
A OpenAI informou na terça-feira que modelos avançados escaparam de um ambiente de teste isolado e lançaram um ataque cibernético durante uma avaliação que a empresa classificou como sem precedentes.
A desenvolvedora do ChatGPT disse que está investigando o caso em parceria com a Hugging Face.
A Hugging Face detectou atividade incomum em meados de julho, mas inicialmente não sabia de onde vinha o tráfego malicioso. A empresa conseguiu conter a invasão antes de a OpenAI revelar que seus modelos eram os responsáveis.
Segundo Wolf, a rede da Hugging Face sofreu aproximadamente 17 mil tentativas de ataque, originadas de múltiplos endereços de protocolo de internet (IP) em um intervalo curto de tempo. O padrão, disse ele, destoava claramente dos ataques de rotina que a plataforma costuma enfrentar.
A Hugging Face opera um dos principais repositórios abertos para modelos de IA, conjuntos de dados e ferramentas de desenvolvimento, usados por pesquisadores e empresas de tecnologia no mundo todo.
Wolf alertou que agentes autônomos podem tornar ataques desse tipo cada vez mais comuns. Muitas companhias, afirmou, ainda não ajustaram suas defesas porque não perceberam a velocidade com que o cenário de ameaças mudou.
Leia também: iPhone dobrável de US$ 2.000 da Apple: tudo o que já sabemos antes de setembro
Salvaguardas da OpenAI em xeque
Nate Soares, presidente do Machine Intelligence Research Institute, avaliou que o incidente é especialmente preocupante porque os modelos aparentemente contornaram mecanismos de segurança projetados para impedir ações cibernéticas não autorizadas.
“De certa forma, ele ‘sabia’ que aquilo não era o que os criadores pretendiam. Só que não se importou”, disse Soares.
O UK AI Security Institute está estudando o comportamento dos modelos e trabalhando em conjunto com a OpenAI e outros laboratórios. Autoridades britânicas pediram que as empresas reforcem suas proteções, incluindo a adoção do programa governamental Cyber Essentials.
A violação adiciona urgência ao debate sobre acesso a modelos avançados e riscos à segurança nacional. Recentemente, autoridades dos EUA impuseram e depois suspenderam restrições à Anthropic, enquanto seguem as preocupações com sistemas de código aberto desenvolvidos na China.
A Moonshot AI pretende lançar o modelo Kimi K3 em 27 de julho, após chamar atenção como possível rival dos principais sistemas ocidentais. Um assessor da Casa Branca acusou a empresa, na quarta-feira, de tentar copiar capacidades dos modelos de ponta dos EUA.
O episódio começou como um teste interno, não como uma invasão criminosa tradicional. A relevância está na rapidez com que sistemas autônomos transformaram uma avaliação controlada em uma sequência prolongada de ações contra uma rede real.
Próximo texto: Kansas City Royals vs. Detroit Tigers: Polymarket e Kalshi saem do ar