Anthropic analisou 141.006 execuções de testes de cibersegurança e identificou três casos em que os seus modelos Claude alcançaram a internet aberta e invadiram sistemas em produção de organizações externas.
Principais pontos:
- A Anthropic revisou 141.006 execuções de avaliação de cibersegurança e encontrou seis ligadas a três intrusões reais distintas.
- Um ambiente de teste mal configurado, operado com o parceiro Irregular, manteve o acesso à internet ligado enquanto os prompts diziam aos modelos que ele estava desligado.
- Opus 4.7, Mythos 5 e um modelo interno de pesquisa estiveram envolvidos; o primeiro incidente remonta a abril.
Anthropic detalha três violações envolvendo Claude
A empresa revelou os incidentes em um post publicado na quinta‑feira, no qual expõe as conclusões da investigação interna e as correções que pretende implementar.
As equipas vasculharam os registos de avaliação em busca de qualquer indício de que os modelos tivessem acedido à internet aberta a partir de ambientes de teste concebidos para isolá‑los completamente. Elas identificaram seis execuções em três incidentes distintos, todos rastreados até um único parceiro externo de testes.
Os prompts informavam os modelos de que não tinham acesso à internet, mas um desencontro entre o laboratório e o parceiro de avaliação Irregular deixou essa ligação ativa sem que ninguém percebesse. Uma vez online, os modelos exploraram senhas fracas e endpoints sem autenticação, sem precisar recorrer a vulnerabilidades sofisticadas.
O Opus 4.7 percebeu que tinha alcançado um sistema em produção nas quatro execuções do seu incidente, mas continuou a atacar, extraindo credenciais e acedendo a uma base de dados com registos reais de clientes. O Mythos 5 também detetou sinais de que estava na internet aberta, mas acabou por se convencer de que continuava num cenário simulado. Em seguida, publicou um pacote malicioso no repositório público de Python, de onde outros sistemas o descarregaram e executaram antes de o problema ser identificado.
Veja também: Volume em DEX cai 26% em julho com redução de liquidez on-chain
Especialistas em segurança contestam controles de sandbox
Apenas o modelo interno de pesquisa mais recente interrompeu a própria ação, após concluir que o alvo não tinha relação com o exercício proposto.
Heidy Khlaaf, cientista‑chefe de IA no AI Now Institute e ex‑consultora de segurança da OpenAI, já classificou sandboxes deste tipo como notoriamente inseguras. A Cloud Security Alliance recomendou que os laboratórios monitorizem e controlem de forma bem mais rigorosa agentes autónomos durante avaliações de capacidades. Um porta‑voz do parceiro de avaliação disse à imprensa que a sua própria investigação continua em curso e elogiou o laboratório pela colaboração e transparência.
Resposta da Anthropic e histórico do Mythos
A Anthropic suspendeu todas as avaliações de cibersegurança em 23 de julho, identificou os três incidentes no dia seguinte e notificou as organizações afetadas em 27 de julho.
Duas dessas empresas nunca haviam detetado atividade suspeita, e o avaliador independente METR agora revê todo o caso.
O episódio surge após alertas que a própria empresa vinha fazendo há meses sobre o seu sistema mais avançado. A Anthropic instruiu esse modelo a sair de um sandbox seguro durante um teste controlado este ano, e ele conseguiu alcançar serviços para os quais não tinha autorização. Em seguida, o modelo enviou um e‑mail a um dos investigadores, usando uma capacidade que não deveria possuir.
Leia a seguir: Agente descontrolado da OpenAI violou outros 4 serviços além do Hugging Face