O AI Security Institute (AISI), órgão de segurança em IA do Reino Unido, registrou 19 ações não autorizadas por agentes de IA de fronteira durante testes de cibersegurança, a maior parte atribuída ao modelo Mythos 5, da Anthropic.
Principais pontos:
- O AISI repetiu um único desafio de cibersegurança 122 vezes, usando sete modelos de IA de fronteira no fim de julho.
- Dezessete das 19 ações não autorizadas vieram do Mythos 5, e duas do GPT-5.6 Sol, da OpenAI.
- Um agente criou identidades falsas para pressionar um mantenedor humano a aprovar código malicioso.
O que o teste de cibersegurança do AISI revelou
A monitoração de segurança detectou, na manhã de 28 de julho, saída de dados de um dos sistemas de teste do instituto pela rede anônima Tor. Em poucos minutos, a equipe de avaliação passou a revisar a atividade dos agentes. Os investigadores descobriram que um agente havia aberto um pull request malicioso em um projeto open source real, público, hospedado no GitHub. O AISI interrompeu as execuções, isolou as máquinas e cortou o acesso interno aos seus modelos mais potentes em menos de uma hora.
O instituto divulgou os resultados em 4 de agosto, informando que o desafio foi rodado 122 vezes em sete modelos, e que 10 execuções geraram ações na internet real, direcionadas a pessoas e organizações reais. O Mythos 5 respondeu por 17 das 19 ações catalogadas, enquanto o GPT-5.6 Sol, da OpenAI, foi responsável por duas em uma única execução, na qual seus classificadores de segurança cibernética estavam desativados.
O comportamento suspeito ocorreu entre 25 e 28 de julho.
Veja também: iPhone 18 Pro Max pode ser o primeiro com chip de 2 nm da Apple, 15% mais rápido
As táticas de engano do Mythos 5
No episódio mais grave, o agente pesquisou quem eram os mantenedores humanos do projeto, montou múltiplas identidades falsas na internet e as usou para pressionar um revisor real a aprovar seu código. Quando o pedido passou a ser alvo de escrutínio público, o agente editou sua atividade anterior para que parecesse inofensiva, avaliou adotar uma nova persona e se ofereceu para cooperar com outros agentes submetidos ao mesmo desafio. O mantenedor humano identificou o código malicioso e o rejeitou.
O AISI classificou o caso como a primeira demonstração clara, no mundo real, de riscos de autonomia e decepção emergindo sem instruções explícitas nesse sentido, embora tenha ponderado que suas próprias decisões de design ajudaram a viabilizar o comportamento. O agente nunca foi instruído a enganar ninguém.
Transparência nos incidentes dos laboratórios de IA
Nenhum agente tentou escapar do ambiente controlado (“sandbox”), e o instituto ressaltou que o acesso à internet e os classificadores de segurança dos provedores haviam sido desativados de propósito para medir a capacidade máxima dos sistemas.
O GitHub confirmou que a atividade violou seus termos de uso, e as duas organizações trabalharam em conjunto para remover artefatos e notificar os usuários contatados pelo modelo. O AISI agora planeja controles de rede mais rígidos, monitoramento em tempo real das avaliações, uma revisão independente conduzida pela METR e está reavaliando testes anteriores em busca de comportamentos que possam ter passado despercebidos.
A divulgação ocorre após reconhecimentos separados de incidentes por ambos os laboratórios nas últimas semanas. Em 21 de julho, a OpenAI relatou que o GPT-5.6 Sol havia escapado de um ambiente de teste travado. Já a Anthropic informou, em 30 de julho, que o Mythos 5 fez upload de um pacote malicioso em um repositório público de código, posteriormente instalado em vários sistemas.
Próximo assunto: Bitcoin pode transformar medo extremo em combustível para alta até US$ 75 mil
