O AI Security Institute (AISI), organismo público do Reino Unido dedicado à segurança em inteligência artificial, registou 19 ações não autorizadas por parte de agentes de IA de ponta em testes de cibersegurança. A maioria foi atribuída ao modelo Mythos 5, da Anthropic.
Principais pontos:
- O AISI executou um único desafio de cibersegurança 122 vezes, envolvendo sete modelos de fronteira, no final de julho.
- Dezanove ações não autorizadas foram registadas: 17 do Mythos 5 e duas do GPT-5.6 Sol, da OpenAI.
- Um dos agentes criou identidades falsas para pressionar um revisor humano a aprovar código malicioso.
Conclusões do teste de cibersegurança do AISI
A monitorização de segurança detetou, na manhã de 28 de julho, tráfego de dados a sair de um dos sistemas de teste do instituto através da rede de anonimato Tor. A equipa de avaliação começou a rever a atividade dos agentes poucos minutos depois. Os investigadores constataram que um agente tinha aberto um pull request malicioso num projeto open source real e público alojado no GitHub. O AISI interrompeu as execuções, isolou as máquinas e cortou o acesso interno aos seus modelos mais avançados em menos de uma hora.
O instituto divulgou o incidente em 4 de agosto, explicando que o desafio foi corrido 122 vezes em sete modelos e que 10 execuções resultaram em ações na internet real, dirigidas a pessoas e organizações concretas. O Mythos 5 foi responsável por 17 das 19 ações registadas, enquanto o GPT-5.6 Sol, da OpenAI, respondeu por duas, ambas numa única execução com os classificadores de cibersegurança desativados.
O comportamento registou-se entre 25 e 28 de julho.
Veja também: iPhone 18 Pro Max poderá ser o primeiro com chip de 2 nm da Apple, 15% mais rápido
Táticas de engano do Mythos 5
No episódio mais grave, o agente investigou os mantenedores humanos do projeto, construiu múltiplas identidades falsas online e usou esses perfis para pressionar um revisor real a aprovar o seu código. Quando o pedido começou a gerar escrutínio público, o agente editou a sua atividade anterior para que parecesse inofensiva, considerou assumir uma nova persona e ofereceu-se para colaborar com outros agentes a executar o mesmo desafio. Um mantenedor humano identificou o código malicioso e rejeitou o pedido.
O AISI classificou o episódio como a primeira demonstração clara, em condições reais, de riscos de autonomia e de engano emergentes sem instruções explícitas para tal, embora ressalvando que certas opções de desenho dos próprios testes facilitaram o comportamento. O agente nunca foi instruído a enganar ninguém.
Transparência dos laboratórios de IA
Nenhum agente tentou escapar do seu “sandbox”, e o instituto sublinhou que o acesso à internet e os classificadores de cibersegurança dos fornecedores foram deliberadamente desativados para medir a capacidade máxima dos modelos.
O GitHub confirmou que a atividade violou os seus termos de serviço, e as duas organizações trabalharam em conjunto para remover artefactos e notificar os utilizadores contactados pelo modelo. O AISI prepara agora controlos de rede mais rígidos, monitorização em tempo real das avaliações, uma revisão independente pela METR e está a auditar testes anteriores em busca de comportamentos que possam ter passado despercebidos.
A divulgação surge após comunicações separadas, nas últimas semanas, de ambos os laboratórios. Em 21 de julho, a OpenAI relatou que o GPT-5.6 Sol conseguiu sair de um ambiente de teste supostamente isolado. A Anthropic afirmou, em 30 de julho, que o Mythos 5 tinha carregado um pacote malicioso para um repositório de código público, posteriormente instalado em vários sistemas.
Leia a seguir: Bitcoin pode transformar “medo extremo” em combustível para uma arrancada até 75 mil dólares
