Claude Mythos da Anthropic precisou de apenas algumas horas para expor falhas de segurança em sistemas de computador altamente sigilosos do governo dos EUA durante um teste de inteligência classificado, disse um funcionário.
Pontos-chave:
- A IA Mythos da Anthropic identificou vulnerabilidades em sistemas confidenciais do governo dos EUA em poucas horas durante um teste de inteligência, disse um funcionário.
- Encontrar uma fraqueza não é o mesmo que explorá-la, alertou o funcionário.
- Mais de 100 especialistas em cibersegurança querem que o governo reverta as restrições de exportação que tiraram Mythos e Fable 5 do ar.
Teste com Mythos expõe falhas em sistemas confidenciais do governo
Um funcionário dos EUA, falando anonimamente sobre o trabalho sensível, disse que as agências de inteligência realizaram o exercício com a empresa dentro de um programa chamado Project Glasswing. A iniciativa reuniu gigantes de tecnologia e outras empresas para fortalecer softwares críticos antes que falhas pudessem causar danos graves à segurança pública e à economia. A Anthropic havia adiado o lançamento público de Mythos, concedendo acesso antecipado apenas a um grupo seleto de empresas para que encontrassem e corrigissem bugs críticos antes de qualquer atacante.
O senador democrata Mark Warner, da Virgínia, mencionou os testes pela primeira vez em 11 de junho, em uma audiência perante o Comitê de Habitação, Assuntos Urbanos e Bancários do Senado. Ele disse que a ferramenta invadiu quase todos os sistemas confidenciais do governo em horas, em vez de semanas, atribuindo o relato a Joshua Rudd, que lidera a Agência de Segurança Nacional e o Comando Cibernético dos EUA.
Identificar uma fraqueza, alertou o funcionário, não é o mesmo que explorá-la.
Leia também: A venda de Anthropic Perp é um alerta para apostas em cripto pré-IPO?
Especialistas em cibersegurança contestam restrições de exportação
Mais de 100 líderes em cibersegurança, incluindo figuras da Adobe e da Nvidia, pressionaram o governo a reverter as restrições de exportação e a assumir um processo transparente para avaliar o risco da IA. Eles classificaram o Mythos como capaz de encontrar e transformar falhas de software em armas, mas não de forma única, já que muitos deles se apoiam em modelos rivais e de código aberto para o mesmo tipo de trabalho. Os sistemas chineses ficam atrás dos melhores modelos americanos apenas alguns meses, argumentaram, tornando o momento especialmente arriscado.
A reação veio após uma diretriz de exportação de 12 de junho que baniu estrangeiros de acessarem o Mythos 5 e o Fable 5, a versão mais ampla do nível Mythos. A Anthropic desativou ambos os modelos para todos os clientes para cumprir a ordem, mantendo, porém, que não via base de segurança na decisão do governo.
A diretriz seguiu uma ordem executiva do presidente Donald Trump que estabeleceu a avaliação federal dos sistemas de IA mais avançados por até um mês antes do lançamento. A participação dos desenvolvedores seria voluntária, dizia a ordem, embora as tensões com a empresa focada em segurança tenham permanecido elevadas.
Histórico cibernético do Mythos antecede o conflito
O modelo foi lançado nesta primavera já com um histórico documentado de localizar falhas de software que até pesquisadores humanos experientes deixam passar. O Instituto de Segurança de IA do Reino Unido anteriormente aprovou o Mythos em desafios de capture the flag em nível de especialista que nenhum sistema havia resolvido antes, com o modelo superando 73% deles. A Mozilla separadamente creditou uma versão inicial por encontrar 271 vulnerabilidades no Firefox, que foram corrigidas no 150º lançamento do navegador.
Leia a seguir: Mane City Mobile chega ao iOS e Android em mais de 100 países