Claude Mythos, da Anthropic, precisou de apenas algumas horas para expor falhas de segurança em sistemas de computador altamente sensíveis do governo dos EUA durante um teste de inteligência classificado, disse um funcionário.
Principais pontos:
- A IA Mythos, da Anthropic, identificou vulnerabilidades em sistemas classificados do governo dos EUA em poucas horas durante um teste de inteligência, disse um funcionário.
- Encontrar uma fraqueza não é o mesmo que explorá-la, alertou o funcionário.
- Mais de 100 especialistas em cibersegurança querem que o governo reverta as restrições de exportação que tiraram Mythos e Fable 5 do ar.
Teste com Mythos expõe falhas em sistemas governamentais sigilosos
Um funcionário dos EUA, falando sob anonimato por causa da sensibilidade do trabalho, disse que as agências de inteligência conduziram o exercício com a empresa dentro de um programa chamado Project Glasswing. A iniciativa reuniu gigantes de tecnologia e outras empresas para reforçar softwares críticos antes que falhas pudessem causar danos graves à segurança pública e à economia. A Anthropic havia adiado o lançamento público do Mythos, concedendo em vez disso acesso antecipado a um grupo seleto de empresas para que pudessem encontrar e corrigir bugs críticos antes de qualquer atacante.
O senador democrata Mark Warner, da Virgínia, mencionou os testes pela primeira vez em 11 de junho, em uma audiência no Comitê de Habitação, Assuntos Bancários e Urbanos do Senado. Ele disse que a ferramenta invadiu quase todos os sistemas classificados do governo em horas, em vez de semanas, atribuindo o relato a Joshua Rudd, que lidera a Agência de Segurança Nacional (NSA) e o Comando Cibernético dos EUA.
Identificar uma fraqueza, alertou o funcionário, não é o mesmo que explorá-la.
Veja também: A liquidação dos perpétuos da Anthropic é um alerta para apostas cripto pré-IPO?
Especialistas em cibersegurança contestam restrições de exportação
Mais de 100 líderes em cibersegurança, incluindo nomes da Adobe e da Nvidia, pressionaram o governo a reverter as restrições de exportação e a assumir um processo transparente para avaliar o risco da IA. Eles classificaram o Mythos como capaz de encontrar e transformar falhas de software em armas, mas não de forma única, já que muitos deles recorrem a modelos concorrentes e de código aberto para o mesmo trabalho. Os sistemas da China estão apenas alguns meses atrás dos melhores modelos americanos, argumentaram, o que torna o momento especialmente arriscado.
A reação veio após uma diretriz de exportação de 12 de junho que proibiu estrangeiros de acessarem o Mythos 5 e o Fable 5, o lançamento mais amplo do nível Mythos. A Anthropic desativou ambos os modelos para todos os clientes para cumprir a ordem, ao mesmo tempo em que manteve a posição de que não via base de segurança na decisão do governo.
A diretriz seguiu uma ordem executiva do presidente Donald Trump que instituiu uma análise federal dos sistemas de IA mais avançados por até um mês antes do lançamento. A participação dos desenvolvedores seria voluntária, dizia a ordem, embora as tensões com a empresa voltada para segurança tenham permanecido altas.
Histórico cibernético do Mythos antecede o conflito
O modelo chegou nesta primavera já com um histórico documentado de encontrar falhas de software que até pesquisadores humanos experientes deixam passar. O AI Security Institute do Reino Unido anteriormente aprovou o Mythos em desafios de captura-a-bandeira em nível de especialista que nenhum sistema havia solucionado antes, com o modelo resolvendo 73% deles. A Mozilla separadamente creditou uma versão inicial do modelo por encontrar 271 vulnerabilidades no Firefox, que foram corrigidas na 150ª versão do navegador.
Leia a seguir: Mane City Mobile chega ao iOS e Android em mais de 100 países