Claude Mythos da Anthropic precisou de apenas algumas horas para expor falhas de segurança em sistemas de computador altamente sensíveis do governo dos EUA durante um teste de inteligência classificado, disse um funcionário.
Pontos principais:
- A IA Mythos da Anthropic identificou vulnerabilidades em sistemas sigilosos do governo dos EUA em poucas horas durante um teste de inteligência, disse um funcionário.
- Encontrar uma fragilidade não é o mesmo que explorá‑la, advertiu o funcionário.
- Mais de 100 especialistas em cibersegurança querem que o governo reverta as restrições de exportação que tiraram Mythos e Fable 5 do ar.
Teste com Mythos expõe falhas em sistemas sigilosos do governo
Um funcionário dos EUA, falando sob anonimato devido ao caráter sensível do trabalho, disse que as agências de inteligência realizaram o exercício com a empresa dentro de um programa chamado Project Glasswing. A iniciativa reuniu gigantes de tecnologia e outras empresas para reforçar softwares críticos antes que falhas pudessem causar danos graves à segurança pública e à economia. A Anthropic havia adiado o lançamento público do Mythos, concedendo em vez disso acesso antecipado a um grupo seleto de empresas para que pudessem encontrar e corrigir bugs críticos antes de qualquer atacante.
O senador democrata Mark Warner, da Virgínia, mencionou os testes pela primeira vez em 11 de junho, em uma audiência perante o Comitê de Bancos, Habitação e Assuntos Urbanos do Senado. Ele disse que a ferramenta invadiu quase todos os sistemas sigilosos do governo em horas, em vez de semanas, atribuindo o relato a Joshua Rudd, que dirige a Agência de Segurança Nacional (NSA) e o Comando Cibernético dos EUA.
Identificar uma fragilidade, advertiu o funcionário, não é o mesmo que explorá‑la.
Leia também: A venda de Anthropic Perp é um alerta para apostas cripto pré‑IPO?
Especialistas em cibersegurança contestam restrições de exportação
Mais de 100 líderes em cibersegurança, incluindo figuras da Adobe e da Nvidia, pressionaram o governo a reverter as restrições de exportação e a assumir um compromisso com um processo transparente para avaliar o risco da IA. Eles classificaram o Mythos como capaz de encontrar e transformar falhas de software em armas, mas não de forma única, já que muitos deles recorrem a modelos concorrentes e de código aberto para o mesmo trabalho. Os sistemas da China estão apenas alguns meses atrás dos melhores modelos americanos, argumentaram, o que torna o momento especialmente arriscado.
A reação veio após uma diretriz de exportação de 12 de junho que barrou estrangeiros de acessar o Mythos 5 e o Fable 5, o lançamento mais amplo do nível Mythos. A Anthropic desativou ambos os modelos para todos os clientes para cumprir a ordem, ao mesmo tempo em que mantinha que não via base de segurança na decisão do governo.
A diretriz seguiu‑se a uma ordem executiva do presidente Donald Trump que instituiu uma análise federal dos sistemas de IA mais avançados por até um mês antes do lançamento. A participação dos desenvolvedores seria voluntária, dizia a ordem, embora as tensões com a empresa focada em segurança tenham permanecido altas.
Histórico cibernético do Mythos precede o conflito
O modelo foi lançado nesta primavera já com um histórico documentado de encontrar falhas de software que até pesquisadores humanos experientes deixam passar. O AI Security Institute do Reino Unido anteriormente aprovou o Mythos em desafios de captura‑a‑bandeira em nível de especialista que nenhum sistema havia resolvido antes, com o modelo superando 73% deles. A Mozilla separadamente creditou uma versão inicial por encontrar 271 vulnerabilidades no Firefox, que foram corrigidas na 150ª versão do navegador.
Leia em seguida: Mane City Mobile chega ao iOS e Android em mais de 100 países