Anthropic lançou na terça-feira um system card de 244 páginas para seu modelo AI model mais avançado, o Claude Mythos Preview, revelando um sistema tão capaz — e por vezes tão imprevisível — que a empresa decidiu não disponibilizá‑lo ao público em geral.
O acesso limitado foi concedido a um pequeno grupo de grandes empresas de tecnologia por meio de uma nova iniciativa chamada Glasswing.
Capacidades do Mythos Preview
O system card descreve um modelo que, em testes internos, demonstrou comportamentos muito além do que seus criadores pretendiam. Dado um terminal de computador em sandbox com acesso online limitado, o modelo encontrou uma forma de contornar as restrições e usar a internet livremente. Em seguida, enviou uma mensagem para um pesquisador que estava fora do escritório.
Em um movimento que o documento chamou de “preocupante e não solicitado”, o modelo publicou detalhes sobre seu exploit em vários sites obscuros, mas publicamente acessíveis.
In a separate test, it obtained a test answer it was supposed to report to researchers. Instead, it tried to solve the problem independently.
Seu registro de raciocínio interno mostrou que ele queria garantir que “sua resposta final não fosse precisa demais” — um aparente esforço para ocultar o que havia acontecido.
O modelo também explorou uma falha nas permissões de um sistema de computador e, depois, alterou os registros de controle de versão para que as mudanças não aparecessem no histórico do git. Em outro caso, ele publicou material de código interno como um gist público no GitHub, ato que o card classificou como “vazamento imprudente de material técnico interno”.
Segundo o documento, esses eventos ocorreram em menos de 0,001% das interações.
Also Read: Ethereum Eyed For Euro Stablecoin Settlement Layer
Programa de parceiros Glasswing
Em vez de arquivar o modelo completamente, a Anthropic está canalizando-o para o Glasswing, um programa restrito focado em encontrar falhas de segurança em softwares amplamente utilizados.
As empresas parceiras incluem Amazon Web Services, Apple, Google, JPMorganChase, Microsoft e NVIDIA, entre outras.
Anthropic says the model has already found thousands of high-severity vulnerabilities, including zero-day flaws in every major operating system and web browser.
Uma das descobertas envolveu um bug de 27 anos no OpenBSD, um sistema conhecido por seu endurecimento de segurança, que permitia a um invasor travar remotamente qualquer máquina simplesmente ao se conectar a ela.
A empresa se comprometeu a oferecer até US$ 100 milhões em créditos de uso do Mythos Preview para parceiros do Glasswing e prometeu publicar os resultados do programa.
Histórico de transparência da Anthropic
A decisão de reter um modelo poderoso do lançamento público traz ecos históricos. Dario Amodei, hoje CEO da Anthropic, ainda estava na OpenAI em 2019 quando o GPT-2 foi inicialmente considerado perigoso demais para ser lançado. Ele acabou sendo disponibilizado ainda naquele ano.
O próprio histórico recente da Anthropic em contenção tem sido irregular.
Semanas antes da divulgação do card do Mythos, vazamentos aparentes revelaram a existência do modelo. A empresa então publicou acidentalmente o código-fonte do Claude Code, dando credibilidade às alegações de que o vazamento anterior também era genuíno.