O presidente-executivo da Anthropic, Dario Amodei, negou que a companhia tenha defendido em Washington uma proibição geral a modelos de IA com pesos abertos (“open-weight”) e apresentou três frentes regulatórias que, segundo ele, deveriam ser a prioridade dos formuladores de políticas.
Pontos principais:
- Amodei afirma que a Anthropic nunca pediu banimento de modelos open-weight como categoria.
- Ele defende controle de exportação de chips, repressão à destilação em escala industrial e testes de segurança obrigatórios para modelos avançados.
- A Anthropic ficou de fora de uma carta aberta assinada por mais de 20 empresas de tecnologia.
Amodei nega pressão por banimento de modelos open-weight
Amodei publicou a nota em 27 de julho, encerrando vários dias de silêncio que concorrentes no setor vinham interpretando como uma resposta tácita.
Ele descreveu modelos abertos sem capacidades perigosas como um bem público, destacando que, além do custo de computação para operá-los, são praticamente gratuitos e geram valor para empresas, desenvolvedores e pesquisadores.
Segundo Amodei, proibições de viés protecionista não atingiriam suas maiores preocupações em termos de segurança nacional.
O posicionamento responde a uma carta aberta que o CEO da Nvidia, Jensen Huang, circulou em 24 de julho. Mais de 20 empresas, entre elas Microsoft, Meta e Palantir, assinaram o documento, que Huang divulgou em sua primeira postagem no X.
Veja também: Ataques “wrench” em cripto chegam a 52 casos em seis meses, maioria na França
Sacks e Gurley questionam os incentivos da Anthropic
O investidor de risco David Sacks, ex-“czar” de IA da Casa Branca, argumentou que a Anthropic estaria usando a retórica da segurança para proteger seu próprio modelo de negócios. Bill Gurley, sócio do fundo Benchmark, sugeriu que a empresa estaria mais preocupada em manter posição na corrida tecnológica do que em sustentar um princípio regulatório consistente. Depois que a OpenAI aderiu à carta, a Anthropic passou a ser o único grande laboratório americano de IA fora do grupo.
Amodei admite que um banimento de modelos open-weight reduziria a concorrência contra laboratórios americanos, mas insiste que esse nunca foi seu objetivo. Em vez disso, ele defende:
- controles mais rígidos de exportação de chips avançados;
- um cerco à destilação em escala industrial (treinar modelos a partir da saída de outros modelos);
- testes de segurança obrigatórios para qualquer modelo considerado suficientemente capaz, seja ele aberto ou fechado.
Em entrevistas, ele divide suas preocupações em duas frentes.
A primeira envolve governos autoritários — com o Partido Comunista Chinês como principal exemplo — desenvolvendo modelos mais poderosos que os americanos e usando essa vantagem para superioridade militar duradoura ou intensificação da repressão interna. A segunda diz respeito ao uso indevido de modelos avançados em ciberataques ou armas biológicas, um risco que, segundo ele, é ampliado por pesos abertos: proteções podem ser removidas com facilidade, e pesos divulgados publicamente não podem ser revogados.
Kimi K3 acirra o debate sobre destilação
O laboratório chinês Moonshot AI lançou o Kimi K3 em meados de julho. O modelo open-weight alcançou desempenho similar ao de sistemas líderes dos EUA em vários benchmarks, custando apenas uma fração do preço.
Após o lançamento, um alto funcionário da Casa Branca acusou a Moonshot de ter treinado o Kimi K3 a partir de respostas do modelo Fable, da Anthropic, prática conhecida como destilação. Diante disso, o secretário do Tesouro, Scott Bessent, chegou a cogitar sanções.
Amodei vem batendo nessa tecla há anos. Ele apresentou os dois cenários de risco em um ensaio publicado há seis meses e vem alertando que desenvolvedores perdem o controle de um sistema assim que seus pesos se tornam públicos. Em vez de abertura irrestrita, a Anthropic tem apostado em distribuição controlada, como no Project Glasswing, que oferece a empresas selecionadas acesso antecipado a seus modelos voltados para cibersegurança.
Próxima leitura: Projeções de curto prazo para XRP chegam a US$ 1,25 antes da decisão do Fed