Pesquisadores militares chineses recorreram a respostas de modelos da OpenAI e da Anthropic para treinar sistemas domésticos de defesa, segundo uma análise de mais de 80 artigos acadêmicos e patentes.
Principais pontos:
- Revisão de mais de 80 estudos e patentes chineses identificou instituições ligadas aos militares convertendo modelos avançados dos EUA em sistemas locais menores.
- Uma unidade de guerra cibernética do EPL alimentou o GPT-3.5 com código-fonte militar sensível e, em seguida, treinou um modelo doméstico com os resumos gerados.
- A Anthropic afirma não vender acesso comercial na China e alerta que cópias destiladas podem perder os mecanismos de segurança originais.
Destilação de modelos em mais de 80 estudos chineses
A revisão de artigos acadêmicos e patentes chineses, conduzida em parte com a Jamestown Foundation, sediada em Washington, revelou o uso disseminado da técnica em instituições ligadas ao Exército de Libertação Popular (ELP). Os analistas identificaram ainda cerca de duas dezenas adicionais de casos com vínculo militar.
Os documentos detalham a destilação de modelos, método que transforma a saída de um sistema poderoso em dados de treino para modelos menores, capazes de rodar em hardware mais modesto.
Um dos artigos, da Unidade 96941 do ELP — responsável por inteligência militar e guerra cibernética em Pequim — descreve o envio de código-fonte militar sensível ao GPT-3.5 da OpenAI e a retenção apenas dos resumos produzidos. A equipe então treinou um modelo doméstico com esse material, de modo que a ferramenta final operasse inteiramente dentro das redes militares chinesas, sem depender de servidores estrangeiros.
A Casa Branca, o Pentágono, o Ministério das Relações Exteriores da China, o ELP e a OpenAI não responderam aos pedidos de comentário.
Leia também: Infraestrutura de IA: a aposta desesperada de US$ 1 bi de uma credora para dominar data centers
Sunny Cheung e o “raciocínio roubado” da IA
Sunny Cheung, pesquisador da Jamestown que analisou mais de 60 dos trabalhos, afirma que cientistas militares chineses estão capturando de forma sistemática as etapas de raciocínio dos sistemas ocidentais.
Ele disse a repórteres que essa linha de pesquisa alimenta soluções de vigilância, operações de guerra cibernética e apoio à tomada de decisão tática. Ensinar a resposta correta a um modelo é uma coisa, afirmou Cheung; transferir o raciocínio por trás dessa resposta para um sistema menor é muito mais complexo.
Pesquisadores da North University of China, instituição ligada à indústria bélica do país, usaram o Claude 3 Haiku, da Anthropic, para gerar dados sintéticos de treino destinados a uma ferramenta de monitorização de redes sociais. A Anthropic diz não oferecer acesso comercial ao Claude dentro da China, afirma operar sistemas de monitorização que sinalizam violações de política interna e alerta que versões destiladas podem perder as salvaguardas embutidas no modelo original.
Limites da destilação e brechas em controles de exportação
Trevor Koverko, cofundador da empresa de dados de IA Sapien, avalia que modelos destilados continuam mais fracos do que os sistemas que copiam. Ele classificou a prática como uma transferência de capacidades selecionadas para um sistema mais barato e sob controle local — não como verdadeira autonomia em relação à fronteira tecnológica em IA.
Em paralelo, governos central e locais na China vêm financiando projetos de redução de tamanho de modelos e computação de borda, canalizando subsídios para software capaz de rodar em drones, satélites e outros dispositivos com recursos limitados.
A pressão em torno da técnica cresce há meses. Em julho, o secretário do Tesouro dos EUA, Scott Bessent, ameaçou impor sanções a empresas chinesas que o departamento considerar envolvidas em destilação. A startup Moonshot negou na semana passada que seu modelo Kimi K3 use essa abordagem, enquanto Pequim acusa Washington de buscar uma hegemonia em IA e aponta para práticas semelhantes em empresas americanas.
Próximo tema: Rumores do iPhone dobrável ganham detalhes: US$ 2.500, sem Face ID e sem teleobjetiva