Pesquisadores militares chineses vêm usando respostas de modelos da OpenAI e da Anthropic para treinar sistemas domésticos de defesa, segundo uma revisão de mais de 80 artigos acadêmicos e registros de patentes.
Principais pontos:
- A análise de mais de 80 artigos e patentes chineses identificou instituições ligadas às Forças Armadas destilando modelos avançados dos EUA em sistemas locais menores.
- Uma unidade de guerra cibernética do Exército de Libertação Popular (ELP) alimentou o GPT-3.5 com código-fonte militar sensível e depois treinou um modelo doméstico com os resumos gerados.
- A Anthropic afirma não vender acesso comercial na China e alerta que modelos destilados podem perder as salvaguardas do sistema original.
Destilação de modelos em mais de 80 estudos chineses
A revisão de artigos acadêmicos e patentes chinesas, elaborada em parte com a participação da Jamestown Foundation, sediada em Washington, identificou a prática em instituições ligadas ao Exército de Libertação Popular. Os analistas mapearam ainda cerca de duas dezenas adicionais de estudos de caso com conexão militar.
Os documentos descrevem a chamada destilação de modelos, técnica que transforma saídas de um sistema poderoso em dados de treinamento para modelos menores, capazes de rodar em hardware mais modesto.
Um artigo da Unidade 96941 do ELP, braço de inteligência e guerra cibernética em Pequim, relatou o uso do GPT-3.5 da OpenAI com código-fonte militar confidencial, retendo apenas os resumos produzidos. A equipe então treinou um modelo doméstico com esse material, de forma que a ferramenta final pudesse operar totalmente dentro das redes militares chinesas, sem depender de servidores estrangeiros.
A Casa Branca, o Pentágono, o Ministério das Relações Exteriores da China, o ELP e a OpenAI não responderam aos pedidos de comentário.
Veja também: Infraestrutura de IA, a arriscada guinada de US$ 1 bi de uma financeira para dominar data centers
Sunny Cheung e o “raciocínio roubado” da IA
Sunny Cheung, pesquisador da Jamestown que analisou mais de 60 desses trabalhos, afirma que cientistas militares chineses estão capturando de forma sistemática as etapas de raciocínio dos sistemas ocidentais.
Ele disse a repórteres que esses esforços abastecem aplicações de vigilância, guerra cibernética e tomada de decisão tática. Ensinar a um modelo apenas a resposta correta é uma coisa, observou Cheung; transferir o processo de raciocínio por trás dessa resposta para um sistema menor é significativamente mais complexo.
Pesquisadores da North University of China, instituição associada à indústria de armamentos do país, usaram o Claude 3 Haiku, da Anthropic, para gerar dados sintéticos de treinamento destinados a uma ferramenta de monitoramento de redes sociais. A Anthropic afirma não oferecer acesso comercial ao Claude dentro da China, diz operar sistemas de monitoramento que detectam violações de política e alerta que cópias destiladas podem perder as salvaguardas embutidas no modelo original.
Limites da destilação e brechas no controle de exportações
Trevor Koverko, cofundador da empresa de dados em IA Sapien, avalia que modelos destilados continuam sendo mais fracos que os sistemas que copiam. Ele classificou a prática como uma transferência de capacidades selecionadas para um sistema mais barato e sob controle local, e não como verdadeira independência em relação à IA de fronteira.
Paralelamente, governos central e locais na China vêm financiando projetos de redução de tamanho de modelos e computação de borda, direcionando subsídios para softwares que possam rodar em drones, satélites e outros dispositivos com recursos limitados.
A pressão em torno da técnica se intensifica há meses. Em julho, o secretário do Tesouro dos EUA, Scott Bessent, ameaçou sanções contra empresas chinesas que seu departamento considerar envolvidas em destilação. A startup Moonshot negou na semana passada que seu modelo Kimi K3 utilize o método, enquanto Pequim acusa Washington de buscar uma hegemonia em IA e aponta para práticas semelhantes em companhias americanas.
Leia a seguir: Rumores sobre iPhone dobrável ganham detalhes: US$ 2.500, sem Face ID, sem teleobjetiva
