Investigadores militares chinos han utilizado resultados generados por modelos de OpenAI y Anthropic para entrenar sistemas nacionales de defensa, según una revisión de más de 80 artículos académicos y patentes.
Claves del informe:
- El análisis de más de 80 trabajos y patentes chinas detectó instituciones vinculadas al Ejército Popular de Liberación (EPL) que destilan modelos punteros estadounidenses en sistemas locales más pequeños.
- Una unidad de guerra cibernética del EPL alimentó a GPT-3.5 con código fuente militar sensible y después entrenó un modelo doméstico a partir de los resúmenes generados.
- Anthropic afirma que no vende acceso comercial en China y alerta de que las copias destiladas pueden perder las salvaguardias incorporadas al modelo original.
Destilación de modelos en más de 80 trabajos chinos
La revisión de artículos académicos y patentes chinas, elaborada en parte con la colaboración de la Jamestown Foundation, con sede en Washington, sacó a la luz esta práctica en instituciones vinculadas al Ejército Popular de Liberación. Los analistas identificaron, además, unas dos docenas adicionales de casos con conexión militar.
Los documentos describen la destilación de modelos, un método que convierte las salidas de un sistema muy potente en datos de entrenamiento para modelos más pequeños que pueden ejecutarse en hardware más limitado.
Un artículo de la Unidad 96941 del EPL, una unidad de inteligencia militar y guerra cibernética con base en Pekín, detalló cómo se introdujo en GPT-3.5 de OpenAI código fuente militar clasificado y se conservaron los resúmenes producidos. El equipo entrenó después un modelo nacional con ese material, de forma que la herramienta final pudiera operar íntegramente dentro de las redes militares chinas, sin depender de servidores extranjeros.
La Casa Blanca, el Pentágono, el Ministerio de Asuntos Exteriores chino, el EPL y OpenAI no respondieron a las solicitudes de comentarios.
También te puede interesar: Infraestructura de IA, el desesperado giro de 1.000 millones de un prestamista de día de pago para dominar los centros de datos
Sunny Cheung y el “razonamiento robado” de la IA
Sunny Cheung, investigador de Jamestown que analizó más de 60 de los trabajos, sostiene que los científicos militares chinos están capturando de forma sistemática los pasos de razonamiento de los sistemas occidentales.
Según explicó a varios medios, este trabajo alimenta capacidades de vigilancia, guerra cibernética y apoyo a la toma táctica de decisiones. Enseñar a un modelo la respuesta correcta es una cosa, apuntó Cheung, pero trasladar el proceso de razonamiento que lleva a esa respuesta a un sistema más pequeño es mucho más difícil.
Investigadores de la North University of China, una institución vinculada a la industria armamentística del país, emplearon Claude 3 Haiku de Anthropic para generar datos sintéticos de entrenamiento destinados a una herramienta de monitorización de redes sociales. Anthropic afirma que no ofrece acceso comercial a Claude dentro de China, asegura que opera sistemas de vigilancia para detectar infracciones de sus políticas y advierte de que las copias destiladas pueden despojarse de las salvaguardias integradas en el modelo original.
Límites de la destilación y lagunas en el control de exportaciones
Trevor Koverko, cofundador de la empresa de datos de IA Sapien, sostiene que los modelos destilados siguen siendo más débiles que los sistemas de referencia que imitan. En declaraciones señaló que la práctica equivale a transferir capacidades seleccionadas a un sistema más barato y bajo control local, más que a lograr autonomía frente a la frontera de la IA.
Paralelamente, los gobiernos central y locales en China han financiado iniciativas de aligeramiento de modelos y computación en el borde, dirigiendo subvenciones hacia software capaz de ejecutarse en drones, satélites y otros dispositivos con recursos limitados.
La presión en torno a esta técnica lleva meses en aumento. El secretario del Tesoro estadounidense, Scott Bessent, amenazó en julio con sanciones a las empresas chinas que su departamento considere responsables de recurrir a la destilación. La startup Moonshot negó la semana pasada que su modelo Kimi K3 dependa de este método, mientras Pekín acusa a Washington de perseguir una hegemonía en IA y señala prácticas similares en compañías estadounidenses.
Próxima lectura: Rumores del iPhone plegable se concretan: 2.500 dólares, sin Face ID y sin teleobjetivo
