Китайские военные исследовательские структуры используют ответы моделей OpenAI и Anthropic для обучения отечественных оборонных ИИ‑систем. К такому выводу пришёл анализ более чем 80 академических статей и патентов.
Ключевые выводы
- Анализ более 80 китайских научных работ и патентов показал: связанные с военными институты дистиллируют передовые американские ИИ‑модели в более компактные локальные системы.
- Одно из киберподразделений НОАК передавало GPT‑3.5 чувствительный военный исходный код, а затем обучило отечественную модель на сформированных ею резюме.
- В Anthropic заявили, что не продают коммерческий доступ к своим моделям в Китае, и предупредили: в дистиллированных копиях часто утрачиваются встроенные ограничения и механизмы безопасности.
Дистилляция моделей в более чем 80 китайских работах
Обзор китайских научных публикаций и патентов, подготовленный в том числе при участии вашингтонского аналитического центра Jamestown Foundation, выявил широкое распространение этой практики в институтах, связанных с Народно‑освободительной армией Китая. Аналитики дополнительно выделили ещё около двух десятков кейсов с участием военных структур.
В документах подробно описывается дистилляция моделей — метод, при котором выводы мощной ИИ‑системы превращаются в обучающую выборку для более компактных моделей, способных работать на относительно скромном «железе».
В одной из работ подразделения 96941 НОАК — структуры военной разведки и кибервойны в Пекине — исследователи описали, как они загружали в GPT‑3.5 от OpenAI секретный военный исходный код, сохраняли подготовленные моделью сводки, а затем обучили на этом материале отечественную систему. В результате финальный инструмент может работать полностью внутри закрытых сетей китайских военных, без обращения к зарубежным серверам.
Белый дом, Пентагон, МИД КНР, НОАК и OpenAI на запросы о комментариях не ответили.
Также по теме: Инфраструктура ИИ: как микрофинансовый кредитор отчаянно пытается вложить $1 млрд, чтобы занять нишу в дата‑центрах
Солне Чан о «краже» логики работы ИИ
По словам исследователя Солне Чана (Sunny Cheung), сотрудника Jamestown Foundation, который проанализировал более 60 из рассмотренных работ, китайские военные учёные системно «снимают» логические цепочки западных ИИ‑систем.
Как он рассказал журналистам, результаты такой работы используются в системах слежки, кибероперациях и тактической поддержке принятия решений на поле боя. По словам Чана, научить модель просто выдавать правильный ответ — одно, а перенести в меньшую по размеру систему саму логику рассуждений, приводящую к этому ответу, значительно сложнее.
Исследователи Северного университета Китая, связанного с оборонно‑промышленным комплексом страны, задействовали Claude 3 Haiku от Anthropic для генерации синтетических обучающих данных для системы мониторинга социальных сетей. В Anthropic заявили, что не предоставляют коммерческий доступ к Claude в Китае, используют системы мониторинга для выявления нарушений политики компании и предупредили: в процессе дистилляции копии могут утратить защитные механизмы, встроенные в исходную модель.
Ограничения дистилляции и пробелы экспортного контроля
Сооснователь компании Sapien, занимающейся данными для ИИ, Тревор Коверко (Trevor Koverko) подчеркнул, что дистиллированные модели по‑прежнему уступают по мощности исходным системам. Он назвал происходящее «точечной передачей отдельных возможностей» в более дешёвые, локально контролируемые решения, а не созданием полной технологической независимости от передового западного ИИ.
Параллельно центральные и региональные власти КНР активно финансируют «облегчение» моделей и edge‑вычисления, направляя субсидии на разработку софта, способного работать на дронах, спутниках и прочих устройствах с ограниченными ресурсами.
Давление вокруг этой практики нарастает уже несколько месяцев. Министр финансов США Скотт Бессент (Scott Bessent) в июле пригрозил санкциями китайским компаниям, которые его ведомство сочтёт виновными в дистилляции западных ИИ‑моделей. Стартап Moonshot на прошлой неделе заявил, что его модель Kimi K3 не опирается на такие методы, тогда как Пекин обвиняет Вашингтон в «ИИ‑гегемонизме» и указывает на аналогичные практики в самих американских технологических компаниях.
Читайте далее: Слухи о складном iPhone уточняются: $2 500, без Face ID и без телеобъектива