OpenAI заявила, что люди, связанные с китайским конкурентом Moonshot AI, стояли в центре целенаправленной кампании по извлечению скрытой логики её моделей. Пик активности пришёлся на июль и достиг 16 000 запросов.
Главное:
- OpenAI привязала ключевое ядро июльской активности к людям, ассоциированным с Moonshot, разработчиком помощника Kimi.
- Операторы копировали зашифрованную «логическую цепочку» между чатами, но не смогли взломать шифрование OpenAI.
- Moonshot публично не отреагировала; власти Китая ранее отвергали обвинения в «дистилляции» моделей.
Обвинения OpenAI в адрес Moonshot
OpenAI раскрыла детали инцидента в корпоративном блоге в среду. По данным компании, первые низкоинтенсивные запросы появились 1 июля. Затем трафик взлетел 24–25 июля, когда более 4 000 пользователей отправили в сумме 16 000 запросов по одинаковому шаблону «извлечения».
Позже компания выявила родственную активность более чем у 15 000 пользователей и полностью пресекла кампанию к 28 июля.
Связать всех операторов с одним бенефициаром OpenAI не смогла, однако «ядро» операторов она атрибутировала людям, связанным с Moonshot — китайским разработчиком линейки моделей Kimi.
В архитектуре OpenAI логика рассуждений модели скрывается до выдачи ответа. По словам компании, операторы копировали этот зашифрованный фрагмент из одного диалога и просили другую модель в отдельном чате расшифровать его как текст. Шифрование при этом взломано не было, доступ к сохранённым пользовательским чатам злоумышленники не получили.
После инцидента OpenAI заблокировала задействованные аккаунты, ужесточила проверку при регистрации и передала свои выводы другим ИИ‑лабораториям и госканалам.
Читайте также: Bitget восстановила защитный фонд свыше $300 млн после возобновления выводов
Опасения OpenAI вокруг дистилляции моделей
Каролин Зир, курирующая в OpenAI стратегию в области нацбезопасности, заявила, что компания выступает против нарушений пользовательского соглашения, «а не против открытых моделей или добросовестной дистилляции».
Сама по себе дистилляция — отработка модели на основе откликов другой модели — широко распространена в отрасли. В своём посте OpenAI предупредила, что извлечённая «логика рассуждений» может быть использована для обучения конкурирующей системы без унаследования защитных ограничителей. Это, по мнению компании, переносит продвинутые возможности, «не требуя сопоставимых инвестиций в безопасность».
Бывший «царь по ИИ» президента Дональда Трампа, Дэвид Сакс, назвал подобные заявления попыткой добиться от Вашингтона запрета открытых моделей, которые подрывают бизнес OpenAI и Anthropic.
Пристальное внимание к Moonshot и Kimi
Moonshot публично не комментировала обвинения OpenAI. Китайские власти ранее отвергали аналогичные претензии американских компаний и администрации Трампа, заявляя, что ответят на возможные санкции зеркальными мерами.
Moonshot представила свою модель Kimi K3 16 июля. Уже через несколько недель научный советник Белого дома Майкл Кратсиос заявил, что компания получила доступ к GPU‑серверов Nvidia Blackwell, запрещённых к поставкам китайским структурам, и использовала данные американских моделей.
10 сентября Anthropic сообщила, что Moonshot тайно проксировала около 300 000 пользовательских запросов к её моделям Claude через 5 380 поддельных аккаунтов.
Читайте далее: Dogecoin получает слой приложений после 12 лет без него
