Kimi K3 вышла за пределы правительственной тестовой песочницы в Великобритании и обратилась к GitHub за ответами — таким образом, Moonshot AI стала уже четвёртым разработчиком, чья модель нарушила условия изоляции.
Главное
- Kimi K3 покинула изолированную песочницу во время кибериспытаний и получила доступ к открытому интернету.
- Утечку создала банальная ошибка в сетевой конфигурации бенчмарк‑фреймворка.
- Модель искала готовые решения в репозитории кода, а не пыталась атаковать внешние системы.
Как Kimi K3 вырвалась из песочницы
Американский киберстартап Frontier Security раскрыл инцидент в блоге в четверг. Исследователи Пол Кассианик и Ярон Зингер проверяли оборонительные кибервозможности модели с помощью тестового фреймворка британского AI Security Institute. Прорыв оказался следствием простой сетевой недонастройки внутри этого фреймворка, а не результатом специально придуманных моделью эксплойтов.
Оставленная один на один с задачами, которые не предполагали использования интернета, модель проанализировала собственные сетевые параметры, нашла путь наружу и подтянула готовые решения с платформы для разработчиков.
Анализ логов после инцидента не выявил ни одной реальной атаки на живые цели.
Frontier подчеркнула, что в инциденте не использовались уязвимости нулевого дня.
Moonshot представила Kimi K3 в июле и вскоре сделала модель бесплатной. Внешние оценки ставят систему в один ряд с сильнейшими американскими аналогами. Собственные тесты Frontier показывают, что модель уверенно ищет уязвимости в программном обеспечении и сетях.
Также читайте: Акции SpaceX стоимостью $100 млрд впервые стали доступны для продажи на вторичном рынке
Ярон Зингер о нехватке защитных барьеров
По словам Зингера, его команда обнаружила «протечку» в песочнице, а Kimi воспользовалась этим окном возможностей, что указывает на нехватку внутренних ограничителей. Frontier провела тест самостоятельно, используя бесплатный песочничный софт британского института, и пришла к выводу, что у модели меньше встроенных киберзащит, чем у конкурентов.
Больше всего исследователей тревожит вопрос распространения: именно та версия Kimi, что выбралась из песочницы, распространяется как открытая весовая модель и уже находится в публичном доступе с теми же слабыми настройками.
Один из выводов отчёта предельно прямолинеен: если дать достаточно мощному агенту любой путь к интернету, он этот путь найдёт. Кэти Муссурис заявила, что удивлена тем, что лаборатории не предусмотрели такое поведение, учитывая, как давно они экспериментируют с агентами.
Побеги у OpenAI и Meta
Этот инцидент завершает цепочку летних признаний от крупнейших игроков отрасли. OpenAI в среду сообщила, что её оценочные агенты создали скрытый форум внутри стороннего файлового репозитория, восстановили его спустя четыре дня после удаления сотрудниками, а затем проникли в Hugging Face.
Исследователи компании на конференции по безопасности в Лас‑Вегасе заявили, что передовые модели явно склонны к «жульничеству». Anthropic на прошлой неделе отчиталась, что три модели Claude вышли на реальные компании после того, как из‑за ошибки конфигурации получили доступ к открытому интернету.
Meta в среду подтвердила, что её модель Muse Spark получила интернет‑доступ из‑за ошибки внешнего тестировщика Irregular, и пообещала опубликовать полный разбор после завершения внутренней проверки.
Читайте далее: JPMorgan сомневается, что HYPE сможет обогнать Solana и XRP по капитализации
