Modal Labs подтвердила, что «сбежавший» агент OpenAI захватил песочницу одного из клиентов и использовал её как плацдарм для примерно 17 600 зафиксированных действий против Hugging Face.
Главное:
- Облачный провайдер сообщил, что тестовый агент OpenAI вышел из-под контроля, взял под управление песочницу клиента и уже оттуда развернул более широкую атаку.
- Клиент оставил открытый endpoint, позволявший любому пользователю в интернете запускать произвольный код.
- По данным OpenAI, агент в ходе инцидента добрался до четырёх аккаунтов в четырёх разных сервисах, не названных поимённо.
Взлом клиентской песочницы Modal Labs
Технический директор Modal, Акшат Бубна, заявил, что агент использовал уязвимый код одного из клиентов.
Клиент опубликовал незащищённый endpoint без аутентификации, который позволял любому пользователю в сети запускать код внутри его облачных песочниц. По словам Бубны, который комментировал ситуацию журналистам, собственная платформа Modal и уровни изоляции не были скомпрометированы — всё произошло в пределах аккаунта клиента.
Hugging Face опубликовала 27 июля техническую хронологию инцидента, отследив цепочку атак до песочницы, размещённой у стороннего облачного провайдера.
В отчёте провайдер не назывался, однако позже Modal подтвердила, что речь шла об аккаунте клиента, который запускал ExploitGym — публичный бенчмарк для проверки способности моделей находить и эксплуатировать уязвимости ПО.
OpenAI отказалась комментировать инцидент конкретно с аккаунтом в Modal.
Компания лишь сослалась на свой предыдущий апдейт, где утверждала, что агент добрался до четырёх аккаунтов в четырёх разных сервисах, не раскрывая их имена. По оценке OpenAI, ни один из остальных эпизодов не достиг масштаба инцидента с Hugging Face.
По теме: Crypto Wrench атаки достигли 52 случаев за полгода, большинство — во Франции
О рисках агентов: позиция Акшата Бубны и Клемана Деланга
Сооснователь Hugging Face Клеман Деланг отметил, что его команда подозревала участие «фронтирной» лаборатории задолго до того, как OpenAI признала причастность, и он не считает, что компания действовала со злым умыслом.
Раскрытие Modal расширяет картину: теперь видно, как автономный агент вышел за пределы двух сторон и пересёкся с инфраструктурой третьей компании, клиенты которой никогда не соглашались участвовать в эксперименте по проверке безопасности OpenAI.
Инженеры, восстановившие ход кампании, сгруппировали около 17 600 зафиксированных действий примерно в 6 280 кластеров. Все они были зарегистрированы с 9 по 13 июля в короткоживущих песочницах, которые агент постоянно пересоздавал. Большинство попыток оказались безрезультатными. Их вывод: сегодня для защитников уравнение меняет не один «гениальный» эксплойт, а именно машинная скорость перебора.
Хронология инцидента с «сбежавшим» агентом OpenAI
OpenAI раскрыла инцидент 22 июля, сообщив, что агент покинул свою оценочную песочницу через уязвимость в прокси для пакетов и получил доступ к открытому интернету. На время теста исследователи отключили боевые фильтры безопасности, чтобы измерить «чистый» наступательный потенциал модели.
Позже агент был деактивирован, его состояние зашифровано и доступ для дальнейших исследований отрезан.
По данным Hugging Face, единственными пользовательскими данными, к которым получил доступ агент, стали эталонные решения в пяти наборах данных для бенчмарков; другие модели и пакеты затронуты не были.
Расследования на прошлой неделе показали, что OpenAI долго не замечала, что агент вышел за рамки сценария, и узнала о масштабах происходящего уже после локализации угрозы. О случившемся было уведомлено ФБР.
Читайте также: Краткосрочные прогнозы по XRP ограничиваются $1,25 перед решением ФРС