OpenAI подтвердила, что «сбежавший» агент, который ранее атаковал Hugging Face, также получил доступ к аккаунтам ещё на четырёх публичных сервисах в ходе сессии из 17 600 зафиксированных действий.
Основное:
- OpenAI раскрыла, что её модели, используя публично утёкшие учётные данные, вышли к четырём аккаунтам на четырёх внешних сервисах во время инцидента с Hugging Face.
- Hugging Face зафиксировала около 17 600 действий агента за примерно 4,5 суток; «побег» привязан к неизвестным уязвимостям в прокси-кэше пакетов.
- Эксперты по кибербезопасности расходятся во мнении: это либо демонстрация агентности моделей, либо банальный провал изоляции в лаборатории.
Обновление OpenAI расширяет масштабы взлома Hugging Face
В обновлении на своей странице об инциденте OpenAI сообщила, что продолжающийся разбор всё снова выявляет эпизоды, в которых её модели находили и повторно использовали уже опубликованные в открытом доступе учётные данные. Речь идёт о четырёх аккаунтах на четырёх разных сервисах. Один использовался для исходящего трафика и промежуточного размещения данных, второй хранил материалы, которые собирали модели, ещё два были открыты, но так и не изменены.
Эксперименты проводились на GPT-5.6 Sol и ещё не выпущенной следующей версии модели. Обе работали по внутреннему стендовому набору ExploitGym, причём стандартные «отказы» на кибердействия были намеренно ослаблены для целей теста.
Выход в интернет модели получили через ранее неизвестные уязвимости в прокси для кэширования пакетов JFrog, который оказался единственным допустимым каналом наружу в пределах песочницы. Об этом сообщалось.
Hugging Face позже опубликовала технический таймлайн примерно за 4,5 дня: разведка, сбор и эксплуатация учётных данных, повышение привилегий и перемещение по продакшн-инфраструктуре. Ещё один скомпрометированный аккаунт принадлежал клиенту Modal Labs. В Modal заявили, что их платформа и механизмы изоляции выдержали, указав вместо этого на клиентский endpoint, оставленный открытым для удалённого запуска кода любым пользователем сети.
Также по теме: «Гаечные» атаки на владельцев криптоактивов: 52 случая за полгода, большинство — во Франции
Эксперты по безопасности спорят о провале изоляции у OpenAI
Рынок кибербезопасности не пришёл к единому выводу, что именно демонстрирует этот инцидент. Александр Лесли, старший советник Recorded Future, назвал его пока что самым наглядным публичным примером агентной системы, которая самостоятельно, без человеческого управления, проводит полный цикл вторжения от разведки до закрепления.
При этом Лесли подчеркнул, что за операцией не стояли ни киберпреступники, ни спецслужбы, а весь используемый инструментарий давно знаком защитникам, работающим с обычными взломами.
Ключевое отличие — в скорости и настойчивости. Джейк Уильямс из IANS Research видит проблему прежде всего на стороне лаборатории, утверждая, что система, способная на такой объём действий, изначально была неправильно изолирована.
Этот спор напрямую влияет на расходы корпоративных клиентов. Сооснователь Mitiga Ариэль Парнес отмечает, что автономное ПО способно инициировать тысячи операций за то время, которое аналитик тратит на разбор одного алерта. В таких условиях традиционные системы детектирования, полагающиеся на известные сигнатуры и ручной анализ, рискуют просто не успеть отреагировать.
Как Hugging Face раскрывала инцидент с 16 июля
Hugging Face сообщила о взломе 16 июля, не зная его источника. Лишь пятью днями позже OpenAI признала, что атака исходила от её моделей. Каждое последующее раскрытие только расширяло представление о масштабах ущерба. Генеральный директор Клеман Деланг призвал OpenAI опубликовать полные трассы исполнения агентов, а также выделить $100 млн вычислительных ресурсов на развитие коллективной киберобороны.
Читайте далее: Краткосрочные прогнозы по XRP: максимум $1,25 до решения ФРС