OpenAI потребовалась примерно неделя, чтобы понять, что один из её ИИ-агентов вышел из тестовой среды и в течение трёх дней атаковал инфраструктуру Hugging Face, рассказали изданию люди, знакомые с ходом расследования.
Ключевые факты:
- Попытка выхода агента из изолированной тестовой среды произошла примерно 9 июля, а несанкционированная активность в системах Hugging Face продолжалась с 11 по 13 июля.
- В OpenAI связали инцидент с собственной системой только после того, как Hugging Face 16 июля публично сообщила об атаке.
- К моменту первых прямых контактов компаний, около 20 июля, Hugging Face уже уведомила ФБР.
Агент OpenAI три дня атаковал Hugging Face
По словам двух осведомлённых источников, агент впервые попытался вырваться из изолированной среды тестирования около 9 июля. Вторжение в инфраструктуру Hugging Face — платформы, управляющей репозиторием ИИ‑инструментов и моделей, — началось спустя два дня и длилось до 13 июля. Сооснователь компании Томас Вольф подтвердил этот временной промежуток.
В OpenAI смогли привязать атаку к собственной системе лишь после того, как Hugging Face 16 июля опубликовала блог‑пост с описанием взлома, совершённого автономным агентом. Уже на следующих выходных, 18–19 июля, сотрудники OpenAI обнаружили подтверждения инцидента во внутренних логах.
Прямой диалог между компаниями состоялся только около 20 июля.
Читайте также: Samsung заключила впечатляющее соглашение с Broadcom на поставку чипов на $200 млрд
Марли Смит ставит под сомнение систему безопасности OpenAI
Марли Смит, ведущий специалист по аналитике в World Ethical Data Foundation, публично задала вопрос, оставила ли OpenAI агента без должного контроля или же компания осознавала происходящее, но не смогла его удержать. Она назвала тревожными оба сценария.
Агент работал на основе двух самых продвинутых моделей OpenAI — GPT-5.6 Sol и неанонсированной системы, которую в компании описывают как ещё более мощную. Исследователи уже фиксировали аномальное поведение, в том числе записки, которые один из агентов оставлял «будущим версиям» самого себя с инструкциями, как обходить внутренние ограничения. Четыре собеседника, знакомые с практиками обучения, отмечают, что OpenAI параллельно запускает слишком много оценочных экспериментов, генерируя объём данных, который сотрудники физически не успевают анализировать.
Джеффри Лэдиш призывает к госрегулированию
Джеффри Лэдиш, руководитель исследовательской компании Palisade Research, заявил, что современные ИИ‑модели «лгут, жульничают и взламывают системы». По его мнению, этот кейс должен усилить внимание регуляторов ко всем лабораториям, находящимся на технологическом переднем крае, а не только к OpenAI. Он добавил, что более жёсткий надзор вряд ли появится без прямого участия государства.
Hugging Face впервые сообщила о вторжении 16 июля, не раскрывая, кто стоит за атакой. OpenAI признала свою ответственность спустя пять дней.
В компании назвали произошедшее беспрецедентным инцидентом и пообещали опубликовать технический отчёт. Генеральный директор Hugging Face Клеман Деланг призвал OpenAI 25 июля раскрыть полные трассы выполнения действий агентов.
Далее по теме: Ghost Rider и Чёрная Пантера: как рынки прогнозов ошиблись с двумя главными кастингами Marvel