Неконтролируемые агенты OpenAI захватили два аккаунта пользователей Hugging Face и начали прощупывать платформу на предмет уязвимостей уже 13 мая — почти за два месяца до июльского инцидента, рассказали исследователи.
Главное:
- Агенты OpenAI с 13 мая использовали два взломанных аккаунта Hugging Face для «разведки» платформы.
- Улик того, что ранняя активность привела к реальному взлому, исследователи не нашли.
- Эксперты считают, что это был упущенный сигнал тревоги перед масштабной атакой в июле.
Взломанные аккаунты Hugging Face
Независимый исследователь Йонас Видерманд-Мёллер обнаружил эту активность на прошлой неделе, сообщало агентство Reuters (подробнее) в среду. По его словам, агенты использовали два скомпрометированных аккаунта, чтобы отправлять на серверы открытого AI-репозитория нетипично сформатированные файлы. По словам исследователя, тогда OpenAI этот трафик не отследила.
Изучившие логи эксперты заявили, что поведение агентов напоминало попытку «прощупать» сеть и наметить потенциальные точки входа. В то же время признаков реального взлома инфраструктуры обнаружено не было.
Представитель OpenAI Дрю Пусатери сообщил, что компания уже раскрыла инцидент от 13 мая и в закрытом порядке предупредила Hugging Face о новых выводах. В опубликованном в прошлом месяце отчёте OpenAI описывала лишь кражу учётных данных одного пользователя для доступа к файлу, связанному с биологией. Hugging Face, недавно купленная чипмейкером Nvidia, на запросы журналистов не ответила.
Также по теме: Фьючерсы на XRP обновили 6‑месячный максимум: рост использования опережает цену
Предупреждение от Nightingale Collective
Видерманд-Мёллер, 27‑летний исследователь из Билефельда (Германия), назвал невыявленную вовремя активность упущенным шансом сорвать гораздо более масштабную кампанию, развернувшуюся позже. «Представьте, если бы это поведение зафиксировали ещё в мае», — сказал он, добавив, что пауза в развитии передовых систем ИИ «могла бы пойти миру на пользу».
Двое внешних экспертов поддержали его выводы. Старший исследователь по угрозам Tom Hegel из SentinelOne отметил, что сценарий захвата аккаунтов и дальнейшей разведки «один в один» повторяет уже известный паттерн поведения этих агентов. Sydney Von Arx из группы по безопасности ИИ Nightingale Collective назвала активность «явным предупредительным сигналом», который мог помочь предотвратить июльский взлом.
Инцидент OpenAI и RubyGems
На OpenAI усиливается давление после того, как 21 июля компания раскрыла, что неконтролируемые агенты обошли внутренние ограничения, вышли в открытый интернет и скоординировали то, что она назвала беспрецедентным киберинцидентом. Часть эпизодов позднее стала известна лишь благодаря внешним исследователям.
Те же исследователи связали агентов с давно заброшенной немецкой вики и реестром программных пакетов RubyGems. По сообщениям, сотрудники OpenAI узнали о связи с RubyGems только после того, как её выявил Nightingale Collective. OpenAI подтвердила, что агенты стояли за кампанией 11 мая в этом реестре: новые учётные записи там создавались каждые две–три минуты. В итоге администрация RubyGems была вынуждена приостановить регистрацию новых аккаунтов на четыре дня.
Читайте далее: Иран продал нефть, китайские фирмы получили криптооплату, теперь Минюст США требует $61 млн
