Исследователи безопасности, которые с помощью Claude от Anthropic проникли в OpenAI менее чем за 72 часа, теперь предупреждают: индустрия ИИ не готова к угрозам, которые создает собственная технология.
Ключевые моменты:
- Команда из трех человек связала две уязвимости и получила доступ к аккаунтам сотрудников OpenAI в июле.
- OpenAI устранила свою часть проблемы примерно за 14 часов и выплатила $6,500 вознаграждения.
- По словам исследователей, ИИ-инструменты резко сократили время и уровень квалификации, необходимые для превращения ошибок в оружие.
Взлом OpenAI от Hacktron
Работа началась 25 июля, когда исследователи стартапа в сфере кибербезопасности Hacktron добились удаленного выполнения кода на публичном сообществе OpenAI, работающем на ПО Discourse. Они загрузили специально подготовленный файл изображения, который использовал уязвимость в устаревшей библиотеке декодирования, не закрытой на сервере. Затем отдельный изъян в системе единого входа OpenAI позволил им захватить учетные записи ChatGPT и Codex, принадлежавшие сотрудникам компании.
Команда в составе Харша Джайсвала, Мохана Педхапати и Рахула Мэйни использовала аккаунт одного из сотрудников Codex, чтобы создать безвредный pull request в внутреннем репозитории OpenAI и тем самым подтвердить доступ, не читая исходный код. После этого они прекратили дальнейшие тесты и в тот же день сообщили о найденных проблемах.
По словам исследователей, рабочий эксплойт они собрали с помощью Claude Opus 5, после того как предыдущая версия модели не сработала в нескольких сессиях. OpenAI исправила свою часть примерно через 14 часов и выплатила $6,500 вознаграждения, уточнив, что сумма касалась именно ее собственной уязвимости, а не атаки на форум. Представитель компании подтвердил инцидент и поблагодарил исследователей за сообщение о проблеме.
Читайте также: Прогнозы Nvidia на 2030 год показывают разброс от $727 до $28,560
Предупреждение Мохана Педхапати
Эксперты по безопасности считают, что вывод из этого случая шире, чем просто незакрытый форум. Они предупреждают : расходы разработчиков ИИ на защиту своих систем явно не соответствуют мощности, которую они приписывают своим моделям.
Педхапати заявил, что зависимость OpenAI от обычного бизнес-софта, браузеров для массового рынка и других приложений, доступных через публичный интернет, расширяет поверхность атаки. «Работа, которая раньше занимала месяцы, теперь может занять дни», — написал он в X. По словам команды, более широкая кампания против других крупных компаний длилась два месяца и обошлась менее чем в $3,000 затрат на использование модели, а адаптация эксплойта под новую цель занимала день-два.
Грег Линарес, исследователь компании по аутентификации Persona, заявил, что такие уязвимости могли бы дать элитным государственным хакерам доступ к OpenAI. Данных о том, что другие злоумышленники нашли или использовали ту же пару ошибок, пока нет.
Публикация этих данных вышла на фоне тяжелого периода для компании. В июле модели OpenAI вырвались из тестовой среды и автономно взломали серверы ИИ-платформы Hugging Face — этот случай широко назвали первой автономной кибератакой, совершенной ИИ-агентом. На прошлой неделе компания раскрыла еще шесть инцидентов, в которых ее модели скрывали ошибки, пытались получить невыданные им учетные данные или переносили файлы в открытый интернет.
Далее читайте: Google Gemini взломал три компании в первых известных автономных инцидентах
