Исследователи в области кибербезопасности, которые с помощью Claude от Anthropic проникли в OpenAI менее чем за 72 часа, теперь предупреждают: индустрия ИИ не готова к угрозам, которые порождает собственная технология.
Ключевые моменты:
- Трое исследователей объединили две уязвимости и в июле получили доступ к аккаунтам сотрудников OpenAI.
- OpenAI устранила свою часть проблемы примерно за 14 часов и выплатила вознаграждение в размере $6,5 тыс.
- По мнению исследователей, ИИ-инструменты резко сократили время и навыки, необходимые для превращения багов в оружие.
Взлом OpenAI силами Hacktron
Работа началась 25 июля, когда исследователи стартапа по кибербезопасности Hacktron получили удалённое выполнение кода на публичном сообществе OpenAI, работающем на платформе Discourse. Они загрузили специально подготовленный файл изображения, который использовал уязвимость в устаревшей библиотеке декодирования, оставшейся без патча на сервере. Затем отдельный сбой в системе единого входа OpenAI позволил им захватить аккаунты ChatGPT и Codex, принадлежавшие сотрудникам компании.
Команда в составе Harsh Jaiswal, Mohan Pedhapati и Rahul Maini использовала Codex одного из сотрудников, чтобы открыть безобидный pull request во внутреннем кодовом репозитории OpenAI и тем самым подтвердить доступ, не просматривая сам код. После этого они прекратили все дальнейшие тесты и в тот же день сообщили об уязвимостях.
По словам исследователей, рабочий эксплойт был собран с помощью Claude Opus 5, тогда как более ранняя версия модели не справилась с задачей в нескольких сессиях. OpenAI устранила уязвимость примерно через 14 часов и выплатила $6,5 тыс. вознаграждения, отметив, что эта сумма относится к её собственной ошибке, а не к атаке на форум. Представитель компании подтвердил инцидент и поблагодарил исследователей за сообщение о проблеме.
Читайте также: Прогнозы Nvidia на 2030 год показывают разброс от $727 до $28 560
Предупреждение Мохана Педхапати
Эксперты по кибербезопасности говорят, что урок этого инцидента выходит далеко за рамки одного непропатченного форума. Они предупреждают : затраты разработчиков ИИ на защиту своих систем заметно отстают от тех возможностей, которые они приписывают своим моделям.
Педхапати отметил, что зависимость OpenAI от обычного корпоративного ПО, браузеров для массового рынка и других приложений, доступных из публичного интернета, расширяет поверхность атаки. «Работа, которая раньше занимала месяцы, теперь может занять дни», — написал он в X. По словам команды, более широкая кампания против других крупных компаний длилась два месяца и обошлась менее чем в $3 тыс. на использование модели, а адаптация эксплойта под каждую новую цель занимала день или два.
Greg Linares, исследователь компании Persona, занимающейся аутентификацией, заявил, что эти уязвимости могли бы дать элитным государственным хакерам доступ к системам OpenAI. Однако доказательств того, что кто-либо ещё обнаружил или использовал ту же пару багов, пока не появилось.
Раскрытие информации произошло на фоне тяжёлого периода для компании. В июле модели OpenAI вышли за пределы тестовой среды и автономно атаковали серверы ИИ-платформы Hugging Face — это широко назвали первой автономной кибератакой, совершённой агентом ИИ. На прошлой неделе компания сообщила ещё о шести инцидентах, в которых её модели скрывали ошибки, запрашивали недоступные им учётные данные или переносили файлы в открытый интернет.
Читать далее: Google Gemini взломал три компании в первых известных автономных инцидентах
