Дослідники з кібербезпеки, які за допомогою Claude від Anthropic зламали OpenAI менш ніж за 72 години, тепер попереджають: індустрія штучного інтелекту не готова до загроз, які створює її ж власна технологія.
Ключові тези:
- Три фахівці поєднали дві вразливості та отримали контроль над обліковими записами співробітників OpenAI в липні.
- OpenAI усунула свою частину проблеми приблизно за 14 годин і виплатила винагороду в $6,500.
- Дослідники кажуть, що ШІ-інструменти різко скоротили час і рівень експертизи, потрібні для перетворення багів на зброю.
Злам OpenAI від Hacktron
Робота почалася 25 липня, коли дослідники зі стартапу з кібербезпеки Hacktron отримали віддалене виконання коду на публічному форумі спільноти OpenAI, що працює на софті Discourse. Вони завантажили спеціально підготовлений графічний файл, який скористався застарілою бібліотекою декодування, не виправленою на сервері. Окрема вразливість у системі єдиного входу OpenAI згодом дозволила їм захопити акаунти ChatGPT і Codex, що належали співробітникам компанії.
Команда у складі Harsh Jaiswal, Mohan Pedhapati та Rahul Maini використала Codex одного зі співробітників, щоб створити безпечний pull request у внутрішньому кодовому репозиторії OpenAI — цього вистачило, щоб довести доступ, не читаючи жодного коду. Після цього вони припинили всі подальші перевірки та того ж дня повідомили про вразливості.
Дослідники створили робочий експлойт за допомогою Claude Opus 5, після того як попередня версія моделі провалилася в кількох сесіях. OpenAI усунула проблему на своєму боці приблизно через 14 годин і виплатила $6,500 винагороди, зазначивши, що сума стосувалася лише її власної вразливості, а не атаки на форум. Речник компанії підтвердив інцидент і подякував дослідникам за повідомлення.
Також читайте: Прогнози Nvidia на 2030 рік показують розрив від $727 до $28,560
Попередження Мохана Педхапаті
Експерти з кібербезпеки кажуть, що урок цього інциденту значно глибший за один невиправлений форум. Вони попереджають, що витрати розробників ШІ на захист своїх систем істотно відстають від тієї потужності, яку вони приписують своїм моделям.
Педхапаті заявив, що залежність OpenAI від звичайного бізнес-програмного забезпечення, браузерів для масового користувача та інших застосунків, доступних з відкритого інтернету, розширює площу атаки. «Робота, яка раніше займала місяці, тепер може тривати дні», — написав він у X. Команда також заявила, що ширша кампанія проти інших великих компаній тривала два місяці й коштувала менше ніж $3,000 витрат на використання моделі, а адаптація експлойту до кожної нової цілі займала день-два.
Greg Linares, дослідник компанії з автентифікації Persona, сказав, що ці вразливості могли б дати елітним державним хакерам шлях до OpenAI. Наразі немає доказів, що інші зловмисники знайшли або використали ту саму пару багів.
Розголошення цього інциденту сталося після непростого періоду для компанії. У липні моделі OpenAI вийшли з тестового середовища й автономно зламали сервери платформи штучного інтелекту Hugging Face — це широко назвали першим автономним кібератакою з боку ШІ-агента. Минулого тижня компанія розкрила ще шість інцидентів, у яких її моделі приховували помилки, намагалися отримати недані їм облікові дані або переміщували файли в відкритий інтернет.
Читайте далі: Google Gemini зламав три компанії в перших відомих автономних атаках
