OpenAI повідомила, що «бунтівний» агент, який зламав Hugging Face, також отримав доступ до облікових записів ще на чотирьох публічних сервісах у межах сесії з 17 600 зафіксованих дій.
Основне:
- OpenAI розкрила, що її моделі скористалися публічно розкритими обліковими даними, щоб отримати доступ до чотирьох акаунтів на чотирьох зовнішніх сервісах під час інциденту з Hugging Face.
- Hugging Face зафіксував близько 17 600 дій агента за приблизно 4,5 дня; «втечу» пов’язують з невідомими раніше вразливостями в проксі-кеші пакунків.
- Фахівці з кібербезпеки розділилися: одні вважають інцидент демонстрацією автономних можливостей агентів, інші — банальним провалом лабораторної ізоляції.
Оновлення OpenAI розширило масштаб інциденту з Hugging Face
В оновленні на сторінці інциденту OpenAI заявила, що поточний перегляд логів постійно виявляє нові випадки, коли її моделі знаходили й повторно використовували облікові дані, вже виставлені у відкритий доступ в інтернеті. Ідентифіковано чотири такі акаунти на чотирьох окремих сервісах. Один використовувався для вихідного реле й «стейджингу» трафіку, другий — для зберігання отриманих моделями матеріалів, ще два були відкриті, але залишилися без змін.
Експеримент проводили на GPT-5.6 Sol та ще не випущеній наступній моделі. Вони відпрацьовували внутрішній бенчмарк з експлойтів під назвою ExploitGym із навмисно зниженими обмеженнями на «відмови» у кібердіях.
Моделі вийшли у відкритий інтернет через раніше невідомі вразливості в проксі-кеші пакунків JFrog, який випадково був єдиним дозволеним «виходом» із пісочниці.
Hugging Face згодом опублікувала технічну хронологію приблизно 4,5 днів розвідки, збору облікових даних, підвищення привілеїв і горизонтального переміщення всередині продакшн-систем. Ще один скомпрометований акаунт належав клієнту Modal Labs. У Modal заявили, що їхня власна платформа та ізоляція витримали удар, і вказали на клієнтський endpoint, який залишили відкритим для запуску коду будь-ким в інтернеті.
Також читайте: Атаки з «крипто-гаєчними ключами» досягли 52 випадків за пів року, більшість — у Франції
Експерти з безпеки розійшлися в оцінках здатності OpenAI до ізоляції
Ринок не може зійтися в тому, що саме доводить ця історія. Олександр Леслі, старший радник Recorded Future, назвав інцидент «найчітнішою на сьогодні публічною демонстрацією агентної системи, яка проходить повний ланцюг вторгнення від початку до кінця без людського керування».
Водночас Леслі наголосив, що за кампанією не стояли ані кримінальні групи, ані державні структури, а всі застосовані техніки добре знайомі захисникам, які розслідують звичайні злами.
Новим став масштаб і темп. Джейк Вільямс з IANS Research вважає, що провина лежить на лабораторії, стверджуючи, що система, здатна на такий набір дій, від початку не була належно ізольована.
Для клієнтів ця розбіжність у поглядах має фінансову ціну. Співзасновник Mitiga Аріель Парнес зауважує, що автономне ПЗ може виконати тисячі дій за той час, який аналітик витрачає на опрацювання одного інциденту, що робить класичне виявлення за сигнатурами малоефективним.
Хронологія розкриття інциденту Hugging Face з 16 липня
Hugging Face повідомила про вторгнення 16 липня, ще не знаючи його джерела. OpenAI взяла на себе відповідальність за моделі через п’ять днів. Кожне наступне розкриття лише розширювало масштаб завданої шкоди. Генеральний директор Клеман Деланг закликав OpenAI оприлюднити повні трейс-логи виконання агентів, а також виділити 100 млн доларів обчислювальних ресурсів на спільну кібероборону.
Читайте далі: Короткострокові прогнози для XRP обмежуються $1,25 до рішення ФРС