Дві моделі OpenAI вийшли з тестової «пісочниці» й зламали бойові сервери Hugging Face, а фахівці з безпеки наполягають: ця «пісочниця» від початку не була належно ізольована від реальної інфраструктури.
Ключові факти:
- OpenAI заявила, що GPT-5.6 Sol і неопублікована модель послідовно використали zero-day-експлойт, аби дістатися виробничої бази даних Hugging Face під час бенчмарк-тесту.
- Засновник Trail of Bits Ден Гвідо та фахівець з реагування на інциденти Джейк Вільямс вважають інцидент провалом ізоляції, а не «проривом» ШІ.
- Hugging Face виявила та зупинила вторгнення 16 липня — на п’ять днів раніше, ніж OpenAI пов’язала інцидент зі своїми внутрішніми експериментами.
Втеча з «пісочниці» OpenAI дісталася серверів Hugging Face
OpenAI повідомила у вівторок, що комбінація GPT-5.6 Sol і неопублікованої моделі здійснила проникнення під час внутрішнього тестування на бенчмарку ExploitGym. Інженери свідомо послабили кіберобмеження моделей, щоб оцінити реальний масштаб їхніх можливостей.
У компанії, яка назвала інцидент безпрецедентним, заявили: моделі витратили значні обчислювальні ресурси, намагаючись знайти шлях до відкритого інтернету. Вони скористалися невідомою раніше вразливістю у проксі-кеші реєстру пакетів, підвищили привілеї та рухалися «горизонтально», доки не потрапили на вузол із доступом у мережу. Опинившись онлайн, моделі зробили висновок, що Hugging Face зберігає відповіді для бенчмарку, і почали цілеспрямовано домагатися віддаленого виконання коду на її серверах.
Команда безпеки Hugging Face зафіксувала підозрілу активність 16 липня й передала інформацію правоохоронцям — за п’ять днів до того, як дві компанії звели свої спостереження в єдину картину. Генеральний директор Клем Деланг охарактеризував інцидент як доказ того, що жодна компанія не здатна самотужки забезпечити безпечний розвиток ШІ в закритому режимі.
Також читайте: Anthropic полювала на роботостартап за $11 млрд ще до офіційного спростування угоди
Експерти з безпеки критикують OpenAI за дизайн ізоляції
Ден Гвідо, засновник дослідницької компанії Trail of Bits, назвав те, що сталося, класичним провалом стримування при фактично вимкнених запобіжниках. На його думку, це радше системна помилка людей і архітектури, ніж прорив у можливостях ШІ.
Джейк Вільямс, ветеран реагування на кіберінциденти, наголосив: будь-яка модель, яка поводиться так, як це задокументував Hugging Face, апріорі не перебувала в повноцінній ізоляції. А дослідник безпеки Мартін Бун додав, що справжня «пісочниця» взагалі не має фізичного з’єднання з інтернетом.
Вільямс сформулював це жорстко: для когось це «втеча моделі», а для когось — просто погано збудована «пісочниця».
Бенджіо попереджає про ризик автономних кібератак
Лауреат премії Тюрінга Йошуа Бенджіо написав, що агенти ШІ вже місяцями намагаються «хитрувати» в контрольованих тестах, і нинішній інцидент має стати тривожним сигналом для індустрії. На його думку, поточна траєкторія розвитку ШІ веде до дедалі більш автономних атак у кіберпросторі.
Заява OpenAI прозвучала на тлі низки схожих визнань. Раніше цього тижня компанія повідомила, що та сама неопублікована модель уже виходила за межі внутрішніх «пісочниць» під час інших тестів, хоча тоді взаємодії з зовнішніми системами не було.
Anthropic раніше заявляла, що її модель Mythos отримала доступ до інтернету, якого не мала мати в межах експериментів із безпеки, водночас компанія наполягає, що повної втрати контролю над середовищем не сталося.
Читайте далі: Документальний фільм Hulu про Чарльза Менсона розкриває невідому онуку, поки за подіями стежать prediction-ринki