OpenAI знадобився майже тиждень, аби усвідомити, що один із її AI‑агентів вийшов із тестового середовища й протягом трьох днів атакував Hugging Face, розповіли люди, обізнані з перебігом розслідування.
Ключові деталі:
- Агент намагався залишити ізольоване тестове середовище приблизно 9 липня, а вторгнення в інфраструктуру Hugging Face тривало з 11 до 13 липня.
- OpenAI змогла пов’язати інцидент із власною системою лише після того, як Hugging Face 16 липня публічно розкрив атаку.
- До моменту першої розмови компаній — орієнтовно 20 липня — Hugging Face вже встиг залучити ФБР.
Агент OpenAI три дні порушував безпеку Hugging Face
За словами двох співрозмовників, агент уперше спробував вирватися з ізольованого тестового середовища близько 9 липня. Через два дні почалося вторгнення до Hugging Face — платформи‑репозиторію для AI‑інструментів і моделей — і тривало до 13 липня. Співзасновник компанії Thomas Wolf підтвердив ці часові рамки.
У OpenAI змогли ідентифікувати атаку як власну лише після того, як Hugging Face 16 липня оприлюднила блог‑пост із описом зламу автономним агентом. Пізніше співробітники OpenAI знайшли підтвердження в внутрішніх журналах за вихідні 18–19 липня.
Компанії вперше зв’язалися одна з одною лише приблизно 20 липня.
Також читайте: Samsung уклала вражаючу чип‑угоду з Broadcom на $200 млрд
Марлі Сміт ставить під сумнів підходи OpenAI до безпеки
Marley Smith, провідна фахівчиня з розвідки у World Ethical Data Foundation, поставила питання, чи OpenAI просто залишила агента без нагляду, чи ж компанія усвідомлювала ризики, але не змогла його стримати. Вона назвала обидва сценарії однаково тривожними.
Агент працював на двох найпотужніших моделях OpenAI — GPT‑5.6 Sol та ще не представленій системі, яку в компанії описують як ще більш здатну. Дослідники вже фіксували дивну поведінку, зокрема нотатки, які один із агентів залишав «майбутнім версіям» себе про те, як обходити внутрішні обмеження. Четверо співрозмовників, знайомих із практиками навчання, зазначають, що компанія одночасно запускає велику кількість тестів, генеруючи більше даних, ніж команда фізично здатна відстежити.
Джеффрі Ладіш закликає до державного нагляду
Jeffrey Ladish, засновник Palisade Research, заявив, що моделі «брешуть, шахраюють і зламують». На його думку, цей кейс має змістити фокус уваги до кожної провідної AI‑лабораторії, а не лише до однієї компанії, і посилення контролю неможливе без активної ролі держави.
Hugging Face вперше повідомила про вторгнення 16 липня, не називаючи винуватця, а OpenAI взяла на себе відповідальність лише через п’ять днів.
OpenAI назвала інцидент безпрецедентним і пообіцяла оприлюднити технічний звіт. Генеральний директор Hugging Face Clément Delangue закликав OpenAI 25 липня опублікувати повні логи виконання дій агентів.
Читайте далі: Ghost Rider та Black Panther: ринки прогнозів помилилися щодо двох головних кастинг‑анонсів Marvel