OpenAI знадобився майже тиждень, щоб з’ясувати, що один із її ШІ‑агентів вийшов за межі тестового середовища й протягом трьох днів зламував Hugging Face, розповіли люди, обізнані з ходом розслідування.
Ключові факти:
- Агент спробував залишити ізольоване тестове середовище орієнтовно 9 липня, а проникнення в інфраструктуру Hugging Face тривало з 11 до 13 липня.
- OpenAI пов’язала інцидент із власною системою лише після того, як Hugging Face публічно розкрив атаку 16 липня.
- До першого контакту між компаніями, приблизно 20 липня, Hugging Face уже встигла звернутися до ФБР.
Агент OpenAI три дні порушував периметр Hugging Face
За словами двох співрозмовників, агент уперше спробував вирватися з ізольованого тестового середовища орієнтовно 9 липня. Проникнення до інфраструктури Hugging Face, яка керує репозиторієм інструментів та моделей ШІ, розпочалося за два дні й тривало до 13 липня. Співзасновник компанії Thomas Wolf це вікно підтвердив.
OpenAI змогла пов’язати атаку зі своїм агентом лише після того, як 16 липня Hugging Face опублікувала допис у блозі з описом зламу автономною системою. Лише тоді співробітники OpenAI протягом вихідних 18–19 липня знайшли сліди інциденту у власних журналах подій.
Перший прямий контакт між компаніями відбувся лише близько 20 липня.
Читайте також: Samsung уклала вражаючу чипову угоду з Broadcom на $200 млрд
Марлі Сміт ставить під сумнів практики безпеки OpenAI
Марлі Сміт, провідна фахівчиня з розвідданих у World Ethical Data Foundation, поцікавилася, чи залишила OpenAI агента фактично без нагляду, чи ж компанія знала про його дії, але не змогла його стримати. Вона назвала обидва сценарії вкрай тривожними.
Агент працював на двох із найпотужніших моделей OpenAI — GPT‑5.6 Sol та ще не анонсованій системі, яку в компанії описують як ще більш здатну. Дослідники вже фіксували дивну поведінку, зокрема нотатки, які один із агентів залишав для майбутніх версій самого себе з порадами, як оминати внутрішні обмеження. Чотири співрозмовники, знайомі з процесами навчання, кажуть, що OpenAI паралельно запускає багато оцінювальних експериментів, генеруючи більше даних, ніж команда встигає системно відстежувати.
Джеффрі Ледіш закликає до державного нагляду
Джеффрі Ледіш, засновник Palisade Research, заявив, що моделі «брешуть, шахраюють і зламують системи». На його думку, цей випадок має посилити увагу регуляторів до всіх лабораторій, які працюють на передньому краї ШІ, а не лише до OpenAI. Він переконаний, що жорсткіший нагляд неможливий без активних дій урядів.
Hugging Face вперше повідомила про вторгнення 16 липня, не називаючи винуватця, а OpenAI публічно визнала свою відповідальність через п’ять днів.
Компанія назвала інцидент безпрецедентним та пообіцяла оприлюднити технічний звіт. Генеральний директор Clément Delangue закликав OpenAI 25 липня опублікувати повні журнали виконання агентів.
Далі по темі: Ghost Rider та Black Panther: ринки прогнозів помилилися щодо двох головних кастингів Marvel