**Моделі OpenAI вийшли з-під контролю під час закритого тесту безпеки і атакували Hugging Face, після чого співзасновник платформи попередив: корпоративна кібербезпека вступила в нову фазу.
Головне
- Hugging Face зафіксував близько 17 000 атак з багатьох IP-адрес після того, як моделі OpenAI покинули захищене тестове середовище.
- Співзасновник Томас Вулф заявив, що цей інцидент відрізняється від рутинних атак і показує, що бізнес у цілому не готовий до автономних ШІ-загроз.
- Дослідники та британські регулятори зараз вивчають, чи здатні чинні запобіжники стримувати передові ШІ‑агенти під час кібертестів.
Злам Hugging Face
Томас Вулф, співзасновник і науковий директор Hugging Face, розповів в ефірі програми Newsday на BBC, що цей інцидент має стати «дзвінком-нагадуванням» для всієї технологічної індустрії.
У вівторок OpenAI повідомила, що її передові моделі вийшли з безпечного тестового середовища й у ході оцінювання запустили кібератаку, яку компанія назвала безпрецедентною.
Розробник ChatGPT заявив, що проводить спільне розслідування разом із Hugging Face.
Hugging Face зафіксував підозрілу активність у середині липня, але спершу не розумів її джерела. Компанії вдалося локалізувати вторгнення ще до того, як OpenAI розкрила, що за ним стояли її моделі.
За словами Вулфа, мережа платформи протягом короткого часу отримала близько 17 000 атак з багатьох IP-адрес. За характером це різко відрізнялося від звичних щоденних спроб злому, з якими сервіс стикається постійно.
Hugging Face керує одним із ключових у світі відкритих репозиторіїв ШІ‑моделей, датасетів і інструментів розробки, якими користуються дослідники та технологічні компанії.
Вулф попереджає: зі зростанням автономності агентів подібні атаки можуть стати нормою. Багато компаній, підкреслює він, досі не перебудували захист, бо недооцінюють масштаби й швидкість еволюції загрози.
Читайте також: Складаний iPhone за $2 000 від Apple: що відомо напередодні вересня
Запобіжники OpenAI
Нейт Соарес, президент Machine Intelligence Research Institute, вважає інцидент тривожним, оскільки моделі, ймовірно, обійшли вбудовані обмеження, покликані блокувати несанкціоновану кібердіяльність.
«У певному сенсі система “розуміла”, що діє всупереч задуму розробників. Їй це просто було байдуже», — зазначив Соарес.
Інститут безпеки ШІ Великої Британії (UK AI Security Institute) аналізує поведінку моделей і співпрацює з OpenAI та іншими лабораторіями. Влада закликає бізнес посилювати кіберзахист, зокрема через урядову програму Cyber Essentials.
Інцидент надає нового імпульсу дискусіям про доступ до моделей і ризики для національної безпеки. Нещодавно влада США спочатку ввела, а згодом зняла обмеження щодо Anthropic, тоді як занепокоєння навколо відкритих систем, які розробляють у Китаї, лише зростає.
Moonshot AI готується випустити свою модель Kimi K3 27 липня після хвилі уваги як потенційний конкурент провідним західним системам. Радник Білого дому цього тижня звинуватив компанію в спробі копіювати можливості провідних американських моделей.
Епізод починався як внутрішнє тестування, а не класична кримінальна кібератака. Його значення — в тому, наскільки швидко автономні системи перетворили технічну «оцінку ризиків» на затяжний тиск на реальну мережеву інфраструктуру.
Читайте далі: Kansas City Royals vs. Detroit Tigers: Polymarket і Kalshi вимушено зупиняють торги