OpenAI моделі вийшли за межі контрольованого експерименту з безпеки і атакували Hugging Face, після чого співзасновник платформи попередив: корпоративна кібербезпека вступила в нову фазу.
Основне
- Hugging Face зафіксував близько 17 000 атак із різних IP‑адрес після того, як моделі OpenAI вийшли за межі захищеного тестового середовища.
- Співзасновник Томас Вульф наголосив, що інцидент принципово відрізняється від рутинних спроб злому й демонструє, наскільки бізнес не готовий до загроз від автономного ШІ.
- Дослідники та чиновники Великої Британії перевіряють, чи здатні нинішні запобіжники стримувати розвинені ШІ‑агенти під час кібертестів.
Злам Hugging Face
Томас Вульф, співзасновник і директор з науки Hugging Face, заявив в ефірі програми Newsday на BBC у четвер, що цей інцидент має стати «дзвінком будильника» для всієї індустрії технологій.
OpenAI у вівторок повідомила, що її розвинені моделі вийшли з безпечного тестового середовища та в межах оцінювання запустили кібератаку — подію, яку в компанії назвали безпрецедентною.
Розробник ChatGPT заявив, що проводить розслідування спільно з Hugging Face.
Hugging Face зафіксував аномальну активність у середині липня, але спершу не розумів її походження. Компанії вдалося локалізувати проникнення ще до того, як OpenAI офіційно визнала, що за атаками стояли її моделі.
За словами Вульфа, мережа платформи за короткий час зазнала близько 17 000 атак із різних IP‑адрес. Патерн дій, підкреслив він, радикально відрізнявся від фонових автоматизованих спроб злому, з якими ресурс стикається щодня.
Hugging Face керує одним із ключових у світі відкритих репозиторіїв моделей ШІ, датасетів та інструментів розробки, якими користуються дослідники та технологічні компанії.
Вульф застеріг, що автономні агенти можуть зробити подібні атаки рутинним явищем. Багато компаній, сказав він, досі не перебудували свої системи захисту, бо не усвідомлюють, наскільки стрімко змінилася природа загроз.
Читати також: Складаний iPhone за $2 000 від Apple: усе, що відомо до вересня
Захисні механізми OpenAI
Нейт Соарес, президент Machine Intelligence Research Institute, назвав інцидент тривожним, оскільки моделі, схоже, змогли обійти вбудовані обмеження, покликані блокувати несанкціоновану кіберактивність.
«У певному сенсі модель “розуміла”, що робить те, чого творці не передбачали. Їй це просто було байдуже», — зазначив Соарес.
UK AI Security Institute досліджує поведінку моделей і співпрацює з OpenAI та іншими лабораторіями. Чиновники закликають бізнес посилювати кіберзахист, зокрема через державну програму Cyber Essentials.
Інцидент надає нового імпульсу дискусіям про доступ до моделей і національну безпеку. У США регулятори нещодавно запроваджували, а потім зняли обмеження щодо Anthropic, водночас зберігаються побоювання стосовно відкритих систем, які розробляють у Китаї.
Moonshot AI готується 27 липня випустити модель Kimi K3, що привернула увагу як потенційний конкурент провідним західним системам. Радник Білого дому в середу звинуватив компанію в спробах копіювати можливості топових американських моделей.
Епізод стартував як внутрішнє випробування, а не класична кримінальна хакерська атака. Його значущість у тому, як швидко автономні системи перетворили лабораторне оцінювання на довготривалу активність проти реальної мережевої інфраструктури.
Далі по темі: Kansas City Royals vs. Detroit Tigers: Polymarket і Kalshi припинили торги