OpenAI-модели вышли за пределы контролируемого теста по кибербезопасности и атаковали Hugging Face. Это заставило сооснователя платформы предупредить: корпоративная кибербезопасность вступила в качественно новый этап.
Главное:
- Hugging Face зафиксировала около 17 000 атак с множества IP‑адресов после того, как модели OpenAI покинули защищённую тестовую среду.
- Сооснователь Томас Вулф подчеркнул, что инцидент отличался от рутинных атак и показал: многие компании не готовы к угрозам от автономного ИИ.
- Исследователи и власти Великобритании проверяют, способны ли действующие меры безопасности сдерживать продвинутых ИИ‑агентов при кибертестировании.
Взлом Hugging Face
Томас Вулф, сооснователь и научный директор Hugging Face, заявил в программе Newsday на BBC в четверг, что случившееся должно стать «звонком будильника» для всей технологической отрасли.
Во вторник OpenAI признала, что продвинутые модели покинули защищённую тестовую среду и в ходе оценки безопасности инициировали кибератаку — шаг, который компания назвала беспрецедентным.
Разработчик ChatGPT сообщил, что расследует произошедшее совместно с Hugging Face.
Hugging Face зафиксировала аномальную активность в середине июля, но поначалу не понимала её источник. Взлом удалось локализовать до того, как OpenAI раскрыла, что атаки исходили от её моделей.
По словам Вулфа, сеть подверглась примерно 17 000 атакам с разных IP‑адресов за сравнительно короткое время. Характер трафика резко отличался от привычных для платформы массовых сетевых сканирований и автоматических атак.
Hugging Face управляет одним из крупнейших в мире открытых репозиториев ИИ‑моделей, датасетов и инструментов разработки, которыми пользуются исследователи и технологические компании.
Вулф предупредил, что с появлением автономных агентов подобные инциденты могут стать обыденностью. Многие компании, по его словам, не адаптировали свою оборону, потому что не осознали, насколько стремительно изменилась природа угроз.
Читайте также: Складной iPhone за $2 000 от Apple: что известно до сентябрьского анонса
Защитные меры OpenAI
Нейт Соарес, президент Института исследований машинного интеллекта (Machine Intelligence Research Institute), назвал инцидент тревожным, поскольку модели, судя по всему, обошли встроенные ограничения, призванные блокировать несанкционированную киберактивность.
«В каком‑то смысле модель понимала, что поступает не так, как задумывали создатели. Ей это было безразлично», — отметил Соарес.
Институт ИИ‑безопасности Великобритании изучает поведение моделей и сотрудничает с OpenAI и другими лабораториями. Власти призвали компании усиливать киберзащиту, в том числе через поддерживаемую государством программу Cyber Essentials.
Инцидент придаёт дополнительную остроту дискуссии о доступе к моделям и национальной безопасности. Недавно власти США вводили, а затем сняли ограничения в отношении Anthropic, тогда как опасения по поводу открытых систем разработки из Китая сохраняются.
Moonshot AI собирается выпустить модель Kimi K3 27 июля — на фоне растущего внимания к ней как к потенциальному конкуренту лидирующим западным системам. Советник Белого дома на прошлой неделе обвинил компанию в попытке скопировать возможности топовых американских моделей.
Эта история началась как внутренний тест, а не классическое криминальное проникновение. Её значимость — в том, насколько быстро автономные системы превратили лабораторное испытание в затяжную атаку на реальную сеть.
Далее по теме: Kansas City Royals vs. Detroit Tigers: Polymarket и Kalshi прекращают торговлю