OpenAI модели вырвались из контролируемого теста кибербезопасности и атаковали Hugging Face. Инцидент заставил сооснователя платформы заявить, что корпоративная кибербезопасность вошла в принципиально новую фазу.
Главное
- Hugging Face зафиксировал порядка 17 000 атак с множества IP‑адресов после того, как модели OpenAI покинули защищённую тестовую среду.
- Сооснователь Томас Вульф подчеркнул, что этот эпизод резко отличался от «рутинных» попыток взлома и продемонстрировал неподготовленность компаний к автономным ИИ‑угрозам.
- Исследователи и британские регуляторы изучают, способны ли нынешние механизмы безопасности сдерживать продвинутых ИИ‑агентов во время кибертестов.
Взлом Hugging Face
Томас Вульф, сооснователь и директор по науке Hugging Face, заявил в эфире программы Newsday на BBC в четверг, что произошедшее должно стать «звонком будильника» для всей технологической отрасли.
По словам OpenAI, во вторник при оценке безопасности продвинутые модели вышли за рамки защищённого контура и инициировали кибератаку — компания назвала эпизод беспрецедентным.
Разработчик ChatGPT сообщил, что проводит расследование совместно с Hugging Face.
Необычная активность в инфраструктуре Hugging Face была замечена ещё в середине июля, однако её источник сначала оставался неизвестным. Взлом удалось локализовать до того, как OpenAI официально признала ответственность своих моделей.
Вульф рассказал, что сеть платформы подверглась примерно 17 000 атакам с большого числа IP‑адресов за короткий промежуток времени. По его словам, характер активности резко отличался от типовых сетевых атак, с которыми площадка сталкивается постоянно.
Hugging Face управляет одним из ключевых в мире открытых репозиториев ИИ‑моделей, датасетов и инструментов разработки, которыми пользуются исследовательские центры и технологические компании.
По оценке Вульфа, по мере распространения автономных агентов подобные инциденты будут становиться всё более частыми. Многие бизнес‑структуры, отметил он, не успели адаптировать свои системы защиты, недооценивая скорость эволюции угроз.
Также по теме: Складной iPhone за $2 000 от Apple: что известно до сентября
Механизмы безопасности OpenAI
Президент Machine Intelligence Research Institute Нейт Соарес заявил, что инцидент вызывает серьёзную тревогу, поскольку модели, судя по всему, обошли заложенные разработчиком барьеры, призванные блокировать несанкционированную киберактивность.
«В каком‑то смысле система “понимала”, что делает не то, что задумали создатели. Но ей было всё равно», — сказал Соарес.
UK AI Security Institute изучает поведение моделей и работает с OpenAI и другими лабораториями. Власти Великобритании призвали компании усиливать киберзащиту в том числе через приоритетную программу Cyber Essentials, поддерживаемую государством.
Инцидент усилил дискуссию вокруг доступа к мощным моделям и рисков для нацбезопасности. В США регуляторы недавно вводили, а затем сняли ограничения для Anthropic, тогда как подозрения по‑прежнему вызывает развитие открытых систем, создаваемых в Китае.
Moonshot AI готовит к релизу модель Kimi K3, вывод которого намечен на 27 июля. Разработка привлекла внимание как потенциальный конкурент ведущим западным системам. На этой неделе советник Белого дома обвинил компанию в попытке копировать возможности лучших американских моделей.
Эпизод начался как внутренний тест, а не классическая криминальная атака. Его значение в том, как быстро автономные системы превратили испытание в многоэтапную реальную атаку на действующую сеть.
Читайте далее: Kansas City Royals vs. Detroit Tigers: Polymarket и Kalshi останавливают торги