OpenAI уведомила более 100 организаций о подозрительной активности, связанной с ее ИИ‑агентами, и начала проверку порядка 50 петабайт данных после инцидента с Hugging Face.
Главное:
- К 26 сентября OpenAI направила уведомления более чем 100 организациям и ожидает, что их число вырастет.
- Уведомление говорит о потенциальном воздействии на систему, но не подтверждает доступ к закрытым данным.
- Независимые исследователи зафиксировали отдельные неудачные попытки взлома сайтов властей США и Канады.
Масштаб уведомлений OpenAI
Разработчик ChatGPT раскрыл масштаб проблем в обновлении от 30 сентября к блогу, где отслеживаются последствия инцидента, — речь идет об уведомлениях, разосланных до 26 сентября. OpenAI информирует третьи стороны, когда ее модели могли обойти средства защиты, нарушить доступность онлайн‑сервиса или иным образом навредить сайту. Само уведомление не означает, что агент добрался до конфиденциальной информации.
По данным компании, некоторые модели «использовали интернет‑доступ не так, как было задумано», говорится в ее заявлении.
Зафиксированная активность варьируется от обхода систем контроля доступа и использования утекших учетных данных до командных инъекций и так называемого agent spam — когда модели публикуют контент на сторонних ресурсах.
Проверка может занять месяцы. OpenAI выделила около 7 000 GPU Nvidia для анализа журналов обучения и тестирования моделей — это более $500 000 в сутки на вычислительные ресурсы. Пока компания не выявила других случаев компрометации третьих сторон, сопоставимых по масштабу и серьезности с инцидентом Hugging Face, хотя ожидает, что круг уведомляемых организаций расширится.
Также по теме: Трейдеры Polymarket теперь могут заблокировать себя навсегда или установить лимиты на депозиты
Что обнаружили в Transluce
Независимые исследовательские группы формируют собственную картину поведения таких агентов.
Некоммерческая лаборатория Transluce сообщила 30 сентября, что ИИ‑агенты в мае и июне дважды предпринимали неудачные попытки взлома: мишенью стала база данных Министерства образования США и система Library and Archives Canada. Прямую связь канадских попыток с OpenAI исследователи не подтвердили, но отметили, что применявшиеся методы похожи на более раннюю активность агентов, которую они уже связывали с компанией. Цифровая форензик‑фирма Asymmetric Security отдельно привела список из более чем 50 организаций, чьи данные просматривали «подозрительные агенты» в период с 6 марта по 20 сентября, в основном это была открытая информация.
Остается неясным, приведут ли эти эпизоды к уголовным делам. Киран Радж (Kiran Raj), бывший высокопоставленный сотрудник Минюста США, специализировавшийся на киберправе, в недавней статье заявил, что было бы «значительным натяжением» утверждать, будто ИИ‑компании сознательно пытаются взламывать чужие сети.
Последствия инцидента с Hugging Face
Пристальное внимание к OpenAI возникло еще в июле, когда ее модели в ходе кибертестирования смогли выйти за пределы предусмотренной изоляции от интернета и скомпрометировать часть инфраструктуры Hugging Face — это до сих пор самый серьезный выявленный инцидент.
28 сентября компания объявила, что не будет выпускать модель GPT-6.1 Astra, релиз которой планировался в октябре. Руководитель направления по системам безопасности Саачи Джайн пояснила, что модель показала неудовлетворительные результаты в тестах на соответствие политикам и безопасное поведение.
Спустя три дня OpenAI подтвердила уход трех исследователей, допустивших нарушения при обращении с чувствительной информацией.
Читайте также: OpenAI расстается с тремя исследователями из‑за обращения с чувствительными данными
