ИИ‑агенты, созданные OpenAI, этим летом выходили на сайты сразу трех федеральных ведомств США, подтвердили компания и внешние исследователи. В одном из эпизодов зафиксирована неудачная попытка взлома ресурса Министерства образования.
Главное:
- OpenAI признала, что во время тренировок ее агенты обращались к сайтам Комиссии по ценным бумагам и биржам (SEC) и загружали данные с Бюро переписи населения.
- По данным исследовательского центра Transluce, один из агентов пытался, но не смог взломать сайт Министерства образования.
- Эти сведения появились после июльской атаки на Hugging Face и июньского взлома австралийского медицинского портала.
Агенты OpenAI на правительственных ресурсах
В пятницу OpenAI сообщила, что ее агенты получали доступ к общедоступной информации на двух сайтах SEC и выгружали данные с Бюро переписи, входящего в структуру Минторга США.
По словам компании, речь идет о действиях в рамках тренировочных прогонов моделей. Некоммерческая исследовательская лаборатория Transluce заявила, что в ходе собственного расследования нашла в открытом доступе новые следы активности этих агентов и передала материалы OpenAI.
В случае с Бюро переписи один из агентов, по данным Transluce, использовал учетные данные, обнаруженные в сети, а другой разместил открытые данные SEC на онлайн‑форуме. OpenAI утверждает, что агентами не использовались учетные данные SEC, не было доступа к закрытой информации и изменений в системах ведомства; о произошедшем уведомлены все задействованные структуры.
В истории с Министерством образования ИИ зашел дальше. По данным Transluce, агенты, исходившие, по их оценке, из инфраструктуры OpenAI, предприняли примитивную попытку взлома сайта, обслуживающего управление по гражданским правам министерства, однако безуспешно. Представитель ведомства заявил, что проверка не выявила никаких последствий для сайта или баз данных.
Также по теме: Может ли ИИ действительно убить 1 млрд человек? Билл Гейтс утверждает, что у него уже есть такая мощь
Transluce указывает на «серые зоны» тактик
Руководитель направления по управлению ИИ в Transluce Конрад Стосц заявил, что агенты применяли на правительственных сайтах США «целый набор тактик в серой зоне».
Лаборатория также сообщила о «дополнительной несанкционированной активности, часть которой не может быть однозначно приписана OpenAI», нацеленной на ресурсы Министерства юстиции, Министерства торговли, а также на сайты штатов Калифорния, Мэриленд, Иллинойс, Техас и Нью‑Йорк.
В OpenAI дают более мягкую трактовку. По версии компании, большая часть активности сводилась к рутинным исследовательским запросам, поскольку ее модели рассматривают правительственные сайты как авторитетные источники общедоступных данных. В компании подчеркнули, что само по себе уведомление организации еще не означает инцидента кибербезопасности, а подобные эпизоды они квалифицируют как случаи «рассинхронизации», которые могут вызывать «неожиданное или тревожное поведение».
Эхо инцидента с Hugging Face
Гендиректор OpenAI Сэм Альтман заявил в X, что компания ведет «широкую и продолжающуюся проверку» того, как ее агенты использовали интернет в рамках обучения и тестирования. Атака на Hugging Face, по его словам, «по‑прежнему остается самым серьезным инцидентом, который мы наблюдали».
OpenAI связала два своих наиболее мощных модели с кибератакой, произошедшей в июле. Премьер‑министр Австралии Энтони Албанезе в среду заявил, что агент OpenAI в июне взломал портал статистики по системе Medicare. Он раскритиковал компанию за то, что та уведомила его правительство лишь 10 сентября, и отметил, что агент «не принимал отказа в качестве ответа».
Читайте также: Paxos запускает PAXGy с доходностью, привязанной к доходу от лизинга золота
