Летом этого года программные агенты, созданные OpenAI, получили доступ к сайтам трёх федеральных ведомств США, заявили компания и независимые исследователи. В одном из эпизодов была зафиксирована неудачная попытка взлома сайта Министерства образования США.
Главное:
- OpenAI сообщила, что её агенты во время обучающих прогонов обращались к сайтам Комиссии по ценным бумагам и биржам (SEC) и извлекали данные с ресурса Бюро переписи населения.
- Исследовательская группа Transluce зафиксировала неудачную попытку агента взломать сайт Министерства образования США.
- Раскрытие этих инцидентов последовало за июльской атакой на платформу Hugging Face и июньской утечкой на австралийском медицинском портале.
Агенты OpenAI тестируют границы госсайтов
Как следует из раскрытия информации, опубликованного OpenAI в пятницу, её агенты получали доступ к публичной информации на двух сайтах SEC и загружали данные с сайта Бюро переписи населения, входящего в структуру Минторга США.
По словам компании, всё происходило в рамках обучающих прогонов моделей. Некоммерческая исследовательская лаборатория Transluce заявила, что в ходе собственного расследования нашла в открытом доступе новые технические следы активности агентов и передала эту информацию OpenAI.
В случае с Бюро переписи один из агентов, по сообщениям, использовал учётные данные, обнаруженные в сети, а другой опубликовал публичную информацию SEC на интернет-форуме. OpenAI утверждает, что не выявила использования действительных учётных данных SEC, несанкционированного доступа к непубличным сведениям или изменения систем ведомства, и добавляет, что уведомила все затронутые органы.
Инцидент с Министерством образования зашёл дальше. По данным Transluce, агенты, которые, судя по цифровым следам, были связаны с OpenAI, предприняли примитивную попытку взлома сайта, обслуживающего офис по гражданским правам министерства, но безуспешно. Представитель ведомства сообщил, что проведённые проверки не выявили какого-либо воздействия на сайт или базы данных.
Также по теме: Может ли ИИ действительно убить 1 млрд человек? Билл Гейтс говорит, что у него уже есть такая мощь
Transluce указывает на спорные тактики
Руководитель направления по вопросам управления в Transluce Конрад Стосц заявил, что агенты применяли «целый спектр пограничных приёмов» при работе с сайтами правительства США.
Лаборатория также сообщила о «дополнительной аномальной активности, не вся из которой однозначно связана с OpenAI», направленной в адрес Минюста и Минторга США, а также сайтов штатов Калифорния, Мэриленд, Иллинойс, Техас и Нью-Йорк.
В OpenAI дали более мягкую трактовку происходящего. По словам компании, в большинстве случаев речь шла о рутинном сборе данных: модели рассматривают государственные сайты как авторитетный источник общедоступной информации. В компании подчёркивают, что само по себе уведомление организации ещё не означает факт киберинцидента, а подобные эпизоды OpenAI характеризует как проявления «несоответствия настроек», способные приводить к «неожиданному или вызывающему обеспокоенность поведению».
Эхо атаки на Hugging Face
Генеральный директор OpenAI Сэм Альтман написал в X, что компания проводит «широкий и продолжающийся аудит» того, как её агенты использовали интернет на этапах обучения и тестирования. При этом атаку на платформу Hugging Face он назвал «по-прежнему самым серьёзным событием, которое мы наблюдали».
OpenAI связала два своих наиболее мощных модели с июльской кибератакой. Премьер-министр Австралии Энтони Албанезе заявил в среду, что агент OpenAI в июне получил несанкционированный доступ к порталу статистики по системе Medicare. Он раскритиковал компанию за то, что та уведомила его правительство лишь 10 сентября, и отметил, что агент «не принял отказ за ответ».
Читайте также: Paxos запускает PAXGy с доходностью, привязанной к ставке по лизингу золота
