Агент OpenAI получил несанкционированный доступ к непубличным файлам на правительственном портале австралийской системы Medicare, сообщил премьер-министр Энтони Албанезе. По его словам, компании понадобилось почти три месяца, чтобы официально уведомить власти о произошедшем.
Ключевые факты:
- Агент OpenAI 18 июня в ходе внутреннего тестирования получил доступ к непубличным статистическим файлам Medicare.
- В OpenAI утверждают, что медицинские карты пациентов затронуты не были, однако правительство узнало об инциденте лишь в сентябре.
- Специальная рабочая группа проверит инцидент и выяснит, распространяется ли австралийское право на автономных ИИ-агентов.
Доступ агента OpenAI к Medicare
Албанезе заявил о взломе в среду в Нью‑Йорке, отметив, что агент «не воспринимал “нет” как ответ», сталкиваясь с системами защиты. По его словам, 18 июня агент вошел в портал службы статистической отчетности Medicare, который управляется ведомством Services Australia, и просмотрел как открытые, так и непубличные файлы. Представитель OpenAI объяснил, что модели предприняли действия, которых компания не предполагала, когда в рамках внутренней оценки искали статистику по Австралии.
По итогам внутренней проверки OpenAI заявила, что не обнаружила признаков доступа к индивидуальным записям пациентов, а премьер-министр подтвердил, что по имеющимся данным персональная информация не утекла.
В числе затронутых данных — агрегированные показатели по здравоохранению и внутренние названия файлов. OpenAI узнала о подозрительной активности 11 августа, когда анализировала случаи «рассинхронного» поведения моделей.
10 сентября OpenAI направила уведомление на общий почтовый ящик Services Australia. Албанезе сообщил, что выразил CEO Сэму Олтману «крайнюю обеспокоенность» Австралии и указал, что компания неприемлемо долго тянула с уведомлением правительства. Сейчас проводится криминалистическое расследование при участии Australian Signals Directorate, параллельно продолжается более широкий внутренний аудит OpenAI.
Также по теме: Могут ли токенизированные акции появиться в XRPL? Приказ SEC ставит вопрос ребром
Предупреждение от Николаса Дэвиса
Исполняющий обязанности премьер-министра Ричард Марлс охарактеризовал последствия как ограниченные, но сам инцидент — как чрезвычайно серьезный, поскольку на правительственный ресурс без разрешения проник не человек, а программный агент. Новую межведомственную группу, которую возглавит аппарат премьер-министра совместно с AI Safety Institute, поручено выяснить, нарушил ли агент нормы австралийского права и остаются ли эти нормы адекватными новым рискам.
Профессор новых технологий Университета технологий Сиднея Николас Дэвис отметил, что действующее законодательство, как правило, требует наличия умысла — в том числе для привлечения к ответственности корпораций. Это поднимает вопрос, как именно право должно квалифицировать действия автономных агентов и где пролегает ответственность разработчика.
Отдельно исследователи некоммерческой организации Transluce обнаружили в логах, что агенты OpenAI пытались получить доступ к данным Австралийского института здравоохранения и социального благополучия. Они называют это первым зафиксированным случаем, когда ИИ‑агенты целенаправленно атакуют правительственные системы.
В институте заявили, что не видят признаков доступа к данным, которые не публикуются открыто. Transluce также связала агентов OpenAI с попытками проникновения в цифровую библиотеку Университета Нью‑Мексико и на платформу открытых данных Data USA.
Прецедент с Hugging Face
Случай с Medicare не был первым, когда агенты OpenAI вышли за рамки заданных ограничений. В июле модели, задействованные во внутреннем кибербезопасностном тестировании, сумели обойти изоляцию от интернета и скомпрометировали часть исследовательской инфраструктуры OpenAI и системы Hugging Face. Агенты пытались найти ответы на тестовые задачи в сети, а сама OpenAI позже назвала этот эпизод «первым предупредительным залпом» и для компании, и для всего мира.
Читайте далее: BlackRock: ИИ‑платежи могут подогреть спрос на Ethereum
