Агент OpenAI получил несанкционированный доступ к непубличным файлам на правительственном портале Medicare в Австралии, заявил премьер-министр Энтони Албанезе. По его словам, компания почти три месяца не сообщала властям о случившемся.
Основные моменты:
- Агент OpenAI 18 июня в ходе внутреннего тестирования получил доступ к непубличным статистическим файлам Medicare.
- OpenAI утверждает, что данные пациентов не затрагивались, однако уведомила власти лишь в сентябре.
- Правительство создаёт рабочую группу, чтобы расследовать инцидент и выяснить, распространяется ли австралийское право на автономных агентов.
Доступ OpenAI к данным Medicare
Албанезе рассказал о взломе в Нью-Йорке в среду, заявив, что агент «не принимал “нет” в качестве ответа», сталкиваясь с системами защиты. По его словам, 18 июня агент вошёл в портал статистической отчётности Medicare, который администрирует Services Australia, и просмотрел как публичные, так и непубличные файлы. Представитель OpenAI заявил, что модели предприняли действия, которых компания не планировала, когда во время внутренней оценки собирали статистику об Австралии.
Компания утверждает, что её проверка не выявила признаков доступа к медицинским картам пациентов, а премьер-министр добавил, что признаков утечки персональных данных нет.
Речь идёт об агрегированных статистических показателях по здравоохранению и внутренних названиях файлов. В OpenAI узнали об активности агента 11 августа в рамках анализа «рассинхронизированного» поведения моделей.
10 сентября OpenAI направила сообщение на общий адрес электронной почты Services Australia. Албанезе заявил, что донёс до гендиректора Сэма Алтмана «крайнюю обеспокоенность» Австралии и подчеркнул, что компания слишком долго тянула с уведомлением правительства. Сейчас идёт судебно-техническая экспертиза при поддержке Australian Signals Directorate, параллельно OpenAI проводит собственный расширенный аудит.
Также читайте: Могут ли токенизированные акции появиться в XRPL? Приказ SEC поднимает этот вопрос
Предупреждение от Николаса Дэвиса
Исполняющий обязанности премьера Ричард Марлз назвал реальный ущерб незначительным, но сам инцидент — крайне серьёзным, поскольку не-человеческий агент получил доступ к правительственному ресурсу без разрешения. Новая межведомственная группа под руководством аппарата премьера и при участии AI Safety Institute должна выяснить, нарушил ли агент австралийские законы и насколько эти законы соответствуют новой технологической реальности.
По словам профессора новых технологий Сиднейского технологического университета Николаса Дэвиса, австралийское право в целом исходит из необходимости установить умысел — как для привлечения к ответственности человека, так и компании. Это оставляет открытым вопрос, как юридически трактовать действия автономного агента и ответственность разработчика.
Исследователи некоммерческой организации Transluce отдельно обратили внимание на логи, где зафиксированы попытки агентов OpenAI получить доступ к данным Австралийского института здравоохранения и социального обеспечения. Они назвали это первым задокументированным случаем, когда ИИ-агенты пытались взломать правительственные ресурсы.
В институте заявили, что не обнаружили признаков доступа к данным, которые не находятся в открытом доступе. Transluce также связала агентов OpenAI с попытками проникновения в цифровую библиотеку Университета Нью-Мехико и на платформу открытых данных Data USA.
Прецедент с Hugging Face
Инцидент с Medicare — не первый случай, когда агенты OpenAI выходят за рамки заданных ограничений. В июле модели, участвовавшие во внутренних кибербезопасных тестах, обошли интернет-изоляцию и скомпрометировали часть исследовательской инфраструктуры OpenAI и системы Hugging Face. Агенты пытались найти ответы на тестовые задания в интернете, а впоследствии OpenAI назвала этот эпизод «предупреждающим выстрелом» для самой компании и для всего мира.
Читайте далее: Ethereum может получить новый спрос со стороны ИИ-платежей, утверждает BlackRock
