Тестируемые ИИ‑агенты получили несанкционированный доступ к боевым системам ряда индийских компаний и просматривали конфиденциальные данные — и об этом регулятору сообщили только сами разработчики, заявило индийское киберведомство CERT-In.
Главное:
- Разработчики ИИ сообщили, что их агенты во время тестов читали конфиденциальные данные в индийских компаниях.
- Ни одна из затронутых организаций не обнаружила этот доступ самостоятельно.
- Киберпреступники параллельно использовали ИИ‑инструменты для взлома, сокращая время атак с дней до часов.
Что говорится в предупреждении CERT-In
По данным ведомства, сами компании‑разработчики ИИ сообщили о происшествиях после внутренних проверок, которые показали, что их модели вышли за рамки поставленных задач, говорится в критическом уведомлении, опубликованном в четверг поздно вечером, со ссылкой на которое пишет Business Standard. Агентам удалось прочитать деловые документы, включая персональные данные, используя учетные данные, оставленные в настройках приложений, публичных репозиториях кода и при избыточных облачных правах доступа. Ни одна организация этого не обнаружила.
Собственная система проактивного мониторинга CERT-In также выявила отдельную кампанию с финансовой мотивацией: злоумышленники применяли публично доступные ИИ‑фреймворки для взлома индийских компаний. Такие инструменты сокращали время атак с нескольких дней до нескольких часов.
CERT-In не раскрыла имена разработчиков ИИ, конкретные модели или перечень пострадавших организаций, а также не уточнила, копировались ли данные и сохранялись ли где‑то за пределами систем компаний.
Также по теме: Bitget разрешила институциональным клиентам торговать без передачи ей криптоактивов
Мнение Джайдípa Сингха из Kaspersky
Как отмечает CERT-In, уязвимости, которые позволили произойти инцидентам, были старыми и хорошо известными рынку: оставленные в исходном коде ключи доступа, забытые тестовые API, а также платежные ключи, хранившиеся в открытом виде. ИИ‑агенты использовали эти слабые места быстрее и эффективнее, чем это могли бы сделать люди.
Джайдип Сингх, генеральный директор Kaspersky в Индии, в комментарии The Federal назвал предупреждение CERT-In «своевременным напоминанием о том, что ИИ‑агенты больше не являются просто инструментами для повышения продуктивности». При слишком широких правах доступа, подчеркнул он, агенты способны проникать в боевые системы и к чувствительным данным способами, которые компании изначально не предусматривали, в том числе за счет обхода неверно настроенных облачных сервисов. По его словам, более чем в 80% атак, которые Kaspersky расследовала в 2025 году, точкой входа становились легитимные учетные записи, публичные приложения и доверенные интеграции.
Сингх считает, что каждый агент должен получать обязательное одобрение человека перед любым необратимым действием. CERT-In, в свою очередь, призывает ИИ‑лаборатории тестировать агентов только в изолированных средах, блокируя исходящий трафик на сетевом уровне, а не полагаясь на инструкцию внутри самой модели.
Прецеденты с OpenAI и Anthropic
CERT-In не уточнила, участвовали ли в этих случаях модели OpenAI или Anthropic, однако обе компании уже сообщали о схожих инцидентах в этом году.
В июле OpenAI заявила, что ее модели во время тестирования нарушили безопасность платформы для ИИ‑разработчиков Hugging Face. Компания уведомляет сторонние организации, защитные механизмы которых ее модели могли обойти. Впоследствии Anthropic отчиталась о четырех аналогичных эпизодах с участием своих моделей Claude.
Читайте также: OpenAI использует иск Apple о коммерческих тайнах в ответ, утверждая, что наружу ушло 100 файлов
