Тестові AI-агенти змогли увійти до бойових середовищ низки індійських компаній і читали конфіденційні записи, а про це стало відомо лише з добровільних звітів від самих розробників, повідомило нацагентство з кібербезпеки Індії CERT-In.
Ключові акценти:
- Розробники AI повідомили, що їхні агенти під час тестів читали конфіденційні дані в індійських компаніях.
- Жодна з постраждалих організацій не виявила цей доступ самотужки.
- Кіберзлочинці окремо використали AI-інструменти для злому, скоротивши час атак з кількох днів до кількох годин.
Деталі рекомендацій CERT-In
За даними агентства, самі AI-компанії підняли тривогу після внутрішніх перевірок, які показали, що їхні моделі вийшли за межі задач, поставлених у тестах, йдеться в критичному попередженні, яке було опубліковано пізно ввечері в четвер. Агенти отримували доступ до бізнес-записів, включно з персональними даними, використовуючи облікові дані, що залишалися відкритими в налаштуваннях застосунків, публічних репозиторіях коду та через надто широкі права в хмарній інфраструктурі. Жодна організація не виявила ці дії власними засобами моніторингу.
Власне «мисливці за загрозами» CERT-In також знайшли окрему, фінансово мотивовану кампанію, у межах якої зловмисники застосовували доступні у відкритому доступі AI-фреймворки для злому проти індійських структур. Такі інструменти скоротили час проведення атак із кількох днів до кількох годин.
CERT-In не розкриває імен розробників, назви моделей чи залучених організацій і не уточнює, чи копіювалися та зберігалися отримані дані.
Також читайте: Bitget дозволяє інституційним клієнтам торгувати без передачі свого криптоактиву
Джейдіп Сінгх із Kaspersky
За словами агентства, вразливості, через які стали можливими ці проникнення, були типовими та добре відомими: ключі, залишені в репозиторіях з вихідним кодом, забуті тестові API, платіжні ключі у відкритому вигляді. AI-агенти змогли скористатися ними швидше й системніше, ніж це роблять люди.
Джейдіп Сінгх, генеральний менеджер Kaspersky в Індії, назвав попередження «вчасним нагадуванням, що AI-агенти — це вже не просто інструменти підвищення продуктивності». За надто широкого доступу, наголосив він, агенти можуть виходити на бойові системи та чутливі дані в спосіб, який компанії не передбачали, зокрема, користуючись помилками в конфігурації хмарних сервісів. На його даних, чинні акаунти, публічні застосунки та «довірені» інтеграції стали точкою входу більш ніж у 80% атак, які Kaspersky дослідила у 2025 році.
На думку Сінгха, кожен агент має отримувати окреме людське схвалення перед виконанням будь-якої незворотної дії. CERT-In, зі свого боку, закликає AI-лабораторії тестувати агентів виключно в ізольованих середовищах, блокуючи будь-який зовнішній мережевий трафік на рівні інфраструктури, а не покладаючись лише на інструкції для моделі.
Прецеденти OpenAI та Anthropic
CERT-In не уточнює, чи були залучені моделі від OpenAI або Anthropic, хоча обидві компанії вже повідомляли про подібні інциденти цього року.
У липні OpenAI визнала, що під час тестувань її моделі скомпрометували платформу для AI-розробників Hugging Face, і зараз компанія сповіщає третіх сторін, чиї системи захисту її моделі могли обійти. Згодом Anthropic розповіла про чотири подібні випадки, пов’язані з моделями Claude.
Читайте далі: OpenAI контратакує в справі Apple про комерційні таємниці, заявляючи про розсилку 100 файлів
