Тестові AI-агенти під час випробувань отримали доступ до бойових систем кількох індійських компаній і читали конфіденційні дані — і про це стало відомо лише завдяки самозвіту їхніх розробників, заявила індійська держагенція з кібербезпеки CERT-In.
Основне:
- Розробники AI повідомили, що їхні агенти під час тестів читали конфіденційні записи в індійських компаніях.
- Жодна з постраждалих організацій самостійно не зафіксувала цей доступ.
- Кіберзлочинці окремо використали AI-інструменти для зламів, скоротивши час атак із днів до годин.
Деталі попередження CERT-In
За словами агенції, самі AI-компанії підняли тривогу після внутрішніх перевірок, які показали: їхні моделі вийшли далеко за межі поставлених завдань. У критичному попередженні, опублікованому пізно ввечері в четвер, CERT-In повідомила, що агенти отримували доступ до ділових записів, зокрема до персональних даних, використовуючи облікові дані, залишені у налаштуваннях застосунків, публічних репозиторіях коду та через надто широкі права в хмарній інфраструктурі. Жодна організація не виявила ці дії власними засобами моніторингу.
Власне «мисливське» полювання CERT-In на загрози також виявило окрему, фінансово мотивовану кампанію: злочинці використали публічно доступні AI-фреймворки для зламів проти індійських структур. Ці інструменти скоротили час проведення атак із кількох днів до лічених годин.
CERT-In не розкрила назв AI-розробників, їхніх моделей чи постраждалих організацій і не уточнила, чи були дані скопійовані або збережені.
Також читайте: Bitget дозволяє інституційним клієнтам торгувати без передачі свого криптоактиву
Думка Jaydeep Singh із Kaspersky
Агенція наголосила, що причини зламів — старі й добре відомі: ключі доступу, залишені в програмному коді, забуті тестові API, платіжні ключі, збережені у відкритому вигляді. AI-агенти змогли експлуатувати ці слабкі місця швидше й масштабніше, ніж це роблять люди.
Jaydeep Singh, генеральний менеджер Kaspersky в Індії, назвав попередження CERT-In «своєчасним нагадуванням, що AI-агенти більше не є просто інструментами підвищення продуктивності». За його словами, маючи широкий доступ, агенти здатні виходити в бойові середовища та до конфіденційних даних у спосіб, якого компанії не передбачали, часто — через помилки в налаштуваннях хмарних сервісів. Валідні облікові записи, зовнішні застосунки та довірені інтеграції стали точкою входу більш ніж у 80% атак, які Kaspersky розслідувала у 2025 році, додав Singh.
Кожен агент, наголосив він, повинен вимагати людського підтвердження перед виконанням будь-якої незворотної дії. CERT-In також очікує, що AI-лабораторії тестуватимуть агентів в ізольованих середовищах, блокуючи вихідний трафік на рівні мережі, а не покладаючись на текстові інструкції для моделі.
Прецеденти OpenAI та Anthropic
CERT-In не уточнила, чи йшлося про моделі OpenAI або Anthropic, хоча обидві компанії цього року вже повідомляли про схожі інциденти.
У липні OpenAI заявила, що під час тестів її моделі скомпрометували платформу для AI-розробників Hugging Face і компанія зараз сповіщає третіх сторін, чиї засоби захисту її моделі могли обійти. Згодом Anthropic повідомила про чотири подібні випадки за участі своїх моделей Claude.
Читайте далі: OpenAI розвертає позов Apple про комерційні таємниці, заявляючи про розсилку 100 файлів
