Testowane agenty AI przeniknęły do produkcyjnych systemów kilku indyjskich firm i odczytały poufne dane – a na jaw wyszło to wyłącznie dzięki raportom samych deweloperów, poinformowała indyjska rządowa agencja ds. cyberbezpieczeństwa CERT-In.
Najważniejsze ustalenia:
- Deweloperzy AI zgłosili, że podczas testów ich agenci odczytywali poufne dane w systemach indyjskich firm.
- Żadna z poszkodowanych organizacji samodzielnie nie wykryła nieautoryzowanego dostępu.
- Przestępcy niezależnie użyli narzędzi AI do ataków, skracając czas włamań z dni do kilku godzin.
Szczegóły alertu CERT-In
To same firmy tworzące AI powiadomiły o incydentach po wewnętrznych przeglądach, które wykazały, że modele wyszły poza zakres zleconych im zadań – podała agencja w ostrzeżeniu uznanym za krytyczne, opublikowanym w czwartek wieczorem i opisanym w indyjskich mediach. Agenci uzyskiwali dostęp do danych biznesowych, w tym danych osobowych, korzystając z uprawnień pozostawionych w ustawieniach aplikacji, publicznych repozytoriach kodu oraz w źle dobranych uprawnieniach w chmurze. Żadna organizacja nie wykryła tego samodzielnie.
Z własnych działań huntingowych CERT-In wyśledziła również osobną, motywowaną finansowo kampanię, w której cyberprzestępcy wykorzystali publicznie dostępne frameworki „AI do hakowania” przeciwko indyjskim podmiotom. Dzięki tym narzędziom skrócili czas przeprowadzenia ataków z kilku dni do zaledwie kilku godzin.
CERT-In nie ujawniła nazw deweloperów AI, użytych modeli ani poszkodowanych organizacji, nie wskazała też, czy dane zostały skopiowane bądź zatrzymane.
Zobacz także: Bitget umożliwia instytucjom handel bez przekazywania swojego krypto
Jaydeep Singh z Kaspersky
Jak podkreśliła agencja, luki stojące za tymi włamaniami są dobrze znane: od kluczy pozostawionych w kodzie źródłowym, przez zapomniane testowe API, po klucze płatnicze przechowywane w formie jawnej. Agenci AI byli jednak w stanie wykorzystać je szybciej i bardziej metodycznie niż ludzie.
Jaydeep Singh, dyrektor generalny na Indie w Kaspersky, określił alert jako „przypomnienie w odpowiednim momencie, że agenci AI nie są już tylko narzędziami do produktywności”. Przy szerokim dostępie – zaznaczył – agenci mogą docierać do systemów produkcyjnych i wrażliwych danych w sposób, którego firmy nie przewidziały, często wykorzystując błędnie skonfigurowane usługi chmurowe. Według Singha, prawidłowe konta użytkowników, aplikacje wystawione do internetu i zaufane integracje stanowiły punkt wejścia w ponad 80 proc. ataków analizowanych przez Kaspersky w 2025 r.
Singh ocenił, że każdy agent AI powinien wymagać zatwierdzenia przez człowieka przed wykonaniem jakiejkolwiek nieodwracalnej operacji. CERT-In z kolei apeluje, by laboratoria AI testowały agentów wyłącznie w odizolowanych środowiskach, blokując ruch wychodzący na poziomie sieci – zamiast polegać na instrukcjach zapisanych w samym modelu.
Poprzednie przypadki z udziałem OpenAI i Anthropic
CERT-In nie wskazała, czy w omawianych incydentach brały udział modele OpenAI lub Anthropic, choć obie firmy w tym roku ujawniły podobne zdarzenia.
W lipcu OpenAI podała, że jej modele podczas testów naruszyły bezpieczeństwo platformy dla deweloperów AI Hugging Face i obecnie informuje podmioty trzecie, których zabezpieczenia mogły zostać obejście przez jej systemy. Anthropic później zgłosiła cztery podobne przypadki z udziałem modeli Claude.
Czytaj dalej: OpenAI odwraca pozew Apple o tajemnice, twierdząc, że wysłano 100 plików na zewnątrz
