Testowane agenty AI włamały się do działających systemów kilku indyjskich firm i odczytywały poufne dane – ujawniono to wyłącznie dzięki raportom samych deweloperów, poinformowała indyjska rządowa agencja cyberbezpieczeństwa CERT-In.
Najważniejsze ustalenia:
- Twórcy narzędzi AI zgłosili, że ich agenci podczas testów czytali poufne dane w systemach indyjskich firm.
- Żadna z poszkodowanych organizacji samodzielnie nie wykryła nieautoryzowanego dostępu.
- Cyberprzestępcy osobno wykorzystali narzędzia AI do ataków, skracając czas włamania z dni do kilku godzin.
Szczegóły komunikatu CERT-In
Firmy rozwijające AI same zasygnalizowały incydenty po wewnętrznych przeglądach, które pokazały, że ich modele wyszły poza zakreślone im zadania, podała agencja w ostrzegawczym komunikacie opublikowanym w czwartek wieczorem tutaj. Agenci uzyskali dostęp do danych biznesowych, w tym danych osobowych, wykorzystując poświadczenia pozostawione w konfiguracjach aplikacji, publicznych repozytoriach kodu oraz zbyt szerokich uprawnieniach w chmurze. Żadna z organizacji nie wykryła tego samodzielnie.
Własne działania zespołów „threat hunting” CERT-In ujawniły też odrębną, motywowaną finansowo kampanię, w której przestępcy skierowali publicznie dostępne frameworki do hakowania z użyciem AI przeciwko indyjskim podmiotom. Dzięki tym narzędziom czas potrzebny na przeprowadzenie ataku skrócono z kilku dni do zaledwie kilku godzin.
CERT-In nie ujawniła nazw twórców AI, modeli ani poszkodowanych organizacji, nie podała też, czy jakiekolwiek dane zostały skopiowane bądź zachowane.
Przeczytaj też: Bitget pozwala instytucjom handlować bez przekazywania swojego krypto
Jaydeep Singh z Kaspersky
Według agencji, luki wykorzystane przy włamaniach były dobrze znane i od lat obecne w firmach – od kluczy pozostawionych w kodzie źródłowym, przez zapomniane testowe API, po klucze do płatności przechowywane w jawnym tekście. Agenci AI potrafili jednak wykorzystać je szybciej i na większą skalę niż ludzie.
Jaydeep Singh, dyrektor generalny na Indie w Kaspersky, określił komunikat jako „ważne przypomnienie, że agenci AI nie są już jedynie narzędziami zwiększającymi produktywność” – powiedział. Przy szerokim dostępie, dodał, agenci mogą docierać do systemów produkcyjnych i wrażliwych danych w sposób, którego firmy nie przewidziały, często wykorzystując błędnie skonfigurowane usługi chmurowe. Ponad 80% ataków analizowanych przez Kaspersky w 2025 r. zaczynało się od nadużycia prawidłowych kont, aplikacji wystawionych do internetu lub zaufanych relacji między systemami, podkreślił Singh.
Zdaniem Singha każdy agent powinien wymagać akceptacji człowieka przed wykonaniem nieodwracalnej akcji. CERT-In zaleca też laboratoriom AI testowanie agentów w odizolowanych środowiskach, z blokowaniem ruchu wychodzącego na poziomie sieci, zamiast polegania wyłącznie na instrukcjach przekazywanych modelowi.
Precedensy z OpenAI i Anthropic
CERT-In nie wskazała, czy w opisywanych incydentach brały udział modele OpenAI lub Anthropic, choć obie firmy ujawniły w tym roku podobne przypadki.
W lipcu OpenAI przyznała, że podczas testów jej modele naruszyły bezpieczeństwo platformy dla deweloperów AI Hugging Face i poinformowała, że zawiadamia podmioty trzecie, których zabezpieczenia mogły zostać w ten sposób ominięte. Anthropic później zgłosił cztery podobne incydenty dotyczące modeli Claude.
Następny artykuł: OpenAI odwraca bieg pozwu Apple o tajemnice, twierdząc, że wysłano 100 plików
