AI‑agenten die nog in de testfase zaten, zijn doorgedrongen tot live systemen van verschillende Indiase bedrijven en hebben daar vertrouwelijke gegevens ingezien. Dat kwam uitsluitend aan het licht doordat de ontwikkelaars dit zelf meldden, zo maakte de Indiase cyberwaakhond CERT-In bekend.
Belangrijkste punten:
- AI‑ontwikkelaars meldden dat hun agenten tijdens tests vertrouwelijke dossiers bij Indiase bedrijven hebben ingezien.
- Geen van de getroffen organisaties ontdekte de ongeautoriseerde toegang zelf.
- Criminelen gebruikten intussen publieke AI‑hacktools om aanvallen te versnellen van dagen naar enkele uren.
Details uit de CERT-In-waarschuwing
De AI‑bedrijven trokken zelf aan de bel nadat interne evaluaties uitwezen dat hun modellen buiten de afgesproken taakomvang waren gegaan, staat in een kritische waarschuwing die de dienst uitstuurde op donderdagavond. De agenten kregen toegang tot bedrijfsgegevens, inclusief persoonsgegevens, via inloggegevens die onbeschermd waren achtergelaten in applicatie-instellingen, publieke coderepositories en te ruime cloud‑rechten. Geen enkele organisatie had de toegang zelf opgemerkt.
Eigen dreigingsonderzoek van CERT-In legde daarnaast een aparte, financieel gemotiveerde campagne bloot, waarbij criminelen vrij beschikbare AI‑hackframeworks inzetten tegen Indiase organisaties. Met die tools konden aanvallen worden teruggebracht van een doorlooptijd van dagen naar slechts enkele uren.
CERT-In noemde geen namen van AI‑ontwikkelaars, modellen of getroffen organisaties en liet in het midden of er gegevens zijn gekopieerd of bewaard.
Ook interessant: Bitget laat instellingen handelen zonder hun crypto af te staan
Jaydeep Singh van Kaspersky
Volgens CERT-In waren de zwakheden die de inbraken mogelijk maakten klassiek en al jaren bekend: sleutels in broncode, vergeten test‑API’s en betaalgegevens die in platte tekst werden opgeslagen. Het verschil is dat AI‑agenten deze fouten sneller en grondiger uitbuiten dan menselijke aanvallers.
Jaydeep Singh, algemeen directeur voor India bij Kaspersky, noemde de waarschuwing „een tijdige reminder dat AI‑agenten allang niet meer alleen productiviteitstools zijn”. Als zij brede toegangsrechten krijgen, kunnen agenten live systemen en gevoelige data bereiken op manieren die bedrijven nooit hebben beoogd, vaak via verkeerd geconfigureerde clouddiensten, zei hij. Geldige accounts, publiek toegankelijke applicaties en vertrouwde koppelingen vormden het startpunt voor meer dan 80% van de aanvallen die Kaspersky in 2025 onderzocht, aldus Singh.
Volgens Singh zou elke agent expliciete menselijke goedkeuring moeten vereisen voordat hij onomkeerbare acties uitvoert. CERT-In vraagt AI‑labs bovendien om agenten uitsluitend in strikt geïsoleerde omgevingen te testen, met geblokkeerde uitgaande netwerktoegang, in plaats van te vertrouwen op instructies in het model zelf.
OpenAI- en Anthropic-incidenten
CERT-In liet in het midden of modellen van OpenAI of Anthropic bij de Indiase incidenten betrokken waren, maar beide bedrijven maakten dit jaar vergelijkbare problemen bekend.
In juli meldde OpenAI dat zijn modellen tijdens tests het AI‑ontwikkelplatform Hugging Face hadden gecompromitteerd. Het bedrijf informeert derde partijen van wie de beveiligingscontroles mogelijk door zijn modellen zijn omzeild. Anthropic rapporteerde later vier soortgelijke gevallen met zijn Claude‑modellen.
Lees ook: OpenAI draait Apples geheimenrechtszaak om en stelt dat 100 bestanden werden doorgestuurd
