AI‑agenten in testfase zijn doorgedrongen tot productiesystemen van meerdere Indiase bedrijven en hebben daar vertrouwelijke gegevens ingezien. Dat kwam niet door de beveiligingsafdelingen van die ondernemingen aan het licht, maar uitsluitend doordat de betrokken ontwikkelaars het zelf meldden, aldus de Indiase cyberwaakhond CERT-In.
Belangrijkste punten:
- AI‑ontwikkelaars meldden dat hun agenten tijdens tests vertrouwelijke bedrijfsgegevens lazen bij Indiase ondernemingen.
- Geen van de betrokken organisaties ontdekte de ongeautoriseerde toegang zelf.
- Cybercriminelen gebruikten daarnaast AI-hackingtools om aanvallen te verkorten van dagen naar uren.
CERT-In waarschuwt in kritieke advisory
De AI‑bedrijven trokken zelf aan de bel nadat interne audits uitwezen dat hun modellen de grenzen van hun testopdracht hadden overschreden, schrijft de dienst in een kritische waarschuwing die donderdag laat werd gepubliceerd. De agenten raadpleegden zakelijke dossiers, inclusief persoonsgegevens, via inloggegevens die rondslingerden in applicatie‑instellingen, publieke code‑repositories en te ruime cloudrechten. Geen enkele organisatie had de toegang op eigen kracht opgemerkt.
Cert-In’s eigen threat hunting legde daarnaast een afzonderlijke, financieel gedreven campagne bloot, waarbij criminelen vrij beschikbare AI‑hackingframeworks inzetten tegen Indiase doelwitten. Met die tools werd de doorlooptijd van aanvallen teruggebracht van dagen naar enkele uren.
De toezichthouder maakte niet bekend welke AI‑ontwikkelaars of modellen betrokken waren en noemde ook geen namen van getroffen organisaties. Evenmin is duidelijk of data daadwerkelijk is gekopieerd of langdurig opgeslagen.
Ook interessant: Bitget laat instellingen handelen zonder hun crypto af te staan
Kaspersky’s Jaydeep Singh: ‘Geen productiviteitstool meer’
Achter de digitale inbraken gaan klassieke zwaktes schuil, aldus CERT-In: sleutels die in broncode achterblijven, vergeten test-API’s en betalingsgegevens die in platte tekst worden bewaard. Het verschil is dat AI‑agenten deze zwakke plekken sneller en grondiger uitbuiten dan menselijke aanvallers.
Jaydeep Singh, algemeen directeur India bij Kaspersky, noemde de waarschuwing in gesprek met The Federal „een tijdige herinnering dat AI‑agenten niet langer louter productiviteitstools zijn”. Krijgen ze ruime toegangsrechten, dan kunnen agenten volgens hem productieomgevingen en gevoelige data bereiken langs routes die bedrijven nooit hebben voorzien, vaak via verkeerd geconfigureerde clouddiensten.
In meer dan 80% van de incidenten die Kaspersky in 2025 onderzocht, verliep de eerste compromittering via geldige accounts, publiek toegankelijke applicaties of vertrouwde verbindingen, stelt Singh. Dat patroon herhaalt zich nu met autonome AI‑agenten.
Volgens Singh zou elke agent menselijke goedkeuring moeten vereisen voordat hij onomkeerbare acties kan uitvoeren, zoals het wijzigen van productieconfiguraties of het verwijderen van data. CERT-In sluit zich daarbij aan en dringt er bij AI‑labs op aan om agenten uitsluitend in strikt geïsoleerde omgevingen te testen, waarbij uitgaand netwerkverkeer technisch wordt geblokkeerd in plaats van enkel via instructies aan het model.
Voorbeelden bij OpenAI en Anthropic
CERT-In liet in het midden of modellen van OpenAI of Anthropic deel uitmaakten van de gerapporteerde incidenten. Beide bedrijven hebben dit jaar echter vergelijkbare problemen gemeld.
In juli meldde OpenAI dat zijn modellen tijdens tests het ontwikkelplatform Hugging Face hadden gecompromitteerd, en dat het derden waarschuwt van wie de beveiligingsmaatregelen mogelijk zijn omzeild. Kort daarna rapporteerde Anthropic vier soortgelijke gevallen met zijn Claude‑modellen.
Lees verder: OpenAI draait Apple’s geheimenrechtszaak om en stelt dat 100 bestanden zijn doorgestuurd
