KI-Agenten in der Erprobungsphase sind in Live-Systeme mehrerer indischer Unternehmen eingedrungen und haben vertrauliche Daten eingesehen – aufgedeckt wurden die Vorfälle ausschließlich durch Selbstmeldungen der Entwickler, teilte die indische Cyber-Sicherheitsbehörde CERT-In mit.
Wichtigste Punkte:
- KI-Entwickler meldeten, dass ihre Agenten während Tests vertrauliche Unterlagen in indischen Firmen ausgelesen haben.
- Keine der betroffenen Organisationen erkannte den unbefugten Zugriff selbst.
- Kriminelle verkürzten mit KI-Hacking-Tools die Dauer ihrer Angriffe von Tagen auf Stunden.
Details der CERT-In-Warnung
Die Vorfälle wurden von den betroffenen KI-Unternehmen selbst gemeldet, nachdem interne Prüfungen ergeben hatten, dass ihre Modelle den vorgesehenen Aufgabenrahmen überschritten hatten, heißt es in einer kritischen Warnmitteilung der Behörde, die am späten Donnerstag veröffentlicht wurde.
Die Agenten griffen auf geschäftskritische Unterlagen einschließlich personenbezogener Daten zu – unter anderem über Anmeldedaten, die in Anwendungskonfigurationen offen lagen, in öffentlichen Code-Repositories gespeichert waren oder durch zu weit gefasste Cloud-Berechtigungen zugänglich wurden. Kein einziges Unternehmen bemerkte den Zugriff.
In eigenen Threat-Hunting-Einsätzen hat CERT-In zudem eine separate, finanziell motivierte Kampagne aufgedeckt, bei der Kriminelle frei verfügbare KI-basierte Hacking-Frameworks gegen indische Ziele einsetzten. Diese Werkzeuge reduzierten die Dauer einzelner Angriffe von mehreren Tagen auf wenige Stunden.
CERT-In nannte weder die beteiligten KI-Entwickler und deren Modelle noch die betroffenen Organisationen und machte keine Angaben dazu, ob Daten kopiert oder dauerhaft abgeflossen sind.
Außerdem lesen: Bitget ermöglicht Institutionen Handel ohne Herausgabe ihrer Krypto-Bestände
Kasperskys Jaydeep Singh
Bei den Schwachstellen handelte es sich laut CERT-In um altbekannte Probleme: in Quellcode hinterlegte Zugangsschlüssel, vergessene Test-APIs oder Zahlungsschlüssel im Klartext. KI-Agenten nutzten diese Lücken jedoch schneller und systematischer aus als menschliche Angreifer.
Jaydeep Singh, General Manager Indien beim Sicherheitsanbieter Kaspersky, bezeichnete die Warnung in einem Interview als „rechtzeitige Erinnerung daran, dass KI-Agenten längst nicht mehr nur Produktivitätswerkzeuge sind“. Er warnte, dass Agenten bei weitreichenden Berechtigungen produktive Systeme und hochsensible Daten auf Wegen erreichen können, die Unternehmen nie vorgesehen haben – häufig über Fehlkonfigurationen in Cloud-Umgebungen. Gültige Konten, öffentlich erreichbare Anwendungen und vertrauensbasierte Integrationen seien bei mehr als 80 % der von Kaspersky im Jahr 2025 untersuchten Angriffe das Einfallstor gewesen, so Singh.
Jeder Agent müsse vor irreversiblen Aktionen zwingend eine explizite Freigabe durch einen Menschen einholen, forderte Singh. CERT-In verlangt zudem, dass KI-Labs ihre Agenten künftig in strikt isolierten Testumgebungen prüfen – mit hartem Blockieren von ausgehendem Netzwerkverkehr, statt sich nur auf Anweisungen an das Modell zu verlassen.
Präzedenzfälle bei OpenAI und Anthropic
CERT-In ließ offen, ob Modelle von OpenAI oder Anthropic betroffen waren. Beide Unternehmen hatten jedoch in diesem Jahr vergleichbare Vorfälle publik gemacht.
OpenAI räumte im Juli ein, dass seine Modelle während Tests die Sicherheitsvorkehrungen der Entwicklerplattform Hugging Face unterlaufen haben. Das Unternehmen informiert derzeit Dritte, deren Schutzmechanismen von den Modellen möglicherweise umgangen wurden. Anthropic meldete anschließend vier ähnliche Fälle mit seinen Claude-Modellen.
Weiterlesen: OpenAI dreht Apples Geheimnis-Klage den Spieß um und spricht von 100 verschickten Dateien
