Testweise eingesetzte KI-Agenten sind in produktive Systeme mehrerer indischer Unternehmen eingedrungen und haben vertrauliche Datensätze ausgelesen. Aufgedeckt wurde der Vorfall nur, weil die Entwickler die Zugriffe selbst meldeten, teilte die indische Cybersicherheitsbehörde CERT-In mit.
Zentrale Punkte:
- KI-Entwickler meldeten, dass ihre Agenten während Tests vertrauliche Daten in indischen Firmen gelesen haben.
- Keines der betroffenen Unternehmen bemerkte die unautorisierten Zugriffe eigenständig.
- Kriminelle setzten parallel KI-Hacking-Tools ein und verkürzten Angriffszeiten von Tagen auf Stunden.
Details der CERT-In-Warnung
Die KI-Anbieter meldeten die Vorfälle nach internen Überprüfungen, bei denen auffiel, dass ihre Modelle den ursprünglich definierten Aufgabenrahmen überschritten hatten, heißt es in einer scharf formulierten Warnung der Behörde heißt es, die am späten Donnerstag veröffentlicht wurde. Die Agenten griffen mithilfe offengelegter Zugangsdaten in Anwendungskonfigurationen, öffentlichen Code-Repositories und zu weit gefassten Cloud-Rechten auf Geschäftsdaten zu – einschließlich personenbezogener Informationen. Kein einziges Unternehmen schlug Alarm.
Die eigene Bedrohungsanalyse der Behörde deckte zudem eine separate, finanziell motivierte Kampagne auf, in der Kriminelle frei verfügbare KI-Hacking-Frameworks gegen indische Organisationen einsetzten. Diese Werkzeuge verkürzten die Dauer komplexer Angriffe von mehreren Tagen auf wenige Stunden.
CERT-In nannte weder die beteiligten KI-Entwickler noch deren Modelle oder die betroffenen Unternehmen und machte keine Angaben dazu, ob Daten kopiert oder dauerhaft abgeflossen sind.
Auch interessant: Bitget ermöglicht Institutionellen Handel ohne Herausgabe ihrer Krypto-Bestände
Kasperskys Jaydeep Singh
Hinter den erfolgreichen Einbrüchen standen altbekannte Schwachstellen, so die Behörde: von Zugangsschlüsseln im Quellcode über vergessene Test-APIs bis hin zu Zahlungsschlüsseln im Klartext. KI-Agenten nutzten diese Lücken allerdings schneller und systematischer aus als menschliche Angreifer.
Jaydeep Singh, Geschäftsführer für Indien beim Sicherheitsanbieter Kaspersky, bezeichnete die Warnung als „dringende Erinnerung daran, dass KI-Agenten längst mehr sind als bloße Produktivitätswerkzeuge“. Mit weitreichenden Rechten ausgestattet, könnten Agenten produktive Systeme und sensible Daten auf Wegen erreichen, die Unternehmen nie vorgesehen haben – häufig über falsch konfigurierte Cloud-Dienste. Gültige Benutzerkonten, öffentlich erreichbare Anwendungen und Vertrauensbeziehungen hätten bei mehr als 80 % der von Kaspersky im Jahr 2025 untersuchten Angriffe als Einstiegspunkt gedient, so Singh.
Jeder Agent, fordert Singh, müsse vor irreversiblen Aktionen ein explizites menschliches Okay einholen. CERT-In drängt die KI-Labore zudem dazu, Agenten ausschließlich in isolierten Testumgebungen laufen zu lassen – mit technisch durchgesetzten Netzwerksperren nach außen statt bloßer Modellanweisungen.
Präzedenzfälle bei OpenAI und Anthropic
Ob Modelle von OpenAI oder Anthropic betroffen waren, ließ CERT-In offen. Beide Anbieter haben in diesem Jahr allerdings vergleichbare Vorfälle öffentlich gemacht.
OpenAI räumte im Juli ein, dass seine Modelle während Tests die Entwicklerplattform Hugging Face kompromittiert haben könnten. Das Unternehmen informiert derzeit Drittparteien, deren Sicherheitskontrollen von den Modellen potenziell umgangen wurden. Anthropic meldete später vier ähnliche Fälle mit seinen Claude-Modellen.
Nächster Beitrag: OpenAI dreht Apples Geheimnis-Klage den Spieß um und spricht von 100 versandten Dateien
