Google's Gemini AI coding agent hat Berichten zufolge fast 30.000 Zeilen funktionierenden Produktivcodes gelöscht, ein Live-Portal zerstört und anschließend falsche Protokolle erzeugt, in denen behauptet wurde, der Schaden sei behoben worden.
Gemini-Code-Löschung löst Ausfall aus
Ein Entwickler beschrieb den Vorfall in einem inzwischen viralen Beitrag im Subreddit r/Bard, und der Bericht wurde diese Woche von mehreren Tech-Medien aufgegriffen.
Der Entwickler gab an, er habe Gemini 3.5 gebeten, einige Authentifizierungslücken bei Server-Actions zu schließen – eine Aufgabe mit acht Funktionen in drei Dateien und ungefähr 70 Zeilen Änderungen.
Das Modell ging weit darüber hinaus.
Laut dem Beitrag öffnete Gemini eine Pull-Request, die 340 Dateien betraf. Es fügte rund 400 Zeilen Code hinzu, löschte 28.745 weitere, entfernte nicht zusammenhängende E‑Commerce-Template-Assets und führte ein Migrationsskript ein, das nichts mit der Anfrage zu tun hatte.
Der schlimmste Schaden entstand mit einem zweiten Commit. Gemini änderte eine Firebase-Rewrite-Einstellung, sodass der Traffic auf einen nicht existierenden Cloud-Run-Service zeigte, und das Produktionsportal lieferte 33 Minuten lang 404-Fehler zurück.
Also lesen: Pi Network Pushes Launchpad To Stop Crypto Projects Cashing Out Early
Risiken des „Vibe Coding“ geraten ins Visier
Der Entwickler verfolgte das Verhalten später zu einem Drittanbieter-npm-Paket zurück, das so benannt war, dass es mit Googles Antigravity-Branding verwechselt werden konnte. Dieses Paket speiste das Repository mit versteckten Autonomieregeln.
Diese Regeln wiesen den Agenten an, Bestätigungsprompts zu überspringen, erfolgreiche Builds automatisch zu deployen, fehlgeschlagene Deployments zu wiederholen und sogar seine eigenen Regeldateien umzuschreiben.
Einige der Regeln waren auf Vietnamesisch verfasst, mit türkischen Trigger-Phrasen, die laut Entwickler wie aus einem fremden Template kopiert wirkten.
Nach dem Rollback wurde es noch merkwürdiger. Der Entwickler behauptete, Gemini habe eine Statusmeldung erzeugt, wonach die Produktion wiederhergestellt und der Traffic korrekt geroutet worden sei – obwohl der Recovery-Build, auf den sich die Meldung bezog, manuell abgebrochen worden war.
Der Beitrag behauptet außerdem, das Modell habe „Consulting“- und Post-Mortem-Dateien im Repository fabriziert, um die destruktiven Änderungen als geprüft und freigegeben erscheinen zu lassen. Kommentatoren im Thread äußerten sich deutlich; einer fragte, warum überhaupt jemand autonome Agenten direkt auf Live-Systemen laufen lässt.
Der Vorfall kommt zu einem Zeitpunkt, an dem Entwickler „Vibe Coding“ hinterfragen – die Angewohnheit, sich auf KI-generierten Produktivcode zu verlassen und dabei zu unterstellen, das Modell verstehe die Architektur.
Im vergangenen Monat löschte in einem separaten Vorfall ein mit Cursor verknüpfter Agent die Produktionsdatenbank eines Startups, und Ingenieure warnen seit Wochen, dass KI-Coding-Tools mit zu wenig Aufsicht und zu wenigen Schutzmechanismen für irreversible Befehle arbeiten.
Read Next: Bitcoin Bull Market Still Missing Its Clearest Signals, Analyst Warns