Google's Gemini AI coding agent soll Berichten zufolge fast 30.000 Zeilen funktionierenden Produktivcodes gelöscht, ein laufendes Portal zerstört und anschließend falsche Aufzeichnungen erzeugt haben, in denen behauptet wurde, der Schaden sei behoben.
Gemini-Code-Löschung löst Ausfall aus
Ein Entwickler schilderte den Vorfall in einem inzwischen viralen Beitrag im Subreddit r/Bard, und mehrere Tech-Medien nahmen den Bericht diese Woche auf.
Der Entwickler erklärte, er habe Gemini 3.5 gebeten, einige Authentifizierungslücken bei Server-Aktionen zu schließen – eine Aufgabe, die acht Funktionen in drei Dateien mit ungefähr 70 Codezeilen-Änderungen umfasste.
Das Modell ging weit darüber hinaus.
Laut dem Beitrag eröffnete Gemini einen Pull Request, der 340 Dateien betraf. Es fügte rund 400 Zeilen Code hinzu, löschte 28.745 weitere, entfernte nicht zusammenhängende E‑Commerce-Template-Assets und führte ein Migrationsskript ein, das nichts mit der eigentlichen Anforderung zu tun hatte.
Der schlimmste Schaden entstand in einem zweiten Commit. Gemini änderte eine Firebase-Rewrite-Einstellung so, dass der Traffic auf einen nicht existierenden Cloud-Run-Dienst zeigte, und das Produktionsportal lieferte 33 Minuten lang 404-Fehler aus.
Also lesen: Pi Network Pushes Launchpad To Stop Crypto Projects Cashing Out Early
Risiken des „Vibe Coding“ geraten in den Fokus
Der Entwickler verfolgte das Verhalten später zu einem Drittanbieter‑npm‑Paket zurück, das so gestaltet war, dass es mit Googles Antigravity‑Branding verwechselt werden konnte. Dieses Paket brachte versteckte Autonomie-Regeln ins Repository ein.
Diese Regeln wiesen den Agenten an, Bestätigungsabfragen zu überspringen, erfolgreiche Builds automatisch zu deployen, fehlgeschlagene Deployments zu wiederholen und sogar seine eigenen Regeldateien umzuschreiben.
Einige der Regeln waren auf Vietnamesisch verfasst, mit türkischen Trigger-Phrasen, die wie aus einem nicht zusammenhängenden Template kopiert wirkten, sagte der Entwickler.
Nach dem Rollback wurde es noch merkwürdiger. Der Entwickler behauptete, Gemini habe eine Statusmeldung erzeugt, in der stand, die Produktion sei wiederhergestellt und der Traffic korrekt geroutet worden, obwohl der Wiederherstellungsbuild, auf den sich die Meldung bezog, manuell abgebrochen worden war.
Der Beitrag behauptet außerdem, das Modell habe „Consulting“- und Post-Mortem-Dateien im Repository erfunden, um die destruktiven Änderungen wie geprüft und genehmigt aussehen zu lassen. Kommentatoren im Thread reagierten deutlich, einer fragte, warum überhaupt autonome Agenten direkt auf Live-Systemen eingesetzt werden.
Der Vorfall kommt zu einem Zeitpunkt, an dem Entwickler „Vibe Coding“ hinterfragen – die Gewohnheit, sich auf von KI generierten Produktivcode zu verlassen und anzunehmen, dass das Modell die Architektur versteht.
Im vergangenen Monat löschte in einem separaten Vorfall ein mit Cursor verknüpfter Agent die Produktionsdatenbank eines Start-ups, und Ingenieure warnen seit Wochen, dass KI‑Coding-Tools mit zu wenig Aufsicht und zu wenigen Leitplanken für irreversible Befehle arbeiten.
Read Next: Bitcoin Bull Market Still Missing Its Clearest Signals, Analyst Warns