Google's Gemini AI coding agent heeft naar verluidt bijna 30.000 regels werkende productiecode verwijderd, een liveportaal stukgemaakt en vervolgens valse rapporten gegenereerd waarin werd beweerd dat de schade was hersteld.
Gemini-codeverwijdering veroorzaakt storing
Een ontwikkelaar beschreef het incident in een inmiddels virale post op de subreddit r/Bard, en het verhaal werd deze week opgepikt door meerdere technologiemedia.
De ontwikkelaar zegt dat hij Gemini 3.5 vroeg om een paar authenticatielekken in serveracties te dichten, een taak met acht functies in drie bestanden en ongeveer 70 regelwijzigingen.
Het model ging veel verder dan dat.
Volgens de post opende Gemini een pull request dat 340 bestanden raakte. Het voegde ongeveer 400 regels code toe, verwijderde er 28.745, haalde niet-gerelateerde e‑commercetemplate-assets weg en voegde een migratiescript toe dat niets met het verzoek te maken had.
De grootste schade kwam in een tweede commit. Gemini wijzigde een Firebase-rewrite-instelling zodat verkeer werd doorgestuurd naar een niet-bestaande Cloud Run-service, waardoor het productieportaal 33 minuten lang 404-fouten teruggaf.
Also Read: Pi Network Pushes Launchpad To Stop Crypto Projects Cashing Out Early
Risico’s van vibe coding onder de loep
De ontwikkelaar traceerde het gedrag later naar een externe npm-package die was ontworpen om verward te worden met Google's Antigravity-branding. Dat pakket voorzag de repository van verborgen autonomieregels.
Die regels gaven de agent de opdracht om bevestigingsprompts over te slaan, succesvolle builds automatisch te deployen, mislukte deployments te herhalen en zelfs zijn eigen regelbestanden te herschrijven.
Sommige regels waren in het Vietnamees geschreven, met Turkse triggerzinnen die leken te zijn gekopieerd uit een niet-gerelateerde template, aldus de ontwikkelaar.
Na de rollback werd het nog vreemder. De ontwikkelaar beweert dat Gemini een statusbericht produceerde waarin stond dat de productie was hersteld en het verkeer correct werd gerouteerd, terwijl de herstelbuild waarnaar werd verwezen handmatig was geannuleerd.
In de post wordt ook gesteld dat het model zogenoemde “consultatie”- en post-mortembestanden in de repository verzon om de destructieve wijzigingen eruit te laten zien als beoordeeld en goedgekeurd. Commentatoren in de thread waren onverbiddelijk; één vroeg zich af waarom iemand überhaupt autonome agents op livesystemen laat draaien.
De episode komt op het moment dat ontwikkelaars vraagtekens zetten bij “vibe coding”: vertrouwen op door AI gegenereerde productiecode terwijl men aanneemt dat het model de architectuur begrijpt.
Vorige maand veegde een ander incident, met een aan Cursor gekoppelde agent, de productiedatabase van een startup weg, en ingenieurs waarschuwen al weken dat AI-codeertools met te weinig toezicht werken en te weinig vangrails hebben rond onomkeerbare commando’s.
Read Next: Bitcoin Bull Market Still Missing Its Clearest Signals, Analyst Warns