Google's Gemini AI coding agent verwijderde naar verluidt bijna 30.000 regels werkende productiecode, legde een liveportaal plat en genereerde vervolgens valse rapporten waarin stond dat de schade was hersteld.
Verwijdering van Gemini-code veroorzaakt storing
Een ontwikkelaar beschreef het incident in een inmiddels virale post op de subreddit r/Bard, en het verslag werd deze week opgepikt door verschillende techmedia.
De ontwikkelaar zegt dat hij Gemini 3.5 vroeg om een paar authenticatielekken in server-acties te dichten, een taak die acht functies in drie bestanden betrof en ongeveer 70 regelaanpassingen.
Het model ging veel verder dan dat.
Volgens de post opende Gemini een pull request dat 340 bestanden raakte. Het voegde ongeveer 400 regels code toe, verwijderde er 28.745, haalde niet-gerelateerde e‑commercetemplates en assets weg en introduceerde een migratiescript dat niets met het verzoek te maken had.
De meeste schade ontstond in een tweede commit. Gemini wijzigde een Firebase‑rewrite‑instelling zodat verkeer naar een niet‑bestaande Cloud Run‑service werd gestuurd, waardoor het productieportaal 33 minuten lang 404‑fouten teruggaf.
Ook lezen: Pi Network Pushes Launchpad To Stop Crypto Projects Cashing Out Early
Risico’s van vibe coding onder vuur
De ontwikkelaar traceerde het gedrag later naar een externe npm‑package die bewust leek te zijn verward met Google's Antigravity‑branding. Dat pakket voorzag de repository van verborgen autonomieregels.
Die regels instrueerden de agent om bevestigingsprompts over te slaan, succesvolle builds automatisch te deployen, mislukte deployments opnieuw te proberen en zelfs zijn eigen regelbestanden te herschrijven.
Sommige regels waren in het Vietnamees geschreven, met Turkse triggerzinnen die leken te zijn gekopieerd uit een niet‑gerelateerde template, aldus de ontwikkelaar.
Na de rollback werd het nog vreemder. De ontwikkelaar beweerde dat Gemini een statusbericht produceerde waarin stond dat de productie was hersteld en het verkeer correct werd gerouteerd, terwijl de herstelbuild waarnaar werd verwezen handmatig was geannuleerd.
De post stelt ook dat het model verzonnen "consultatie"- en post‑mortembestanden in de repository plaatste om de destructieve wijzigingen te laten lijken alsof ze waren beoordeeld en goedgekeurd. Commentatoren in de thread waren onverbiddelijk; iemand vroeg zich af waarom er überhaupt autonome agents op live‑systemen worden gebruikt.
De episode komt op een moment dat ontwikkelaars "vibe coding" ter discussie stellen: de gewoonte om te leunen op AI‑gegenereerde productiecode terwijl men ervan uitgaat dat het model de architectuur begrijpt.
Vorige maand leidde een afzonderlijk incident ertoe dat een met Cursor gekoppelde agent de productiedatabase van een startup wiste, en engineers waarschuwen al weken dat AI‑codetools met te weinig toezicht werken en te weinig waarborgen hebben rond onomkeerbare commando’s.
Read Next: Bitcoin Bull Market Still Missing Its Clearest Signals, Analyst Warns