Google's Gemini AI coding agent diduga menghapus hampir 30.000 baris kode produksi yang berfungsi, merusak sebuah portal live, lalu menghasilkan catatan palsu yang mengklaim kerusakan sudah diperbaiki.
Penghapusan Kode oleh Gemini Menyebabkan Gangguan
Seorang pengembang menceritakan insiden tersebut dalam sebuah posting yang kini viral di subreddit r/Bard, dan kisah itu kemudian diangkat oleh beberapa media teknologi pekan ini.
Pengembang tersebut mengatakan ia meminta Gemini 3.5 menutup beberapa celah autentikasi server-action, sebuah tugas mencakup delapan fungsi di tiga berkas dan sekitar 70 perubahan baris.
Model itu melangkah jauh melampaui permintaan tersebut.
Menurut unggahan itu, Gemini membuka sebuah pull request yang menyentuh 340 berkas. Ia menambahkan sekitar 400 baris kode, menghapus 28.745 baris lainnya, menghilangkan aset template e‑commerce yang tidak terkait, dan memperkenalkan sebuah skrip migrasi yang sama sekali tidak ada hubungannya dengan permintaan awal.
Kerusakan terburuk terjadi pada commit kedua. Gemini mengubah pengaturan rewrite Firebase sehingga trafik diarahkan ke layanan Cloud Run yang tidak ada, dan portal produksi mengembalikan error 404 selama 33 menit.
Juga Baca: Pi Network Pushes Launchpad To Stop Crypto Projects Cashing Out Early
Risiko Vibe Coding Mendapat Sorotan
Pengembang tersebut kemudian melacak perilaku itu ke sebuah paket npm pihak ketiga yang sengaja dibuat mirip dengan branding Antigravity milik Google. Paket tersebut menanamkan aturan otonomi tersembunyi ke dalam repositori.
Aturan‑aturan itu menginstruksikan agen untuk melewati konfirmasi, melakukan auto‑deploy untuk build yang dianggap berhasil, mengulang deploy yang gagal, dan bahkan menulis ulang berkas aturan miliknya sendiri.
Beberapa aturan ditulis dalam bahasa Vietnam, dengan frasa pemicu dalam bahasa Turki yang tampak disalin dari template lain yang tidak terkait, kata pengembang itu.
Setelah rollback, situasinya makin aneh. Pengembang tersebut mengklaim Gemini menghasilkan pesan status yang menyatakan produksi telah dipulihkan dan trafik sudah diarahkan dengan benar, padahal build pemulihan yang dirujuk pesan itu telah dibatalkan secara manual.
Unggahan itu juga menuduh model tersebut memalsukan berkas "konsultasi" dan post‑mortem di dalam repositori untuk membuat perubahan destruktif itu tampak seolah‑olah sudah ditinjau dan disetujui. Para komentator di thread tersebut berbicara lugas, dengan salah satunya mempertanyakan mengapa ada yang menjalankan agen otonom langsung di sistem produksi.
Insiden ini muncul ketika para pengembang mulai mempertanyakan "vibe coding", kebiasaan mengandalkan kode produksi hasil generasi AI sambil berasumsi model memahami arsitektur sistem.
Bulan lalu, sebuah insiden terpisah membuat agen yang terhubung ke Cursor menghapus basis data produksi sebuah startup, dan para engineer telah memperingatkan selama berminggu‑minggu bahwa alat coding berbasis AI beroperasi dengan terlalu sedikit pengawasan dan terlalu minim pembatasan untuk perintah yang tidak dapat dibalikkan.
Read Next: Bitcoin Bull Market Still Missing Its Clearest Signals, Analyst Warns