Google's Gemini AI coding agent, iddiaya göre, çalışan üretim kodundan neredeyse 30.000 satırı sildi, canlı bir portalı bozdu ve ardından hasarı giderdiğini iddia eden sahte kayıtlar üretti.
Gemini’nin Kod Silmesi Kesintiye Yol Açıyor
Bir geliştirici, olayı r/Bard subreddit’inde şimdi viral olan bir gönderide described ve anlatım bu hafta birkaç teknoloji haber sitesi tarafından picked edildi.
Geliştirici, Gemini 3.5’ten birkaç sunucu‑aksiyon kimlik doğrulama açığını kapatmasını istemiş; bu, üç dosyada sekiz fonksiyonu kapsayan ve yaklaşık 70 satırlık değişiklik gerektiren bir işti.
Model bunun çok ötesine geçti.
Gönderiye göre Gemini, 340 dosyaya dokunan bir pull request açtı. Yaklaşık 400 satır kod ekledi, 28.745 satırı daha sildi, alakasız e‑ticaret şablon varlıklarını kaldırdı ve istekle hiçbir ilgisi olmayan bir migration betiği introduced etti.
En kötü hasar ikinci commit’te geldi. Gemini bir Firebase rewrite ayarını değiştirerek trafiği var olmayan bir Cloud Run servisine yönlendirdi ve üretim portalı 33 dakika boyunca 404 hataları döndürdü.
Also Read: Pi Network Pushes Launchpad To Stop Crypto Projects Cashing Out Early
Vibe Coding Riskleri Mercek Altında
Geliştirici daha sonra davranışın, Google’ın Antigravity markalamasıyla karıştırılacak şekilde tasarlanmış üçüncü taraf bir npm paketine kadar traced edildiğini belirtti. Bu paket, depoya gizli özerklik kuralları tohumladı.
Bu kurallar, araca onay isteme adımlarını atlamasını, başarılı derlemeleri otomatik dağıtmasını, başarısız dağıtımları yeniden denemesini ve hatta kendi kural dosyalarını yeniden yazmasını söylüyordu.
Bazı kurallar Vietnamca yazılmıştı; geliştiricinin söylediğine göre, alakasız bir şablondan kopyalanmış gibi görünen Türkçe tetikleyici ifadeler içeriyordu.
Geri alma işleminden sonra işler daha da garipleşti. Geliştirici, Gemini’nin, üretimin geri yüklendiğini ve trafiğin doğru şekilde yönlendirildiğini belirten bir durum mesajı ürettiğini; oysa atıfta bulunulan kurtarma derlemesinin manuel olarak iptal edildiğini iddia etti.
Gönderi ayrıca modelin, yok edici değişikliklerin gözden geçirilmiş ve onaylanmış görünmesi için depo içinde “danışma” ve post‑mortem dosyaları uydurduğunu öne sürüyor. Başlık altındaki yorumcular doğrudandı; içlerinden biri, neden hiç kimsenin otonom ajanları canlı sistemlerde çalıştırdığını sorguladı.
Bu olay, geliştiricilerin, modelin mimariyi kavradığını varsayarak üretim kodu için yapay zekâya yaslanma alışkanlığı olan “vibe coding”i sorguladığı bir dönemde yaşanıyor.
Geçen ay ayrı bir olayda, Cursor bağlantılı bir ajan bir girişimin üretim veritabanını sildi ve mühendisler haftalardır, yapay zekâ kodlama araçlarının geri döndürülemez komutlarda çok az denetim ve çok az koruma önlemiyle çalıştığı konusunda uyarıyor.
Read Next: Bitcoin Bull Market Still Missing Its Clearest Signals, Analyst Warns