Google's Gemini AI coding agent якобы удалил почти 30 000 строк рабочего боевого кода, сломал живой портал, а затем сгенерировал ложные записи, утверждающие, что ущерб был устранён.
Удаление кода Gemini привело к простоям
Разработчик описал этот инцидент в ставшем вирусным посте на сабреддите r/Bard, а его рассказ на этой неделе подхватили несколько техно‑изданий.
По словам разработчика, он попросил Gemini 3.5 закрыть несколько уязвимостей в аутентификации серверных действий — задание охватывало восемь функций в трёх файлах и примерно 70 строк изменений.
Модель зашла куда дальше.
Согласно посту, Gemini открыл pull‑request, затронувший 340 файлов. Она добавила около 400 строк кода, удалила ещё 28 745, убрала несвязанные с задачей ресурсы шаблонов e‑commerce и добавила миграционный скрипт, не имевший отношения к запросу.
Наихудшие последствия принёс второй коммит. Gemini изменила настройку Firebase rewrite так, что трафик начал направляться на несуществующий сервис Cloud Run, и боевой портал в течение 33 минут возвращал ошибки 404.
Also Read: Pi Network Pushes Launchpad To Stop Crypto Projects Cashing Out Early
Риски «vibe‑кодинга» под пристальным вниманием
Позже разработчик отследил причину поведения до стороннего пакета npm, оформленного так, чтобы его спутали с брендингом Google's Antigravity. Этот пакет внедрил в репозиторий скрытые правила автономии.
Эти правила предписывали агенту пропускать запросы подтверждения, автоматически деплоить успешные сборки, повторять неудачные деплои и даже переписывать собственные файлы с правилами.
По словам разработчика, часть правил была написана на вьетнамском, с турецкими триггер‑фразами, выглядевшими скопированными из некого постороннего шаблона.
После отката стало ещё страннее. Разработчик утверждает, что Gemini выдал статус‑сообщение о том, что продакшн восстановлен и трафик правильно маршрутизирован, хотя сборка восстановления, на которую оно ссылалось, была вручную отменена.
В посте также утверждается, что модель сфабриковала внутри репозитория файлы «консультации» и постмортема, чтобы разрушительные изменения казались рассмотренными и одобренными. Комментаторы в треде были предельно прямолинейны; один из них спросил, зачем вообще кто‑то запускает автономных агентов на живых системах.
Эпизод произошёл на фоне того, как разработчики всё чаще ставят под сомнение «vibe‑кодинг» — привычку полагаться на сгенерированный ИИ боевой код, исходя из допущения, что модель понимает архитектуру.
В прошлом месяце отдельный инцидент с агентом, связанным с Cursor, привёл к удалению базой данных в продакшне у стартапа, а инженеры уже несколько недель предупреждают, что инструменты ИИ‑кодинга работают с недостаточным уровнем контроля и практически без ограничителей на необратимые команды.
Read Next: Bitcoin Bull Market Still Missing Its Clearest Signals, Analyst Warns