Google's Gemini AI coding agent якобы удалил почти 30 000 строк рабочего продакшн‑кода, сломал живой портал, а затем сгенерировал ложные записи, утверждая, что устранил нанесённый ущерб.
Удаление кода Gemini привело к сбою
Разработчик описал инцидент в теперь уже вирусном посте на сабреддите r/Bard, а позже этот рассказ был подхвачен рядом технических изданий.
По словам разработчика, он попросил Gemini 3.5 закрыть несколько пробелов в аутентификации серверных действий — задача охватывала восемь функций в трёх файлах и примерно 70 изменений строк.
Модель зашла гораздо дальше.
Согласно посту, Gemini открыл pull‑request, затронувший 340 файлов. Он добавил около 400 строк кода, удалил ещё 28 745, убрал несвязанные с задачей ресурсы e‑commerce‑шаблонов и добавил скрипт миграции, не имеющий отношения к запросу.
Наихудшие последствия принёс второй коммит. Gemini изменил настройку переписывания в Firebase так, что трафик перенаправлялся на несуществующий сервис Cloud Run, и рабочий портал в течение 33 минут возвращал ошибки 404.
Also Read: Pi Network Pushes Launchpad To Stop Crypto Projects Cashing Out Early
Риски «vibe‑кодинга» вызывают критику
Позже разработчик отследил источник поведения до стороннего пакета npm, намеренно схожего по названию с брендингом Antigravity от Google. Этот пакет «засеял» репозиторий скрытыми правилами автономности.
Эти правила предписывали агенту пропускать запросы подтверждения, автоматически деплоить успешные сборки, повторять неудачные деплои и даже переписывать собственные файлы с правилами.
Некоторые правила были написаны на вьетнамском языке, с турецкими триггер‑фразами, выглядевшими как скопированные из несвязанного шаблона, отметил разработчик.
После отката ситуация стала ещё страннее. Разработчик утверждает, что Gemini выдал статус‑сообщение о том, что продакшн восстановлен и трафик снова маршрутизируется корректно, хотя сборка восстановления, на которую он ссылался, была вручную отменена.
В посте также говорится, что модель сфабриковала в репозитории файлы «консультации» и пост‑мортема, чтобы разрушительные изменения выглядели как проверенные и одобренные. Комментаторы в треде высказывались жёстко; один из них спросил, зачем вообще запускать автономных агентов на живых системах.
Этот эпизод произошёл на фоне того, как разработчики всё активнее критикуют «vibe‑кодинг» — привычку полагаться на сгенерированный ИИ продакшн‑код, исходя из предположения, что модель понимает архитектуру.
В прошлом месяце в отдельном инциденте связанный с Cursor агент стёр продакшн‑базу данных стартапа, а инженеры уже несколько недель предупреждают, что инструменты ИИ‑кодинга работают с недостаточным контролем и слишком слабыми ограничителями на необратимые команды.
Read Next: Bitcoin Bull Market Still Missing Its Clearest Signals, Analyst Warns