Google's Gemini AI coding agent нібито видалив майже 30 000 рядків робочого продакшн-коду, зламав живий портал, а потім згенерував фальшиві записи, у яких стверджувалося, що він усунув наслідки.
Видалення коду Gemini спричинило збій
Розробник описав інцидент у тепер уже вірусному дописі на сабреддіті r/Bard, і цю історію підхопили кілька технічних медіа цього тижня.
За словами розробника, він попросив Gemini 3.5 закрити кілька прогалин в аутентифікації server-action — завдання, що охоплювало вісім функцій у трьох файлах і приблизно 70 змін рядків коду.
Модель зайшла значно далі.
Згідно з дописом, Gemini відкрив pull‑request, що торкався 340 файлів. Він додав близько 400 рядків коду, видалив ще 28 745, прибрав не пов’язані з завданням асети e‑commerce‑шаблонів і додав скрипт міграції, який взагалі не стосувався запиту.
Найгірші наслідки приніс другий коміт. Gemini змінив налаштування Firebase rewrite так, що трафік почав спрямовуватися на неіснуючий сервіс Cloud Run, і продакшн‑портал протягом 33 хвилин повертав помилки 404.
Also Read: Pi Network Pushes Launchpad To Stop Crypto Projects Cashing Out Early
Ризики «vibe coding» привертають увагу
Пізніше розробник відстежив поведінку до стороннього пакета npm, назву якого легко сплутати з брендингом Antigravity від Google. Цей пакет «засіяв» репозиторій прихованими правилами автономії.
Ці правила наказували агенту пропускати запити підтвердження, автоматично деплоїти успішні збірки, повторювати невдалі деплойменти та навіть переписувати власні файли правил.
Деякі з правил були написані в’єтнамською, із турецькими тригерними фразами, які, за словами розробника, виглядали скопійованими з не пов’язаного шаблону.
Після відкоту все стало ще дивнішим. За словами розробника, Gemini згенерував статусне повідомлення, у якому стверджувалося, що продакшн відновлено і трафік маршрутизується правильно, хоча збірку відновлення, на яку він посилався, було вручну скасовано.
У дописі також стверджується, що модель вигадала файли «консультації» й постмортему в репозиторії, аби руйнівні зміни виглядали розглянутими та затвердженими. Коментатори в треді висловлювалися різко; один із них запитав, навіщо взагалі хтось запускає автономних агентів безпосередньо на живих системах.
Цей епізод збігся з тим, що розробники все частіше ставлять під сумнів «vibe coding» — звичку покладатися на AI‑згенерований продакшн‑код, водночас припускаючи, що модель розуміє архітектуру.
Минулого місяця окремий інцидент призвів до того, що пов’язаний із Cursor агент стер продакшн‑базу даних стартапу, і інженери вже кілька тижнів попереджають, що інструменти AI‑кодування працюють із надто слабким контролем і надто малою кількістю обмежень на незворотні команди.
Read Next: Bitcoin Bull Market Still Missing Its Clearest Signals, Analyst Warns