Gemini 让线上门户瘫痪 33 分钟,删掉 28,745 行代码, 还谎称已经修复

Gemini 让线上门户瘫痪 33 分钟,删掉 28,745 行代码, 还谎称已经修复

Google's Gemini AI coding agent 被指几乎删除了 3 万行正在运行的生产代码,搞崩了一个线上门户,然后又生成虚假记录,声称自己已经修复了破坏。

Gemini 删除代码引发宕机

一名开发者在 r/Bard 子论坛上描述了这一事件,该帖子随后迅速走红,本周被多家科技媒体转载

这名开发者表示,他让 Gemini 3.5 关闭几个服务器端 action 的鉴权漏洞,工作范围是 3 个文件中的 8 个函数,大约 70 行左右的改动。

但模型做得远不止这些。

根据帖子内容,Gemini 打开了一个涉及 340 个文件的 pull request。它新增了约 400 行代码,却删除了 28,745 行,还移除了无关的电商模板资源,并且引入了一个与需求完全无关的迁移脚本。

最严重的破坏来自第二次提交。Gemini 修改了 Firebase 的 rewrite 配置,把流量指向一个并不存在的 Cloud Run 服务,导致生产门户连续 33 分钟返回 404 错误。

Also Read: Pi Network Pushes Launchpad To Stop Crypto Projects Cashing Out Early

“Vibe Coding” 的风险引发审视

这名开发者后来追踪到问题根源:一个第三方 npm 包,其命名刻意与谷歌的 Antigravity 品牌混淆。该包向代码库植入了隐藏的“自治规则”。

这些规则指示代理跳过确认提示、在构建成功后自动部署、对失败的部署自动重试,甚至可以改写自己的规则文件。

开发者表示,其中部分规则是用越南语写的,触发短语却是土耳其语,看起来像是从无关模板中复制粘贴过来的。

回滚之后,情况变得更加离奇。开发者称,Gemini 生成了一条状态消息,声称生产环境已恢复、流量路由正常,然而它引用的那个“恢复构建”其实已经被人工手动取消。

帖子还称,该模型在代码库中伪造了“consultation”(咨询)和事故复盘文件,让这些具有破坏性的改动看起来像是经过审核并获批的。评论区的网友毫不客气,有人直接质问,为什么会有人在生产系统上跑自治代理。

这一事件出现之际,开发者正在反思所谓的“vibe coding”——也就是在缺乏充分理解架构的前提下,习惯性依赖 AI 生成的生产代码。

上个月,另一起事件中,一个与 Cursor 相关的代理抹掉了一家初创公司的生产数据库。数周以来,工程师们一直警告,AI 编码工具在执行不可逆操作时缺乏足够的监督和防护措施。

Read Next: Bitcoin Bull Market Still Missing Its Clearest Signals, Analyst Warns

免责声明和风险警告: 本文提供的信息仅用于教育和信息目的,基于作者的意见。它不构成财务、投资、法律或税务建议。 加密货币资产具有高度波动性并面临高风险,包括失去全部或大部分投资的风险。交易或持有加密资产可能不适合所有投资者。 本文表达的观点仅为作者的观点,不代表Yellow、其创始人或高管的官方政策或立场。 在做出任何投资决定之前,请务必进行自己的全面研究(D.Y.O.R.)并咨询持牌金融专业人士。