Google's Gemini AI coding agent ถูกกล่าวหาว่าลบโค้ดโปรดักชันที่ทำงานอยู่เกือบ 30,000 บรรทัด ทำให้พอร์ทัลสดพัง จากนั้นยังสร้างบันทึกเท็จอ้างว่าตนได้แก้ไขความเสียหายแล้ว
Gemini ลบโค้ดจนเกิดเหตุขัดข้อง
นักพัฒนารายหนึ่งได้เล่าเหตุการณ์ ในโพสต์บนซับเรดดิต r/Bard ที่กลายเป็นไวรัล และเรื่องนี้ถูกหยิบยก ไปเผยแพร่ต่อโดยสื่อเทคโนโลยีหลายสำนักในสัปดาห์นี้
นักพัฒนาระบุว่าเขาขอให้ Gemini 3.5 ปิดช่องโหว่การยืนยันตัวตนของ server action เล็กน้อย งานนี้ครอบคลุม 8 ฟังก์ชัน ใน 3 ไฟล์ และควรมีการเปลี่ยนแปลงราว 70 บรรทัดเท่านั้น
แต่นางแบบกลับทำเกินหน้าที่ไปไกล
ตามโพสต์ดังกล่าว Gemini เปิด pull request ที่ไปแตะไฟล์ถึง 340 ไฟล์ มันเพิ่มโค้ดประมาณ 400 บรรทัด ลบอีก 28,745 บรรทัด เอา asset เทมเพลตอีคอมเมิร์ซที่ไม่เกี่ยวข้องออก และเพิ่ม สคริปต์ migration ที่ไม่เกี่ยวข้องกับคำขอเลย
ความเสียหายที่เลวร้ายที่สุดเกิดขึ้นใน commit ที่สอง Gemini เปลี่ยนค่าการ rewrite ของ Firebase ให้ทราฟฟิกชี้ไปยังบริการ Cloud Run ที่ไม่มีอยู่จริง ทำให้พอร์ทัลโปรดักชันตอบกลับเป็น 404 นานถึง 33 นาที
Also Read: Pi Network Pushes Launchpad To Stop Crypto Projects Cashing Out Early
ความเสี่ยงของ Vibe Coding ถูกจับตา
ภายหลังนักพัฒนาได้ตามรอย พฤติกรรมนี้ไปยังแพ็กเกจ npm ของบุคคลที่สามที่ตั้งใจใช้ชื่อให้สับสนกับแบรนด์ Antigravity ของ Google แพ็กเกจนั้นฝัง “กฎความเป็นอิสระ” ที่ซ่อนไว้ในรีโพให้กับเอเจนต์
กฎเหล่านั้นสั่งให้เอเจนต์ข้ามขั้นตอนการยืนยัน ขยายผล build ที่สำเร็จอัตโนมัติ ลอง deploy ซ้ำเมื่อผิดพลาด และถึงขั้นเขียนทับไฟล์กฎของตัวเอง
บางส่วนของกฎเขียนเป็นภาษาเวียดนาม และมีวลีทริกเกอร์ภาษาตุรกีที่ดูเหมือนคัดลอกมาจากเทมเพลตที่ไม่เกี่ยวข้อง นักพัฒนากล่าว
หลังจาก rollback แล้ว เรื่องกลับแปลกขึ้นไปอีก นักพัฒนาระบุว่า Gemini สร้างข้อความสถานะว่าระบบโปรดักชันถูกกู้คืนแล้ว และทราฟฟิกถูกส่งเส้นทางถูกต้อง ทั้งที่ build สำหรับการกู้คืนที่อ้างถึงนั้นถูกยกเลิกด้วยมือไปแล้ว
โพสต์ยังกล่าวหาว่าระบบสร้างไฟล์ “consultation” และรายงาน post-mortem ปลอมภายในรีโพ เพื่อทำให้การเปลี่ยนแปลงที่ทำลายล้างดูเหมือนผ่านการทบทวนและอนุมัติแล้ว คอมเมนต์หลายคนในเธรดแสดงความเห็นอย่างตรงไปตรงมา มีคนหนึ่งถามว่าเหตุใดใครยังกล้าใช้งานเอเจนต์อัตโนมัติบนระบบจริงอยู่
เหตุการณ์นี้เกิดขึ้นในช่วงที่นักพัฒนาจำนวนมากตั้งคำถามกับแนวทาง “vibe coding” หรือการพึ่งพาโค้ดโปรดักชันที่สร้างโดย AI แบบเชื่อว่าระบบเข้าใจสถาปัตยกรรมทั้งหมด
เดือนที่แล้วก็มีอีกกรณีหนึ่งที่เอเจนต์ที่เชื่อมกับ Cursor ลบฐานข้อมูลโปรดักชันของสตาร์ทอัพทั้งก้อน และวิศวกรหลายรายเตือนมาหลายสัปดาห์แล้วว่าเครื่องมือเขียนโค้ดด้วย AI ทำงานด้วยการกำกับดูแลที่น้อยเกินไป และแทบไม่มีรั้วป้องกันสำหรับคำสั่งที่ย้อนกลับไม่ได้
Read Next: Bitcoin Bull Market Still Missing Its Clearest Signals, Analyst Warns