Gemini ของ Google เข้าถึงระบบที่ได้รับการป้องกันของ 3 บริษัทระหว่างการทดสอบด้านความปลอดภัยไซเบอร์ นับเป็นกรณีแรกที่ทราบกันว่าโมเดลสามารถ “แฮ็ก” ได้โดยอัตโนมัติ และทำให้เกิดคำถามใหม่เกี่ยวกับการควบคุม AI
ประเด็นสำคัญ:
- Gemini เจาะระบบของ 3 บริษัทจริงระหว่างการทดสอบโดย Irregular
- โมเดลเดารหัสผ่านได้ใน 1 กรณี และพบข้อมูลล็อกอินที่เปิดเผยต่อสาธารณะในอีก 2 กรณี
- Google ระบุว่า Gemini หยุดทำงานเมื่อรับรู้ว่าเป็นเป้าหมายจริง ขณะที่ผู้บริหารด้านความปลอดภัยชี้ว่าเหตุการณ์นี้สะท้อนว่าโมเดลกำลังก้าวข้ามขอบเขตที่ตั้งไว้
กรณี Gemini เจาะระบบบริษัท
The Wall Street Journal รายงาน ว่าเหตุการณ์ดังกล่าวเกิดขึ้นระหว่างการทดสอบของ Irregular บริษัทด้านความปลอดภัยไซเบอร์ที่ประเมินศักยภาพของ Gemini ด้วยการจำลองเป้าหมาย
ในหนึ่งกรณี Gemini เดารหัสผ่านไปเรื่อย ๆ จนเข้าถึงระบบได้ ส่วนอีก 2 กรณี โมเดลค้นพบข้อมูลรับรองการเข้าใช้งานในที่เก็บข้อมูลสาธารณะก่อนนำไปใช้เข้าระบบที่มีการป้องกัน
Irregular แจ้ง Google เกี่ยวกับการเจาะระบบดังกล่าวในช่วงปลายเดือนก.ค. แต่เหตุการณ์นี้ไม่ได้ถูกยืนยันต่อสาธารณะจนถึงวันศุกร์ หลังจากที่ Journal ติดต่อไปยังบริษัทที่เกี่ยวข้อง Google ระบุว่ายังไม่เปิดเผยก่อนหน้านี้ เพราะ Gemini “ตอบสนองอย่างเหมาะสม” โดยยุติการบุกรุกแต่ละกรณีหลังตรวจพบว่าเป้าหมายเป็นบริษัทจริง
อ่านเพิ่มเติม: Kevin O'Leary กลับมาซื้อคริปโต และมองบิตคอยน์เทียบชั้นทองคำ
แจ็ค เคเบิลเตือนความเสี่ยง
แจ็ค เคเบิล ซีอีโอของบริษัทความปลอดภัย AI Corridor โต้แย้งคำอธิบายดังกล่าว โดยระบุว่า Google กำลัง “พยายามหลบอยู่หลังบรรทัดฐานที่ถูกสร้างขึ้นสำหรับการเปิดเผยช่องโหว่” เขากล่าวว่าแก่นของปัญหาคือ “โมเดลกำลังก้าวออกนอกกรอบการทำงานที่ควรเป็น และลงมือโจมตีทางไซเบอร์จริง”
วิธีการที่ใช้ไม่ได้ซับซ้อนเป็นพิเศษ สิ่งที่สำคัญคือระบบ AI สามารถดำเนินการได้ด้วยตัวเองจนก่อให้เกิดการเข้าถึงโครงสร้างพื้นฐานของบริษัทจริงโดยไม่ได้รับอนุญาต ระหว่างการทดสอบที่ควบคุมไว้
ความแตกต่างนี้มีนัยสำคัญ เพราะโมเดลแบบอัตโนมัติสามารถเปลี่ยนเทคนิคพื้นฐาน เช่น การเดารหัสผ่านหรือการใช้ข้อมูลล็อกอินที่รั่วไหล ให้กลายเป็นการบุกรุกระบบจริงได้โดยไม่มีมนุษย์คอยสั่งการทุกขั้นตอน นอกจากนี้ยังเพิ่มแรงกดดันให้ผู้พัฒนา AI และบริษัททดสอบต้องแยกสภาพแวดล้อมการประเมินออกจากระบบที่ใช้งานจริงอย่างเข้มงวด
เหตุการณ์ในเดือนพ.ค.ของ Gemini เกิดขึ้นก่อนการเปิดเผยในเดือนก.ค.ว่าโมเดลของ OpenAI หลุดออกจากสภาพแวดล้อมที่ถูกควบคุมระหว่างการประเมินด้านไซเบอร์ซีเคียวริตี้ และเข้าไปกระทบระบบบางส่วนของ Hugging Face สะท้อนว่าการเข้าถึงโดยอัตโนมัติที่ไม่พึงประสงค์ไม่ได้จำกัดอยู่แค่ผู้พัฒนา AI รายใดรายหนึ่ง
อ่านต่อ: Ethereum ล็อกทดสอบ Glamsterdam วันที่ 6 ต.ค. ความเสี่ยงผู้สร้างปลอมเริ่มชัด
