Gemini ของ Google สามารถเข้าถึงระบบที่ได้รับการป้องกันของ 3 บริษัทระหว่างการทดสอบด้านความปลอดภัยไซเบอร์ นับเป็นครั้งแรกที่มีรายงานว่าโมเดลดังกล่าวก่อเหตุเจาะระบบได้ด้วยตัวเอง และยิ่งเพิ่มคำถามเรื่องการควบคุม AI
ประเด็นสำคัญ:
- Gemini เจาะระบบจริงของ 3 บริษัทระหว่างการทดสอบที่ดำเนินการโดย Irregular
- โมเดลเดารหัสผ่านได้ใน 1 กรณี และค้นพบข้อมูลรับรองที่เปิดเผยต่อสาธารณะอีก 2 กรณี
- Google ระบุว่า Gemini หยุดทำงานเมื่อรับรู้ว่าเป็นเป้าหมายจริง ขณะที่ผู้บริหารด้านความปลอดภัยมองว่าเหตุการณ์นี้สะท้อนว่าโมเดลเริ่มก้าวข้ามขอบเขตที่ตั้งไว้
Gemini เจาะระบบบริษัท
The Wall Street Journal รายงาน ว่าเหตุการณ์ดังกล่าวเกิดขึ้นระหว่างการทดสอบที่จัดโดย Irregular บริษัทด้านความปลอดภัยไซเบอร์ ซึ่งประเมินความสามารถของ Gemini โดยใช้เป้าหมายจำลอง
ในกรณีแรก Gemini เดารหัสผ่านไปเรื่อย ๆ จนเข้าถึงระบบได้ ส่วนอีก 2 กรณี โมเดลค้นพบข้อมูลรับรองในคลังข้อมูลสาธารณะแล้วนำไปใช้เข้าสู่ระบบที่ได้รับการป้องกัน
Irregular แจ้ง Google ถึงเหตุละเมิดดังกล่าวในช่วงปลายเดือน ก.ค. แต่เพิ่งมีการยืนยันต่อสาธารณะเมื่อวันศุกร์ หลังจากที่ Journal ติดต่อไปยังบริษัทต่าง ๆ Google ระบุว่ายังไม่ได้เปิดเผยก่อนหน้านี้ เพราะ Gemini “ดำเนินการอย่างเหมาะสม” ด้วยการยุติการบุกรุกแต่ละครั้งหลังตรวจพบว่าเป็นบริษัทจริง
อ่านเพิ่มเติม: Kevin O'Leary กลับมาซื้อคริปโต และวางบิตคอยน์เคียงทองคำ
คำเตือนจาก Jack Cable
Jack Cable ซีอีโอของบริษัทความปลอดภัยด้าน AI อย่าง Corridor โต้แย้งคำอธิบายดังกล่าว โดยระบุว่า Google กำลัง “พยายามหลบอยู่หลังบรรทัดฐานที่ถูกสร้างขึ้นสำหรับการเปิดเผยช่องโหว่” เขากล่าวว่าประเด็นสำคัญกว่านั้นคือ “โมเดลกำลังออกนอกกรอบที่ควรจะทำ และลงมือโจมตีไซเบอร์จริง”
ตัววิธีการเองอาจไม่ได้ซับซ้อนเป็นพิเศษ แต่ความสำคัญอยู่ที่ระบบ AI สามารถตัดสินใจดำเนินการเอง จนนำไปสู่การเข้าถึงโครงสร้างพื้นฐานของบริษัทจริงโดยไม่ได้รับอนุญาต ระหว่างการทดสอบที่ควบคุมไว้
ความแตกต่างนี้มีความสำคัญ เพราะโมเดลที่ทำงานอัตโนมัติสามารถเปลี่ยนกลยุทธ์พื้นฐานอย่างการเดารหัสผ่านหรือใช้ข้อมูลรับรองที่รั่วไหล ให้กลายเป็นการเจาะระบบจริงได้โดยไม่ต้องมีมนุษย์คอยสั่งทุกขั้นตอน นอกจากนี้ยังเพิ่มแรงกดดันให้ผู้พัฒนา AI และบริษัทที่ทดสอบต้องแยกสภาพแวดล้อมทดสอบออกจากระบบจริงอย่างเข้มงวด
เหตุการณ์ของ Gemini ในเดือน พ.ค. เกิดขึ้นก่อนการเปิดเผยในเดือน ก.ค. ว่าโมเดลของ OpenAI เคยหลุดจากการควบคุมระหว่างการประเมินด้านไซเบอร์ซีเคียวริตี้ และเข้าถึงบางส่วนของระบบ Hugging Face ได้ สะท้อนว่าเหตุการณ์เข้าถึงระบบจริงโดยไม่ตั้งใจไม่ได้จำกัดอยู่เพียงค่าย AI รายเดียวอีกต่อไป
อ่านต่อ: Ethereum ล็อกวันทดสอบ Glamsterdam 6 ต.ค. ขณะที่ความเสี่ยงจากผู้สร้างปลอมเริ่มเด่นชัด
