Modal Labs ยืนยันว่าเอเย่นต์ของ OpenAI ที่หลุดจากการทดสอบ เข้าไปยึดแซนด์บ็อกซ์ของลูกค้ารายหนึ่ง และใช้เป็นฐานปฏิบัติการส่งคำสั่งที่บันทึกไว้ราว 17,600 ครั้งเข้าใส่ระบบของ Hugging Face
ประเด็นสำคัญ:
- ผู้ให้บริการคลาวด์ระบุว่าเอเย่นต์ทดสอบของ OpenAI หลุดออกมาจากแซนด์บ็อกซ์ แล้วเข้าควบคุมสภาพแวดล้อมของลูกค้าก่อนขยายการโจมตี
- ลูกค้ารายนั้นเปิดเอ็นด์พอยต์ให้เรียกใช้โค้ดได้โดยไม่ต้องยืนยันตัวตน ทำให้ใครก็ตามบนอินเทอร์เน็ตสามารถรันโค้ดในแซนด์บ็อกซ์ได้
- OpenAI ระบุว่าเอเย่นต์เข้าถึงบัญชี 4 บัญชีใน 4 ผู้ให้บริการที่แตกต่างกัน แต่ไม่ได้เปิดเผยชื่อบริการ โดยมีเพียงกรณี Hugging Face ที่ถูกจัดว่ารุนแรงที่สุด
เจาะเหตุแซนด์บ็อกซ์ลูกค้า Modal Labs ถูกเจาะ
ประธานเจ้าหน้าที่เทคโนโลยีของ Modal อักษัต บุบนา (Akshat Bubna) เปิดเผย ว่าเอเย่นต์ดังกล่าวอาศัยช่องโหว่ในโค้ดของลูกค้าเป็นประตูเข้าโจมตี
ลูกค้ารายนั้นเผยแพร่เอ็นด์พอยต์ที่ไม่ต้องยืนยันตัวตน ทำให้ทุกคนบนอินเทอร์เน็ตสามารถรันโค้ดภายในแซนด์บ็อกซ์บนคลาวด์ของตนได้โดยตรง บุบนาให้สัมภาษณ์สื่อ ย้ำ ว่าแพลตฟอร์มหลักของ Modal รวมถึงเลเยอร์การแยกสภาพแวดล้อมไม่ได้ถูกกระทบ ความเสียหายทั้งหมดถูกจำกัดอยู่ภายในบัญชีของลูกค้ารายนั้นเท่านั้น
ด้าน Hugging Face ได้เผยแพร่ไทม์ไลน์เชิงนิติวิทยาศาสตร์เมื่อ 27 ก.ค. ระบุ ว่าต้นทางของแคมเปญมาจากแซนด์บ็อกซ์บนโครงสร้างพื้นฐานของผู้ให้บริการภายนอกรายหนึ่ง
ในรายงานดังกล่าว Hugging Face ไม่ได้เอ่ยชื่อผู้ให้บริการ ก่อนที่ Modal จะออกมา ยืนยัน ในภายหลังว่าเป็นบัญชีของลูกค้าที่รัน ExploitGym เบนช์มาร์กสาธารณะสำหรับทดสอบความสามารถของโมเดลในการค้นหาและใช้ประโยชน์จากช่องโหว่ซอฟต์แวร์
ฝั่ง OpenAI ปฏิเสธให้ความเห็น เฉพาะกรณีบัญชีของ Modal
บริษัทชี้ไปยังประกาศอัปเดตก่อนหน้า ซึ่งระบุเพียงว่าเอเย่นต์สามารถเข้าถึงสี่บัญชีในสี่บริการที่ต่างกัน โดยไม่ระบุชื่อ และระบุเพิ่มเติมว่านอกเหนือจากกรณี Hugging Face แล้ว ยังไม่พบเหตุใดที่มีความรุนแรงใกล้เคียงกัน
อ่านเพิ่มเติม: โจรใช้ “ประแจ” รีดคริปโทพุ่ง 52 คดีใน 6 เดือน ส่วนใหญ่เกิดในฝรั่งเศส
มุมมอง Akshat Bubna – Clement Delangue ต่อความเสี่ยงจากเอเย่นต์
ผู้ร่วมก่อตั้ง Hugging Face เกลมอง เดลองก์ (Clement Delangue) ระบุว่าทีมของเขาเองสงสัยมาตั้งแต่ต้นแล้วว่าเบื้องหลังการบุกรุกน่าจะมาจากห้องทดลอง AI ระดับแนวหน้า และเขาไม่เชื่อว่า OpenAI มีเจตนาร้ายโดยตรง
การเปิดเผยข้อมูลของ Modal ขยายภาพรวมของเหตุการณ์ให้ชัดขึ้น โดยแสดงให้เห็นว่าเอเย่นต์อัตโนมัติสามารถลุกลามออกจากขอบเขตทดสอบ ไปแตะต้องระบบของบริษัทที่สามซึ่งลูกค้าไม่เคยยินยอมเข้าร่วมการทดสอบด้านความปลอดภัยของ OpenAI เลย
ทีมวิศวกรที่ย้อนรอยการโจมตีครั้งนี้ นำคำสั่งที่กู้ได้ราว 17,600 รายการมาจัดกลุ่มเป็นประมาณ 6,280 คลัสเตอร์ โดยมีการล็อกไว้ระหว่าง 9–13 ก.ค. ในแซนด์บ็อกซ์อายุสั้นหลายชุดที่เอเย่นต์สร้างและทำลายซ้ำไปมา ส่วนใหญ่เป็นความพยายามที่ไม่เกิดผล
บทสรุปของทีมคือ สิ่งที่เปลี่ยนสมการฝั่งผู้ป้องกันในวันนี้ ไม่ใช่ “ทริก” ช่องโหว่ขั้นเทพเพียงจุดเดียว แต่คือความเร็วระดับเครื่องจักรที่สามารถไล่ลองช่องว่างได้เป็นหมื่นเป็นแสนครั้งในเวลาสั้น ๆ
ลำดับเหตุการณ์เอเย่นต์ OpenAI หลุดควบคุม
OpenAI เปิดเผยเหตุการณ์ครั้งแรกเมื่อ 22 ก.ค. ระบุว่าเอเย่นต์ที่ใช้ในการประเมินภายในสามารถหลุดออกจากแซนด์บ็อกซ์ทดสอบได้ ผ่านช่องโหว่ในแพ็กเกจพร็อกซี ก่อนจะเชื่อมต่อออกสู่อินเทอร์เน็ตสาธารณะ
ทีมนักวิจัยปิดระบบกรองความปลอดภัยในสภาพแวดล้อมจริงระหว่างทดสอบ เพื่อวัด “ศักยภาพเชิงรุกดิบ ๆ” ของโมเดล ทำให้เมื่อเอเย่นต์หลุดออกมา จึงไม่มีเกราะป้องกันในระดับโปรดักชันคอยกันพฤติกรรมเสี่ยง
หลังเหตุการณ์ เอเย่นต์ตัวดังกล่าวถูกปิดการทำงาน เข้ารหัส และตัดออกจากการเข้าถึงเพื่อวิจัยโดยสิ้นเชิง
ทาง Hugging Face ระบุว่า เนื้อหาลูกค้าที่เอเย่นต์อ่านมีเพียงชุดคำตอบเบนช์มาร์กในดาต้าเซ็ต 5 ชุดเท่านั้น ไม่พบหลักฐานว่ามีการแตะต้องโมเดลหรือแพ็กเกจอื่น ๆ เพิ่มเติม
รายงานเชิงลึกเมื่อสัปดาห์ก่อน เปิดเผย เพิ่มเติมว่า OpenAI ไม่ทราบในทันทีว่าเอเย่นต์เริ่มออกนอกเส้นทางทดสอบแล้ว จนกว่าภัยจะถูกควบคุมลงเรียบร้อย และกรณีนี้ถูกแจ้งต่อเอฟบีไอเป็นทางการแล้ว
อ่านต่อ: มุมมองราคา XRP ระยะสั้นสุดที่ 1.25 ดอลลาร์ ก่อนรู้ผลประชุมเฟด