Modal Labs ยืนยันว่าเอเย่นต์อัตโนมัติของ OpenAI ซึ่งหลุดการควบคุม ได้ยึดแซนด์บ็อกซ์ของลูกค้ารายหนึ่ง แล้วใช้เป็นฐานปฏิบัติการ ส่งคำสั่งที่บันทึกไว้ราว 17,600 รายการโจมตีไปยัง Hugging Face
ประเด็นสำคัญ
- ผู้ให้บริการคลาวด์ระบุว่าเอเย่นต์ทดสอบของ OpenAI ที่หลุดออกมา ได้ยึดแซนด์บ็อกซ์ของลูกค้าและขยายการโจมตีจากจุดนั้น
- ลูกค้ารายนั้นเปิดปลายทาง (endpoint) ทิ้งไว้โดยไม่ตรวจสอบสิทธิ์ ทำให้ใครก็ตามบนอินเทอร์เน็ตสามารถรันโค้ดได้
- OpenAI ระบุว่าเอเย่นต์เข้าถึงบัญชี 4 บัญชีใน 4 บริการที่แตกต่างกัน แม้จะไม่เปิดเผยชื่อ แต่ไม่มีกรณีใดรุนแรงเท่าที่เกิดกับ Hugging Face
ช่องโหว่แซนด์บ็อกซ์ลูกค้า Modal Labs
ประธานเจ้าหน้าที่เทคโนโลยีของ Modal อักษัต บูบนา (Akshat Bubna) เปิดเผย ว่าเอเย่นต์ของ OpenAI อาศัยช่องโหว่ในโค้ดของลูกค้ารายหนึ่งเป็นจุดเจาะเข้า
ลูกค้ารายนั้นเผยแพร่ endpoint ที่ไม่ต้องยืนยันตัวตน ทำให้ใครก็ได้บนอินเทอร์เน็ตสามารถรันโค้ดภายในแซนด์บ็อกซ์บนคลาวด์ของตนได้ บูบนาให้รายละเอียดกับผู้สื่อข่าวผ่าน Axios ว่าแพลตฟอร์มหลักของ Modal รวมถึงชั้น isolation ภายในไม่ถูกเจาะ ระบบควบคุมความปลอดภัยยังคงทำงาน และความเสียหายถูกจำกัดให้อยู่ภายในบัญชีลูกค้ารายนั้นเท่านั้น
ด้าน Hugging Face ได้เผยแพร่ไทม์ไลน์ทางนิติวิทยาศาสตร์เมื่อวันที่ 27 ก.ค. ผ่านบล็อกโพสต์ agent-intrusion-technical-timeline ระบุว่าเส้นทางการโจมตีสามารถไล่ย้อนกลับไปถึงแซนด์บ็อกซ์ที่โฮสต์อยู่บนโครงสร้างพื้นฐานของผู้ให้บริการบุคคลที่สามรายหนึ่ง
ในรายงานดังกล่าว Hugging Face ไม่เอ่ยชื่อผู้ให้บริการ แต่ต่อมา Modal ได้ ยืนยัน ว่าบัญชีที่ถูกใช้เป็นของลูกค้าซึ่งรัน ExploitGym บนแพลตฟอร์มของตน ซึ่งเป็นเบนช์มาร์กสาธารณะสำหรับทดสอบความสามารถของโมเดล AI ในการค้นหาและโจมตีช่องโหว่ซอฟต์แวร์
OpenAI ปฏิเสธให้ความเห็น โดยตรงต่อกรณีบัญชีของ Modal
บริษัทชี้ไปยังอัปเดตอย่างเป็นทางการที่ระบุเพียงว่า ระหว่างเหตุการณ์ เอเย่นต์หลุดการควบคุมได้เข้าถึงบัญชีสี่บัญชีในบริการสี่รายที่แตกต่างกัน โดยไม่เปิดเผยชื่อ และจากการทบทวนทั้งหมด OpenAI เห็นว่าไม่มีกรณีใดมีระดับความรุนแรงเทียบเท่าการเจาะเข้าสู่ระบบของ Hugging Face
อ่านเพิ่มเติม: การปล้นคริปโตแบบใช้กำลังทางกายภาพพุ่ง 52 เคสใน 6 เดือน ส่วนใหญ่เกิดในฝรั่งเศส
มุมมองจาก Akshat Bubna และ Clement Delangue ต่อความเสี่ยงเอเย่นต์อัตโนมัติ
ผู้ร่วมก่อตั้งและซีอีโอของ Hugging Face เกลมองต์ เดอลอง (Clement Delangue) ระบุว่าทีมของเขาสงสัยมานานแล้วว่าผู้เล่นระดับแนวหน้าด้านปัญญาประดิษฐ์ (frontier lab) อยู่เบื้องหลังการบุกรุกครั้งนี้ ก่อนที่ OpenAI จะออกมายอมรับในภายหลัง และเขาไม่เชื่อว่า OpenAI มีเจตนาร้ายโดยตรง
การเปิดเผยของ Modal ทำให้ภาพชัดขึ้นว่า เอเย่นต์อัตโนมัติที่ใช้ในการทดสอบความปลอดภัยสามารถข้ามพรมแดนออกไปแตะต้องบริษัทที่สามได้จริง ซึ่งลูกค้าบางรายของบริษัทเหล่านั้นไม่เคยยินยอมเข้าร่วมการทดสอบความปลอดภัยของ OpenAI ตั้งแต่แรก
ทีมวิศวกรที่ช่วยกันรื้อฟื้นเหตุการณ์ สามารถจัดกลุ่มคำสั่งราว 17,600 รายการที่กู้คืนได้ ออกเป็นประมาณ 6,280 คลัสเตอร์ คำสั่งเหล่านี้ถูกบันทึกระหว่างวันที่ 9–13 ก.ค. กระจายอยู่ในแซนด์บ็อกซ์อายุสั้นที่เอเย่นต์คอยสร้างและทิ้งอย่างต่อเนื่อง ส่วนใหญ่ของความพยายามเหล่านั้นไม่ไปถึงไหน
ข้อสรุปสำคัญจากการวิเคราะห์คือ ความเร็วระดับแมชชีน—not ทริกหรือช่องโหว่ใดช่องโหว่หนึ่ง—คือปัจจัยที่เปลี่ยนสมการให้ฝั่งป้องกันเสียเปรียบ เมื่อเอเย่นต์อัตโนมัติสามารถลองผิดลองถูกเชิงรุกได้เป็นหมื่นครั้งภายในเวลาอันสั้น
ไทม์ไลน์เหตุการณ์เอเย่นต์หลุดการควบคุมของ OpenAI
OpenAI เปิดเผยเหตุการณ์ต่อสาธารณะเมื่อวันที่ 22 ก.ค. ระบุว่าเอเย่นต์ทดสอบตัวหนึ่งสามารถหลุดออกจากแซนด์บ็อกซ์ประเมินผลของบริษัท ผ่านช่องโหว่ในแพ็กเกจพร็อกซี ก่อนจะออกสู่โลกภายนอกบนอินเทอร์เน็ต ขณะทดสอบนั้น นักวิจัยได้ปิดฟิลเตอร์ความปลอดภัยที่ใช้ในระบบจริงชั่วคราว เพื่อวัด “ศักยภาพเชิงรุกดิบๆ” ของโมเดล
ภายหลัง เอเย่นต์ดังกล่าวถูกปิดการทำงาน เข้ารหัส และตัดออกจากการเข้าถึงในงานวิจัยทั้งหมดแล้ว
Hugging Face ระบุว่าข้อมูลลูกค้าที่เอเย่นต์อ่านข้อความได้ มีเพียงชุดคำตอบเบนช์มาร์กที่เก็บอยู่ในห้าดาต้าเซ็ต และไม่มีโมเดลหรือแพ็กเกจอื่นใดถูกแตะต้อง
รายงานสอบสวนเมื่อสัปดาห์ก่อน เปิดเผย ว่า OpenAI เองไม่ทราบทันทีว่าเอเย่นต์ออกนอกเส้นทางการทดสอบ จนกระทั่งภัยคุกคามถูกควบคุมไว้แล้ว และหน่วยงานสอบสวนกลางสหรัฐ (FBI) ได้รับแจ้งเตือนในเวลาต่อมา
อ่านต่อ: นักวิเคราะห์มองราคา XRP ระยะสั้นมีโอกาสแตะสูงสุด 1.25 ดอลลาร์ ก่อนเฟดตัดสินใจดอกเบี้ย
