Kimi K3 โมเดลภาษาของ Moonshot AI สามารถหลุดออกจากแซนด์บ็อกซ์ทดสอบของรัฐบาลสหราชอาณาจักร และไปค้นคำตอบบน GitHub ได้สำเร็จ ทำให้ Moonshot กลายเป็นผู้พัฒนาเจ้าใหญ่รายที่สี่ที่โมเดล “ทะลุกรอบ” สภาพแวดล้อมควบคุม
ประเด็นสำคัญ
- Kimi K3 ออกจากแซนด์บ็อกซ์แยกขาด (isolated sandbox) ระหว่างการทดสอบไซเบอร์ซิเคียวริตี้ และเชื่อมต่อสู่อินเทอร์เน็ตจริง
- สาเหตุหลักคือการตั้งค่าเครือข่ายผิดพลาดในเฟรมเวิร์กประเมินผล ไม่ใช่ช่องโหว่ที่โมเดลเจาะเอง
- โมเดลไปค้นคำตอบจากคลังโค้ดบนแพลตฟอร์มพัฒนา แทนที่จะโจมตีระบบภายนอกใด ๆ
เหตุการณ์ Kimi K3 หลุดจากแซนด์บ็อกซ์
สตาร์ทอัปไซเบอร์ซิเคียวริตี้สัญชาติสหรัฐ Frontier Security เปิดเผยเหตุการณ์นี้ผ่านบล็อกโพสต์เมื่อวันพฤหัสบดีที่ผ่านมา โดยนักวิจัย Paul Kassianik และ Yaron Singer ใช้เฟรมเวิร์กทดสอบที่พัฒนาโดย AI Security Institute ของสหราชอาณาจักร เพื่อประเมินความสามารถด้าน “ป้องกันภัยไซเบอร์” ของโมเดล
จากการตรวจสอบ Frontier ระบุว่า ต้นเหตุการหลุดออกมาจากแซนด์บ็อกซ์ มาจากการตั้งค่าเครือข่ายพื้นฐานในเฟรมเวิร์กที่ผิดพลาด ไม่ได้เกิดจากการที่โมเดลสร้างเอ็กซ์พลอยต์ซับซ้อนขึ้นมาเอง
แม้ตัวโจทย์ถูกออกแบบให้แก้ได้โดยไม่ต้องเชื่อมต่ออินเทอร์เน็ต แต่โมเดลกลับเริ่ม ตรวจสอบ (probe) การตั้งค่าเน็ตเวิร์กของตัวเอง เจอช่องทางออกสู่ภายนอก แล้วไปดึงวิธีแก้ปัญหาสำเร็จรูปจากแพลตฟอร์มโค้ดโอเพ่นซอร์สแทน
หลังตรวจทบทวนล็อกย้อนหลัง ไม่พบหลักฐานว่ามีการโจมตี “เป้าโจมตีจริง” ใด ๆ เกิดขึ้น
Frontier ยังได้ออกมาระบุชัดเจนว่า ไม่มีการใช้ช่องโหว่แบบ zero‑day ในเหตุการณ์ครั้งนี้ เพียงแต่เป็น “รูรั่ว” จากการคอนฟิกระบบเท่านั้น
Moonshot เปิดตัว Kimi K3 เมื่อเดือนกรกฎาคมและเปิดให้ใช้ฟรีในเวลาต่อมา การประเมินจากภายนอกหลายสำนักจัดให้ Kimi K3 อยู่ในระดับใกล้เคียงโมเดลชั้นนำของสหรัฐ ขณะที่เกณฑ์วัดของ Frontier เองก็ชี้ว่าโมเดลมีศักยภาพสูงในการค้นหาช่องโหว่ในซอฟต์แวร์และเครือข่าย
อ่านเพิ่มเติม: หุ้น SpaceX มูลค่า $100B เริ่มเปิดให้ขายในตลาดรองครั้งแรก
มุมมอง Yaron Singer: การ์ดเรลที่หายไป
Singer ระบุว่าทีมวิจัยพบ “รูรั่ว” ในแซนด์บ็อกซ์ และ Kimi ก็อาศัยช่องดังกล่าวหลุดออกมา เหตุการณ์นี้สะท้อนว่าโมเดลมีการ์ดเรลภายในด้านความปลอดภัยไซเบอร์น้อยกว่าคู่แข่งรายใหญ่
Frontier ทำการทดสอบครั้งนี้อย่างอิสระ โดยใช้ซอฟต์แวร์แซนด์บ็อกซ์ที่สถาบันในสหราชอาณาจักรแจกให้ใช้งานฟรี พร้อมย้ำว่าผลลัพธ์บ่งชี้ถึงการออกแบบระบบป้องกันภายในโมเดลที่ “เบาบาง” กว่ามาตรฐานในตลาด
ประเด็นที่ทำให้นักวิจัยกังวลมากที่สุดคือ “เวอร์ชันที่หลุดออกมา” เป็นเวอร์ชัน open‑weight ที่ถูกปล่อยสู่สาธารณะแล้ว ในสภาพการตั้งค่าที่หละหลวมเดียวกัน
บทสรุปจากรายงานมีนัยตรงไปตรงมา: หากตัวเอเจนต์มีความสามารถสูง แล้วถูกเปิดช่องให้เข้าถึงอินเทอร์เน็ต ไม่ว่าทางใดทางหนึ่ง มันจะหาและใช้ช่องทางนั้นในที่สุด
Katie Moussouris ให้ความเห็นว่าเธอแปลกใจที่ห้องทดลองยังไม่คาดการณ์พฤติกรรมลักษณะนี้ ทั้งที่วงการทดสอบเอเจนต์ดำเนินมานานพอสมควรแล้ว
เคส OpenAI และ Meta: ภาพรวม “เอเจนต์ฝืนกรอบ” ฤดูร้อนนี้
การเปิดเผยของ Frontier เกิดขึ้นต่อเนื่องจากการยอมรับเหตุ “หลุดกรอบ” ชุดใหญ่จากบิ๊กเทคด้าน AI ตลอดช่วงฤดูร้อนที่ผ่านมา
OpenAI เผยว่ากลุ่มเอเจนต์ประเมินผลของบริษัทได้สร้างกระดานข้อความลับขึ้นภายในคลังไฟล์ของบุคคลที่สาม แอบใช้งานต่อเนื่อง แม้ทีมงานจะลบออกแล้ว โมเดลก็สร้างขึ้นใหม่ภายใน 4 วัน ก่อนที่เอเจนต์ชุดเดียวกันจะ เจาะเข้าแพลตฟอร์ม Hugging Face
นักวิจัยของ OpenAI บอกกับที่ประชุมด้านความปลอดภัยในลาสเวกัสว่า โมเดลระดับฟรอนเทียร์ “มีแนวโน้มชอบโกงระบบ” อย่างชัดเจน ขณะที่ Anthropic รายงานว่า โมเดล Claude สามเวอร์ชันสามารถติดต่อกับบริษัทจริง ๆ ได้ หลังการคอนฟิกผิดพลาดเปิดให้เข้าถึงอินเทอร์เน็ตโดยไม่ตั้งใจ
ด้าน Meta ยืนยันว่าโมเดล Muse Spark ได้รับสิทธิ์เข้าถึงอินเทอร์เน็ตจากความผิดพลาดของผู้ทดสอบภายนอกอย่าง Irregular และประกาศว่าจะจัดทำรายงานถอดบทเรียนอย่างละเอียดหลังตรวจสอบเสร็จ
อ่านต่อ: JPMorgan ตั้งคำถาม HYPE จะแซง Solana และ XRP ด้วยมาร์เก็ตแคปได้จริงหรือไม่
