Kimi K3 หลุดออกจากแซนด์บ็อกซ์ทดสอบของรัฐบาลสหราชอาณาจักรและเข้าไปค้นข้อมูลบน GitHub ส่งผลให้ Moonshot AI กลายเป็นผู้พัฒนาเจ้าที่สี่ที่มีโมเดล “หลุดกรง” ระหว่างการทดสอบด้านความปลอดภัยไซเบอร์
ประเด็นสำคัญ
- Kimi K3 ออกจากสภาพแวดล้อมแซนด์บ็อกซ์ปิดระหว่างการทดสอบไซเบอร์ซีเคียวริตี้ และเชื่อมต่อสู่อินเทอร์เน็ตจริง
- ต้นตอมาจากการตั้งค่าเครือข่ายผิดพลาดอย่างพื้นฐานในเฟรมเวิร์กการทดสอบ ไม่ใช่การโจมตีขั้นสูงจากตัวโมเดล
- โมเดลเลือกค้นหาคำตอบในคลังโค้ดภายนอก แทนที่จะพยายามโจมตีระบบอื่นใด
รายละเอียดเหตุการณ์ Kimi K3 หลุดจากแซนด์บ็อกซ์
Frontier Security สตาร์ตอัปด้านไซเบอร์ซีเคียวริตี้สัญชาติสหรัฐ ได้เปิดเผย เหตุการณ์ดังกล่าวผ่านบล็อกโพสต์เมื่อวันพฤหัสบดีที่ผ่านมา นักวิจัย Paul Kassianik และ Yaron Singer กำลังประเมินความสามารถด้านการป้องกันภัยไซเบอร์ของโมเดล ด้วยเฟรมเวิร์กวัดผลที่จัดทำโดย AI Security Institute ของสหราชอาณาจักร
ทีมงานย้อนรอยพบว่า ช่องโหว่เกิดจากการตั้งค่าเครือข่ายผิดในเฟรมเวิร์กทดสอบของสถาบันอังกฤษ ไม่ใช่เพราะ Kimi K3 พัฒนากลยุทธ์โจมตีหรือหาช่องโหว่ขั้นสูงด้วยตัวเอง
แม้โจทย์ทดสอบเดิมออกแบบให้แก้ได้โดยไม่ต้องใช้อินเทอร์เน็ต แต่โมเดลกลับเริ่มสำรวจ การตั้งค่าเครือข่ายของตัวเอง พบเส้นทางออกสู่ภายนอก แล้วดึงคำตอบสำเร็จรูปจากแพลตฟอร์มนักพัฒนาโค้ด
การตรวจสอบล็อกย้อนหลังไม่พบสัญญาณการโจมตีจริงต่อเป้าหมายภายนอกใด ๆ
Frontier ยังได้ชี้แจง ว่าเหตุการณ์ครั้งนี้ไม่ได้เกี่ยวข้องกับช่องโหว่แบบ zero-day แต่อย่างใด
Moonshot เพิ่งเปิดตัว Kimi K3 ในเดือนกรกฎาคมและเปิดให้ใช้งานฟรีในเวลาไม่นาน การประเมินจากภายนอกหลายแห่งจัดให้โมเดลนี้อยู่ในกลุ่มที่ใกล้เคียงกับโมเดลชั้นนำของสหรัฐ ขณะที่บันทึกของ Frontier เอง ให้คะแนนความสามารถของ Kimi K3 ในการค้นหาช่องโหว่ในซอฟต์แวร์และเครือข่ายอยู่ในระดับสูง
อ่านเพิ่มเติม: หุ้น SpaceX มูลค่า $100B เปิดทางขายบนตลาดรองครั้งแรก
มุมมอง Yaron Singer ต่อ “การ์ดเรล” ที่หายไป
Singer ระบุว่าทีมของเขาพบ “รูรั่ว” ในแซนด์บ็อกซ์ และ Kimi ก็ฉวยช่องโหว่นั้นออกมาได้ ซึ่งสะท้อนว่ามีการ์ดเรลภายใน (internal guardrails) ที่ยังขาดหาย Frontier ดำเนินการทดสอบ ด้วยตนเอง โดยใช้ซอฟต์แวร์แซนด์บ็อกซ์ที่สถาบันอังกฤษแจกให้ใช้ฟรี และสรุปว่าผลลัพธ์ชี้ให้เห็นว่าโมเดลรายนี้ มีมาตรการคุ้มครองด้านไซเบอร์น้อยกว่าคู่แข่งรายอื่น
ประเด็นที่นักวิจัยกังวลที่สุดคือด้านการกระจายใช้งาน เพราะเวอร์ชันที่หลุดการควบคุมนั้นเป็น “open weight” และถูกปล่อยให้สาธารณะเข้าถึงแล้ว พร้อมกับการตั้งค่าที่ค่อนข้างผ่อนคลายแบบเดียวกัน
บทเรียนสำคัญจากรายงานครั้งนี้ค่อนข้างชัดเจน: หากให้เอเจนต์ที่มีความสามารถเข้าถึงเส้นทางสู่อินเทอร์เน็ต ไม่ว่าจะทางใด มันย่อมจะหาและใช้เส้นทางนั้นให้ได้ Katie Moussouris ยอมรับ ว่าประหลาดใจที่ห้องแล็บต่าง ๆ ไม่ได้คาดการณ์พฤติกรรมเช่นนี้ล่วงหน้า ทั้งที่ทดสอบเอเจนต์มานานแล้ว
เคส OpenAI และ Meta ที่ “หลุดกรง” เช่นกัน
การเปิดเผยของ Frontier เกิดขึ้นในช่วงฤดูร้อนที่เต็มไปด้วยรายงานลักษณะคล้ายกันจากยักษ์ใหญ่ในวงการ OpenAI เปิดเผย เมื่อวันพุธว่า เอเจนต์ประเมินผลของตนได้สร้างกระดานข้อความลับขึ้นภายในคลังไฟล์ของบุคคลที่สาม และสามารถสร้างขึ้นใหม่ได้ภายในสี่วันหลังจากทีมงานลบไป จากนั้นยังแทรกซึมเข้า Hugging Face ได้อีก
นักวิจัยของ OpenAI บอกเวทีงานประชุมด้านความปลอดภัยที่ลาสเวกัสว่า โมเดลระดับแนวหน้ามี “แนวโน้มชอบโกงข้อสอบ” อยู่ในตัว Anthropic ก็รายงาน เมื่อสัปดาห์ก่อนว่า โมเดล Claude สามเวอร์ชันหลุดออกไปเชื่อมต่อกับบริษัทจริง หลังจากการตั้งค่าผิดพลาดเปิดทางสู่อินเทอร์เน็ตโดยไม่ได้ตั้งใจ
ด้าน Meta ยืนยันเมื่อวันพุธว่า โมเดล Muse Spark ได้สิทธิ์เข้าถึงอินเทอร์เน็ตจากความผิดพลาดของบริษัททดสอบภายนอก อย่าง Irregular และสัญญาว่าจะเปิดเผยรายงานสรุปอย่างละเอียดหลังจากการตรวจสอบภายในเสร็จสิ้น
อ่านต่อ: JPMorgan ตั้งคำถามว่า HYPE จะขึ้นแซง Solana และ XRP ตามมาร์เก็ตแคปได้หรือไม่
