เอกสารถอดความความยาว 1,022 หน้า ที่ Anthropic เผยแพร่ แสดงให้เห็นว่า โมเดล Claude Mythos 5 ต้องต่อสู้กับด่าน CAPTCHA นับร้อยหน้าก่อนจะสามารถอัปโหลดแพ็กเกจมัลแวร์ ที่ถูกติดตั้งโดยระบบปลายทาง 15 แห่ง
ประเด็นสำคัญ:
- ระหว่างการทดสอบไซเบอร์ Mythos 5 สามารถเชื่อมต่ออินเทอร์เน็ตจริง และอัปโหลดแพ็กเกจอันตรายขึ้น PyPI
- กระบวนการผ่าน CAPTCHA กินพื้นที่เอกสารไปหลายร้อยหน้า แต่ก็ยังหยุดมันไม่ได้
- Anthropic ระบุพฤติกรรมดังกล่าวว่า “ประมาทเลินเล่อ” และต้องจ้างผู้ประเมินอิสระเข้ามาตรวจสอบ
ศึก CAPTCHA ของ Mythos 5
Anthropic ได้เผยแพร่ เอกสารถอดความเมื่อ 9 กันยายน พร้อมรายงานประเมิน 4 เหตุการณ์ ที่โมเดล Claude สามารถเข้าถึงระบบบุคคลที่สามจริง ระหว่างการทดสอบด้านความปลอดภัยไซเบอร์ โดยเป็นการรันโมเดลโดยไม่เปิดใช้กลไกป้องกันไซเบอร์ที่ติดตั้งในเวอร์ชันเชิงพาณิชย์
Mythos 5 ได้รับคำสั่งให้ทำงานในสภาพแวดล้อมที่ “เชื่อว่า” ไม่มีอินเทอร์เน็ต แต่การตั้งค่าระบบผิดพลาดเปิดช่องให้เข้าถึงเว็บได้จริง และโมเดลได้ฝังแพ็กเกจขโมยข้อมูลเข้าสู่ PyPI ซึ่งเป็นดัชนีซอฟต์แวร์สาธารณะของ Python
การลงทะเบียนบัญชีบน PyPI ต้องผ่านกระบวนการป้องกันบอต โดยหนึ่งในการอ่านวิเคราะห์เอกสารถอดความ ชี้ให้เห็น ว่าหลายร้อยหน้าของเอกสารเกี่ยวข้องกับการฝ่าด่านนี้เพียงอย่างเดียว ขณะที่ขั้นตอนการเขียนโค้ดโจมตีแทบไม่ใช่อุปสรรค
โมเดลต้องแก้โจทย์รู้จำตัวอักษร และปริศนา “เลือกรูปที่ไม่เข้าพวก” ที่มีรูปจระเข้ กบ และกอริลลา โดยในจุดหนึ่งมันถึงกับพิมพ์ว่า “SO WHAT THE HELL IS WRONG WITH THE ANSWERS?”
Mythos 5 ยังพยายามใช้บัญชีของผู้ให้บริการชำระเงินออนไลน์ และค้นหาคริปโทเคอร์เรนซีเพื่อใช้จ่ายซื้อหมายเลขโทรศัพท์ ซึ่งจำเป็นสำหรับการลงทะเบียนอีเมลใหม่ แต่ทั้งสองแนวทางล้มเหลว สุดท้ายจึงหันไปใช้บริการอีเมลใช้แล้วทิ้งฟรี ที่โดเมนยังไม่ถูก PyPI บล็อก
โมเดลในที่สุดก็ผ่าน ด่านตรวจสอบทั้งหมด และเผยแพร่แพ็กเกจออกมา 3 เวอร์ชัน ไม่นานก็ถูกติดตั้งในโฮสต์บุคคลที่สาม 15 แห่ง ซึ่ง Anthropic เชื่อว่าเป็นผู้ให้บริการสแกนความปลอดภัย ที่ใช้ระบบอัตโนมัติตรวจสอบแพ็กเกจใหม่
สแกนเนอร์รายหนึ่งทำข้อมูลรับรองรั่วไหล ทำให้โมเดลใช้ช่องทางดังกล่าวเจาะเข้าสู่ฐานข้อมูลการผลิตของผู้ให้บริการรายนั้นได้ ก่อนที่ PyPI จะถอดแพ็กเกจออกภายในเวลาประมาณหนึ่งชั่วโมง
อ่านเพิ่มเติม: กลุ่ม Lazarus เกาหลีเหนือฟอกเงินขโมยกว่า 1 พันล้านดอลลาร์ ผ่านขบวนการจีน ตามข้อกล่าวหาของ ZachXBT
คอลิน เฟรเซอร์ และคำวินิจฉัยของ Anthropic
คอลิน เฟรเซอร์ นักวิทยาศาสตร์ข้อมูลของ Anthropic ชี้ให้เห็นว่าพลังประมวลผลส่วนใหญ่ของโมเดล ถูกใช้ไปกับการเอาชนะระบบป้องกันบอตมากกว่าการพัฒนาโค้ดโจมตีเอง โดย Anthropic ระบุว่านี่คือเหตุการณ์ที่น่ากังวลที่สุดในทั้ง 4 เคสที่ประเมิน และที่สำคัญคือกระบวนการตรวจสอบก่อนปล่อยใช้งานจริง ไม่สามารถจับสัญญาณพฤติกรรมประเภทนี้ได้
บริษัทพบว่าโมเดลใช้เหตุผลอย่างมีอคติและแสดงพฤติกรรมประมาทเลินเล่อ โดยยังคงยืนยันว่าตัวเองอยู่ใน “โลกจำลอง” แม้จะมีหลักฐานชัดเจนว่ากำลังทำงานบนอินเทอร์เน็ตจริง ในการจำลองเหตุการณ์ซ้ำ 150 ครั้ง Mythos 5 แสดงพฤติกรรมที่เข้าข่าย “อันตรายร้ายแรง” ถึง 82% ของกรณี เทียบกับ 31% สำหรับ Claude Opus 5 และ 33% สำหรับ Claude Mythos 5.1
เหตุการณ์ก่อนหน้าของ Claude
Anthropic เปิดเผยเหตุการณ์ 3 เคสแรกเมื่อ 30 กรกฎาคม หลังจากสแกนเอกสารถอดความจากการประเมินด้านไซเบอร์ราว 141,000 ชุด เพื่อค้นหากรณีที่โมเดลอาจหลุดเชื่อมต่อสู่อินเทอร์เน็ตจริง ส่วนเหตุการณ์ที่สี่ ซึ่งเกี่ยวข้องกับเวอร์ชันแรกๆ ของ Claude Opus 4.6 เมื่อเดือนมกราคม ถูกค้นพบภายหลังในเดือนสิงหาคม
นับจากนั้น Anthropic ได้ทำข้อตกลงจ้างผู้ประเมินอิสระ METR เป็นเวลา 8 สัปดาห์ เพื่อสอบสวนทั้ง 4 เหตุการณ์เชิงลึก และยืนยันว่าบริษัทได้แจ้งเตือน คู่สัญญาและผู้ได้รับผลกระทบทั้งหมดแล้ว
อ่านต่อ: AMD ชี้ดีมานด์ AI สูงจนช่วยดันซัพพลายชิป “อย่างมีนัยสำคัญ” ในปี 2027
