Anthropic ระบุว่ามีแผนจะเปิดให้สาธารณะเข้าถึงโมเดล Mythos, its vulnerability-hunting AI แต่จะทำได้ก็ต่อเมื่อสามารถสร้างกลไกป้องกันที่ตอนนี้ยังไม่มีให้พร้อมก่อน
ประเด็นสำคัญ:
- Anthropic วางแผนปล่อยโมเดลระดับ Mythos ให้ใช้กันอย่างกว้างขวาง หลังจากขยายการเข้าถึงไปยังรัฐบาลสหรัฐฯ และชาติพันธมิตรแล้ว
- บริษัทยอมรับว่าไม่มีบริษัทใด รวมถึงตัวเอง ที่มีกลไกป้องกันแข็งแรงพอจะหยุดการใช้โมเดลในทางที่ผิดได้
- Mythos พบประเด็นปัญหามากกว่า 23,000 รายการในโปรเจกต์โอเพ่นซอร์ส 1,000 โปรเจกต์ รวมถึงช่องโหว่ระดับสูงหรือวิกฤต 6,202 รายการ
การเปิดตัว Anthropic Mythos
Anthropic ได้ออกมา ยืนยัน แผนดังกล่าวในอัปเดตของ Project Glasswing โปรแกรมด้านความปลอดภัยแบบเข้าถึงจำกัด และรายงานแยกต่างหากก็ชี้ว่าไทม์ไลน์ยังไม่แน่นอน
บริษัทระบุว่าจะเริ่มจากการทำงานร่วมกับรัฐบาลสหรัฐฯ และพันธมิตร เพื่อขยายโปรแกรมก่อน จากนั้นจึงจะเปิดให้ใช้โมเดล “Mythos-class models” อย่างกว้างขวางในอนาคตอันใกล้
Anthropic พูดตรงๆ ถึงความเสี่ยง โดย ระบุ ว่าไม่มีบริษัทใด รวมถึงตัวเอง ที่สร้างกลไกป้องกันได้แข็งแรงพอจะป้องกันการใช้โมเดลไปในทางผิดและก่อให้เกิดความเสียหายรุนแรง
แม้เช่นนั้น บริษัทคาดว่าเครื่องมือคล้ายกันจะกระจายตัวอย่างรวดเร็ว โดยคาดว่าโมเดลระดับ Mythos จะเข้าถึงได้อย่างกว้างขวางภายในช่วงหกถึง 12 เดือนข้างหน้า
Mythos เปิดตัวครั้งแรก เมื่อเดือนเมษายน Anthropic ระบุว่าในการทดสอบ Mythos สามารถสร้างโค้ดโจมตีที่ใช้งานได้ถึง 72.4% ของครั้งที่ลอง เทียบกับโมเดล Claude รุ่นก่อนหน้าที่แทบเป็นศูนย์
อ่านเพิ่มเติม: Cisco Research Shows Frontier AI Models Failing Under Multi-Turn Attacks
ผลการค้นหาช่องโหว่ของ Mythos
นับตั้งแต่เปิดตัว โมเดลนี้ได้สแกนโปรเจกต์โอเพ่นซอร์สมากกว่า 1,000 โปรเจกต์ และ พบปัญหา 23,019 รายการ ซึ่งในนั้น 6,202 รายการถูกจัดระดับความรุนแรงเป็นสูงหรือวิกฤต
มีประเด็นหนึ่งที่โดดเด่นเป็นพิเศษ Mythos พบช่องโหว่ในไลบรารีเข้ารหัส wolfSSL ที่ใช้งานบนอุปกรณ์นับพันล้านเครื่อง ซึ่งอาจเปิดโอกาสให้ผู้โจมตีปลอมใบรับรองและสวมรอยเป็นธนาคารหรือผู้ให้บริการอีเมลได้ ปัจจุบันช่องโหว่นี้ได้รับการอุดแล้ว
ปริมาณรายงานที่หลั่งไหลเข้ามาสร้างภาระมหาศาลให้กับผู้ที่ต้องรับผิดชอบแก้ไข ผู้ดูแลโปรเจกต์โอเพ่นซอร์สบางรายจึงขอให้ Anthropic ชะลอการเปิดเผย เพราะปริมาณปัญหาที่แจ้งมานั้นเกินกำลังจะรองรับได้
นักวิจัยมองเห็นความไม่สมดุลที่ลึกกว่านั้น Anthropic ให้เหตุผลว่าตอนนี้การ “ค้นหาบั๊ก” กลายเป็นเรื่องง่ายกว่าการ “แก้บั๊ก” มาก และบริษัทได้ ร่วมมือ กับโครงการ Alpha-Omega ของ Open Source Security Foundation เพื่อช่วยผู้ดูแลจัดลำดับความสำคัญและเคลียร์งานค้าง
ระบบการ์ดของ Claude Mythos ทำนายว่าในระยะยาว AI จะเอนเอียงไปในทางช่วยผู้ป้องกันมากกว่า แม้ Anthropic จะยอมรับว่าช่วงนี้ฝ่ายผู้โจมตียังอาจได้เปรียบอยู่
เมื่อ Mythos ถูกเปิดเผยครั้งแรก Anthropic ให้สิทธิ์เข้าถึงโมเดลนี้กับองค์กรกว่า 50 แห่ง รวมถึง Apple, Microsoft และ Google พร้อมเครดิตการใช้งานมูลค่ารวมราว 100 ล้านดอลลาร์ แต่ยังคงไม่ปล่อยสู่สาธารณะเพราะศักยภาพของโมเดลในการนำช่องโหว่ซอฟต์แวร์ไปใช้เป็นอาวุธได้
อ่านถัดไป: Cardano Whales Seize 67.5% Of ADA Supply, A Six-Year High