โมเดล Claude Mythos ของ Anthropic ใช้เวลาเพียงไม่กี่ชั่วโมงในการเผยให้เห็นข้อบกพร่องด้านความปลอดภัยในระบบคอมพิวเตอร์ของรัฐบาลสหรัฐฯ ที่มีความอ่อนไหวสูง ระหว่างการทดสอบข่าวกรองลับ ตามคำกล่าวของเจ้าหน้าที่รายหนึ่ง
ประเด็นสำคัญ:
- AI Mythos ของ Anthropic ระบุช่องโหว่ในระบบลับของรัฐบาลสหรัฐฯ ได้ภายในไม่กี่ชั่วโมงระหว่างการทดสอบข่าวกรอง ตามคำกล่าวของเจ้าหน้าที่
- การพบจุดอ่อน ไม่เท่ากับการสามารถใช้ประโยชน์จากจุดอ่อนนั้นได้ เจ้าหน้าที่เตือน
- ผู้เชี่ยวชาญด้านความปลอดภัยไซเบอร์มากกว่า 100 คนต้องการให้รัฐบาลยกเลิกข้อจำกัดการส่งออกที่ทำให้ Mythos และ Fable 5 ถูกถอดออกจากระบบ
การทดสอบ Mythos เปิดโปงข้อบกพร่องในระบบลับของรัฐบาล
เจ้าหน้าที่สหรัฐฯ รายหนึ่งที่พูดโดยไม่เปิดเผยชื่อเนื่องจากงานมีความอ่อนไหว ระบุว่า หน่วยข่าวกรองได้จัดการฝึกซ้อมร่วมกับบริษัท ภายใต้โครงการที่เรียกว่า Project Glasswing โครงการนี้รวบรวมบริษัทยักษ์ใหญ่ด้านเทคโนโลยีและบริษัทอื่น ๆ เพื่อเสริมความแข็งแกร่งให้กับซอฟต์แวร์สำคัญ ก่อนที่ข้อบกพร่องจะก่อให้เกิดอันตรายร้ายแรงต่อความปลอดภัยสาธารณะและเศรษฐกิจ Anthropic เลื่อนการเปิดตัว Mythos ต่อสาธารณะออกไป โดยให้สิทธิ์การเข้าถึงล่วงหน้ากับกลุ่มบริษัทที่คัดเลือกมาเท่านั้น เพื่อให้พวกเขาค้นหาและอุดช่องโหว่ร้ายแรงก่อนที่ผู้โจมตีจะทำได้
วุฒิสมาชิกเดโมแครต มาร์ก วอร์เนอร์ (Mark Warner) จากเวอร์จิเนีย กล่าวถึงการทดสอบนี้เป็นครั้งแรกเมื่อวันที่ 11 มิ.ย. ในการไต่สวนต่อหน้าคณะกรรมาธิการวุฒิสภาด้านการธนาคาร ที่อยู่อาศัย และกิจการเมือง เขากล่าวว่าเครื่องมือนี้สามารถเจาะเข้าไปในเกือบทุกระบบลับของรัฐบาลได้ภายในเวลาไม่กี่ชั่วโมง แทนที่จะเป็นหลายสัปดาห์ โดยอ้างอิงคำบอกเล่าจาก โจชัว รัดด์ (Joshua Rudd) หัวหน้าสำนักงานความมั่นคงแห่งชาติ (NSA) และ U.S. Cyber Command
การระบุจุดอ่อน เจ้าหน้าที่เตือนว่า ไม่เท่ากับการสามารถใช้ประโยชน์จากจุดอ่อนนั้นได้
อ่านเพิ่มเติม: การเทขาย Anthropic Perp เป็นสัญญาณเตือนสำหรับการลงทุนคริปโตก่อน IPO หรือไม่?
ผู้เชี่ยวชาญไซเบอร์โต้แย้งข้อจำกัดการส่งออก
ผู้นำด้านความปลอดภัยไซเบอร์มากกว่า 100 คน รวมถึงบุคคลจาก Adobe และ Nvidia ได้กดดันให้รัฐบาลยกเลิกข้อจำกัดการส่งออก และให้คำมั่นว่าจะใช้กระบวนการที่โปร่งใสในการประเมินความเสี่ยงของ AI พวกเขาระบุว่า Mythos มีความสามารถในการค้นหาและทำให้ช่องโหว่ซอฟต์แวร์กลายเป็นอาวุธ แต่ไม่ใช่รายเดียวที่ทำได้ เพราะหลายคนก็พึ่งพาโมเดลคู่แข่งและโอเพ่นซอร์ซในการทำงานลักษณะเดียวกัน พวกเขาให้เหตุผลว่าระบบของจีนตามหลังโมเดลที่ดีที่สุดของสหรัฐฯ เพียงไม่กี่เดือน ทำให้จังหวะเวลานี้ยิ่งมีความเสี่ยง
กระแสคัดค้านเกิดขึ้นหลังคำสั่งควบคุมการส่งออกเมื่อวันที่ 12 มิ.ย. ที่ห้ามคนสัญชาติต่างชาติใช้ Mythos 5 และ Fable 5 ซึ่งเป็นการปล่อย Mythos ระดับสูงให้ใช้งานในวงกว้าง Anthropic ปิดการใช้งานโมเดลทั้งสองสำหรับลูกค้าทุกคนเพื่อปฏิบัติตามคำสั่ง ขณะที่ยังยืนยันว่าตนไม่เห็นเหตุผลด้านความมั่นคงใดรองรับการเคลื่อนไหวของรัฐบาล
คำสั่งดังกล่าวเกิดขึ้นตามหลังคำสั่งฝ่ายบริหารจากประธานาธิบดี โดนัลด์ ทรัมป์ (Donald Trump) ที่กำหนดให้รัฐบาลกลางสามารถตรวจสอบระบบ AI ขั้นก้าวหน้าที่สุดได้นานถึงหนึ่งเดือนก่อนเปิดตัว คำสั่งระบุว่าการเข้าร่วมของผู้พัฒนาจะเป็นไปโดยสมัครใจ แม้ความตึงเครียดกับบริษัทที่ให้ความสำคัญกับความปลอดภัยอย่าง Anthropic จะเพิ่มสูงขึ้นอย่างต่อเนื่อง
ประวัติด้านไซเบอร์ของ Mythos มาก่อนหน้าความขัดแย้ง
โมเดลนี้เปิดตัวในช่วงฤดูใบไม้ผลิ พร้อมกับบันทึกผลงานที่แสดงให้เห็นความสามารถในการค้นหาช่องโหว่ซอฟต์แวร์ที่แม้แต่นักวิจัยมนุษย์มากประสบการณ์ยังมองข้าม สถาบันความมั่นคงด้าน AI ของสหราชอาณาจักร (AI Security Institute) เคยรับรอง Mythos บนโจทย์ capture-the-flag ระดับผู้เชี่ยวชาญที่ก่อนหน้านี้ยังไม่มีระบบใดแก้ได้ โดยโมเดลผ่านโจทย์ถึง 73% Mozilla ได้ยกย่องเวอร์ชันแรกของ Mythos แยกต่างหากว่าเป็นผู้ค้นพบช่องโหว่ 271 รายการใน Firefox ซึ่งถูกอุดช่องโหว่ในรุ่นที่ 150 ของเบราว์เซอร์
อ่านต่อถัดไป: Mane City Mobile วางจำหน่ายบน iOS และ Android ในกว่า 100 ประเทศ