Claude Mythos ของ Anthropic ใช้เวลาเพียงไม่กี่ชั่วโมงในการเปิดโปงช่องโหว่ด้านความปลอดภัยในระบบคอมพิวเตอร์ของรัฐบาลสหรัฐฯ ที่มีความอ่อนไหวสูง ระหว่างการทดสอบข่าวกรองลับ เจ้าหน้าที่คนหนึ่งระบุ
ประเด็นสำคัญ:
- เจ้าหน้าที่ระบุว่า ระหว่างการทดสอบด้านข่าวกรอง AI Mythos ของ Anthropic ตรวจพบช่องโหว่ในระบบลับของรัฐบาลสหรัฐฯ ภายในไม่กี่ชั่วโมง
- เจ้าหน้าที่เตือนว่า การค้นพบจุดอ่อนยังไม่เท่ากับการโจมตีหรือใช้ประโยชน์จากมันได้จริง
- ผู้เชี่ยวชาญไซเบอร์มากกว่า 100 คนต้องการให้รัฐบาลยกเลิกมาตรการควบคุมการส่งออกที่ทำให้ Mythos และ Fable 5 ถูกถอดออกจากระบบ
การทดสอบ Mythos เปิดโปงจุดบกพร่องในระบบลับของรัฐบาล
เจ้าหน้าที่สหรัฐฯ รายหนึ่งซึ่งให้ข้อมูลโดยไม่เปิดเผยชื่อเนื่องจากงานมีความอ่อนไหว ระบุว่า หน่วยงานข่าวกรองได้จัดการซ้อมรบร่วมกับบริษัทภายใต้โครงการที่ชื่อว่า Project Glasswing โครงการนี้รวบรวมบริษัทยักษ์ใหญ่ด้านเทคโนโลยีและบริษัทอื่น ๆ เพื่อทำให้ซอฟต์แวร์ที่มีความสำคัญยิ่งปลอดภัยขึ้น ก่อนที่ช่องโหว่จะก่ออันตรายร้ายแรงต่อความปลอดภัยสาธารณะและเศรษฐกิจ Anthropic ชะลอการเปิดตัว Mythos สู่สาธารณะ โดยให้สิทธิ์เข้าถึงล่วงหน้าแก่บริษัทกลุ่มเล็ก ๆ เพื่อให้พวกเขาค้นหาและอุดช่องโหว่ร้ายแรงก่อนที่ผู้โจมตีจะใช้ประโยชน์
วุฒิสมาชิกเดโมแครต มาร์ก วอร์เนอร์ จากรัฐเวอร์จิเนีย กล่าวถึงการทดสอบดังกล่าวเป็นครั้งแรกเมื่อวันที่ 11 มิ.ย. ระหว่างการไต่สวนต่อหน้าคณะกรรมาธิการธนาคาร เคหะ และกิจการเมืองของวุฒิสภา เขาระบุว่า เครื่องมือนี้สามารถเจาะเข้าไปในเกือบทุกระบบลับของรัฐบาลได้ภายในเวลาไม่กี่ชั่วโมง แทนที่จะต้องใช้เวลาหลายสัปดาห์ โดยอ้างอิงคำบอกเล่าจาก โจชัว รัดด์ ผู้นำสำนักงานความมั่นคงแห่งชาติ (NSA) และกองบัญชาการไซเบอร์สหรัฐฯ
เจ้าหน้าที่ย้ำเตือนว่า การระบุจุดอ่อนยังไม่เท่ากับการนำไปใช้โจมตีจริง
อ่านเพิ่มเติม: การเทขาย Anthropic Perp คือสัญญาณเตือนการเดิมพันคริปโตก่อน IPO หรือไม่?
ผู้เชี่ยวชาญไซเบอร์โต้แย้งมาตรการควบคุมการส่งออก
ผู้นำด้านความปลอดภัยไซเบอร์มากกว่า 100 คน รวมถึงบุคคลจาก Adobe และ Nvidia ได้กดดันให้รัฐบาลยกเลิกมาตรการควบคุมการส่งออก และให้คำมั่นว่าจะมีขั้นตอนที่โปร่งใสในการชั่งน้ำหนักความเสี่ยงของ AI พวกเขาระบุว่า Mythos มีความสามารถในการค้นหาและทำให้ช่องโหว่ซอฟต์แวร์กลายเป็นอาวุธ แต่ก็ไม่ได้มีความพิเศษเกินใคร เพราะหลายคนยังพึ่งพาโมเดลคู่แข่งและโอเพนซอร์ซในการทำงานลักษณะเดียวกัน พวกเขาโต้แย้งว่าระบบของจีนตามหลังโมเดลชั้นนำของสหรัฐฯ เพียงไม่กี่เดือน ทำให้ช่วงเวลานี้ยิ่งเสี่ยงเป็นพิเศษ
กระแสคัดค้านเกิดขึ้นหลังคำสั่งควบคุมการส่งออกเมื่อวันที่ 12 มิ.ย. ที่ห้ามชาวต่างชาติใช้ Mythos 5 และ Fable 5 ซึ่งเป็นการเปิดตัว Mythos ระดับกว้าง Anthropic ปิดการใช้งานโมเดลทั้งสองสำหรับลูกค้าทุกคนเพื่อปฏิบัติตามคำสั่ง แม้จะยังยืนยันว่าไม่เห็นเหตุผลด้านความมั่นคงที่รองรับการตัดสินใจของรัฐบาล
คำสั่งดังกล่าวมีที่มาจากคำสั่งฝ่ายบริหารของประธานาธิบดี โดนัลด์ ทรัมป์ ที่จัดตั้งกระบวนการตรวจสอบของรัฐบาลกลางต่อระบบ AI ขั้นสูงที่สุด เป็นระยะเวลาสูงสุดหนึ่งเดือนก่อนเปิดตัว เอกสารระบุว่าการเข้าร่วมของผู้พัฒนาจะเป็นไปโดยสมัครใจ แม้ความตึงเครียดกับบริษัทที่ให้ความสำคัญกับความปลอดภัยแห่งนี้จะรุนแรงมาตลอดก็ตาม
ผลงานไซเบอร์ของ Mythos มีมาก่อนหน้าความขัดแย้ง
โมเดลดังกล่าวเปิดตัวในฤดูใบไม้ผลิปีนี้ โดยมีผลงานที่บ่งชี้ว่ามีพรสวรรค์ในการค้นหาช่องโหว่ซอฟต์แวร์ที่แม้แต่นักวิจัยมนุษย์มากประสบการณ์ยังมองข้าม สถาบันความมั่นคงด้าน AI ของสหราชอาณาจักรเคยอนุมัติให้ Mythos ผ่านโจทย์ capture-the-flag ระดับผู้เชี่ยวชาญที่ก่อนหน้านี้ไม่มีระบบใดทำได้สำเร็จ โดยโมเดลทำคะแนนผ่านได้ 73% ขณะเดียวกัน Mozilla ก็ได้ยกเครดิตให้เวอร์ชันแรก ๆ ของโมเดลนี้ที่ค้นพบช่องโหว่ใน Firefox ถึง 271 จุด ซึ่งถูกอุดในเวอร์ชันที่ 150 ของเบราว์เซอร์
อ่านถัดไป: Mane City Mobile เปิดให้เล่นบน iOS และ Android ในกว่า 100 ประเทศ