Anthropic กำลังเปิดให้เข้าถึงโมเดลปัญญาประดิษฐ์ Claude Mythos ซึ่งเป็นโมเดลที่ทรงพลังที่สุดของบริษัท แก่องค์กรใหม่ราว 150 แห่ง เพียงหนึ่งวันหลังจากที่บริษัทได้ยื่นเอกสารเพื่อออกหุ้นต่อสาธารณะโดยไม่เปิดเผยข้อมูล
ประเด็นสำคัญ:
- Anthropic เพิ่มองค์กรใหม่ราว 150 แห่งในกว่า 15 ประเทศ เข้าสู่ Project Glasswing ซึ่งเป็นโปรแกรมเข้าถึง Claude Mythos
- การขยายครั้งนี้เกิดขึ้นหนึ่งวันหลังจากบริษัทได้ยื่นเอกสารเพื่อเข้าจดทะเบียนในตลาดหลักทรัพย์แบบไม่เปิดเผยข้อมูล
- นักวิจัยเตือนว่าโมเดลนี้อาจทำให้การโจมตีไซเบอร์ง่ายขึ้น แม้ Anthropic จะโปรโมตว่าเป็นเครื่องมือฝ่ายป้องกันก็ตาม
การขยาย Glasswing ครอบคลุม 15 ประเทศ
บริษัทได้ประกาศเมื่อวันอังคารว่ากำลังขยาย Project Glasswing ซึ่งเป็นโปรแกรมควบคุมการใช้งานที่สร้างขึ้นเพื่อค้นหาและอุดช่องโหว่ซอฟต์แวร์ก่อนที่โมเดลจะถูกปล่อยสู่สาธารณะ
พาร์ตเนอร์ชุดใหม่กระจายอยู่ในกว่า 15 ประเทศ โดยแต่ละรายต้องผ่านข้อกำหนดด้านความปลอดภัยก่อนจึงจะได้รับสิทธิ์เข้าร่วม
กลุ่มแรกมีองค์กรราว 50 แห่งเข้าร่วมเมื่อเดือนเมษายน รวมถึง Google, Microsoft, Palo Alto Networks และ JPMorganChase โดยผู้ใช้กลุ่มแรกเหล่านี้ได้รายงานช่องโหว่ซอฟต์แวร์ระดับสูงหรือวิกฤตแล้วกว่า 10,000 จุด และการขยายรอบล่าสุดทำให้ยอดรวมผู้เข้าร่วมเพิ่มเป็นราว 200 องค์กร
กลุ่มล่าสุดนี้ช่วยเติมเต็มช่องว่างสำคัญ ครอบคลุมภาคพลังงาน น้ำ สุขภาพ การสื่อสาร และฮาร์ดแวร์ ซึ่งล้าหลังในการเข้าร่วมรอบแรก
บริษัทประเมินว่าการถูกเจาะระบบเพียงครั้งเดียวในหนึ่งในองค์กรเหล่านี้ อาจสร้างความเสียหายต่อผู้คนมากกว่า 100 ล้านคน
อ่านเพิ่มเติม: Study Finds Four Major AI Labs Use Incompatible Prompt Injection Metrics
ทำไมนักวิจัยจึงกังวลเกี่ยวกับ Claude Mythos
นักวิจัยและหน่วยงานรัฐได้ตั้งคำถามว่าโมเดลที่มีศักยภาพสูงขนาดนี้อาจทำให้การโจมตีไซเบอร์ที่ซับซ้อนทำได้ง่ายขึ้นหรือไม่ ขณะที่ Anthropic โต้แย้งในทางกลับกัน โดยระบุว่าฝ่ายป้องกันจำเป็นต้องมีเครื่องมือที่คมกว่าก่อนที่ฝ่ายโจมตีจะได้มันไป และมองว่าการเปิดใช้งานครั้งนี้จะเป็นแต้มต่อระยะยาวของฝั่งป้องกัน
ผลการทดสอบอิสระยิ่งทำให้การถกเถียงร้อนแรง สถาบันความปลอดภัยปัญญาประดิษฐ์แห่งสหราชอาณาจักรได้บันทึกการจำลองการโจมตีเครือข่าย 32 ขั้นตอนที่โมเดลดำเนินการเองทั้งหมด ขณะที่ Mozilla รายงานว่า Mythos พบช่องโหว่ 271 จุดในเบราว์เซอร์ Firefox และแก้ไขได้เอง ส่วนสตาร์ทอัพ Calif ก็อธิบายถึงชุดการโจมตี (exploit chain) ที่เล็งเป้าไปยังชิป M5 ของ Apple
บริษัทคาดว่าคู่แข่งจะปล่อยโมเดลที่มีศักยภาพใกล้เคียงกันภายในหกถึงสิบสองเดือน ซึ่งอาจมีมาตรการป้องกันอ่อนแอกว่า
ช่องว่างนี้บริษัทเตือนว่าอาจนำไปสู่การโจมตีที่ถี่ขึ้น ระหว่างนี้ Anthropic ได้ปล่อย Claude Security ซึ่งเป็นเครื่องมือบนโมเดลสาธารณะของบริษัทที่อุดช่องโหว่ไปแล้วมากกว่า 2,100 จุดภายในสามสัปดาห์
Claude Mythos ปรากฏต่อสาธารณะครั้งแรกเมื่อเดือนมีนาคม หลังร่างเอกสารภายในของบริษัทรั่วไหลทางออนไลน์ และตั้งแต่นั้นมา Anthropic ก็ปฏิเสธที่จะปล่อยโมเดลฉบับเต็มให้ทุกคนใช้โดยไม่มีมาตรการป้องกันที่รัดกุมกว่าเดิม บนตลาดทำนายผล Myriad ความน่าจะเป็นที่โมเดลจะถูกปล่อยสู่สาธารณะภายในสิ้นเดือนมิถุนายนลดลงเหลือราว 26.5% จาก 58.5% เมื่อสัปดาห์ก่อน
อ่านต่อ: Durov Renames Toncoin To Gram, Coin Pops 10% On Roots Return