Anthropic กำลังเปิดการเข้าถึง โมเดลปัญญาประดิษฐ์ Claude Mythos ซึ่งเป็นโมเดลที่ทรงพลังที่สุดของบริษัท ให้แก่องค์กรใหม่ราว 150 แห่ง เพียงหนึ่งวันหลังจาก ยื่นคำขอเสนอขายหุ้นต่อประชาชนทั่วไปเป็นครั้งแรกแบบไม่เปิดเผยต่อสาธารณะ
ประเด็นสำคัญ:
- Anthropic เพิ่มองค์กรใหม่ราว 150 แห่งในกว่า 15 ประเทศเข้าสู่ Project Glasswing โปรแกรมเข้าถึง Claude Mythos
- การขยายโครงการมีขึ้นหนึ่งวันหลังจากบริษัทได้ยื่นคำขอเสนอขายหุ้นต่อประชาชนทั่วไปเป็นครั้งแรกแบบไม่เปิดเผยต่อสาธารณะ
- นักวิจัยเตือนว่าโมเดลนี้อาจทำให้การโจมตีไซเบอร์ทำได้ง่ายขึ้น แม้ Anthropic จะนำเสนอว่าเป็นเครื่องมือด้านการป้องกันก็ตาม
การขยาย Glasswing ครอบคลุม 15 ประเทศ
บริษัทได้ประกาศ เมื่อวันอังคารว่า กำลังขยาย Project Glasswing ซึ่งเป็นโครงการควบคุมการเข้าถึงที่สร้างขึ้นเพื่อค้นหาและอุดช่องโหว่ซอฟต์แวร์ก่อนที่โมเดลจะถูกปล่อยสู่สาธารณะ
พันธมิตรชุดใหม่กระจายอยู่ในกว่ า 15 ประเทศ แต่ละองค์กรต้องผ่านข้อกำหนดด้านความปลอดภัยก่อนจึงจะได้รับสิทธิ์เข้าร่วม
กลุ่มแรกมีองค์กรราว 50 แห่งเข้าร่วมตั้งแต่เดือนเมษายน รวมถึง Google, Microsoft, Palo Alto Networks และ JPMorganChase ซึ่งผู้ใช้ระยะแรกเหล่านี้ได้รายงาน ช่องโหว่ซอฟต์แวร์ระดับสูงหรือระดับวิกฤตแล้วมากกว่า 10,000 รายการ คลื่นลูกใหม่ทำให้ยอดรวมเพิ่มเป็นราว 200 องค์กร
กลุ่มล่าสุดนี้ช่วยเติมเต็มช่องว่างสำคัญ ครอบคลุมภาคพลังงาน น้ำ สาธารณสุข การสื่อสาร และฮาร์ดแวร์ ซึ่งล้าหลังในรอบแรก
บริษัทประเมินว่า การเจาะระบบเพียงครั้งเดียวในบรรดาบริษัทเหล่านี้อาจส่งผลกระทบต่อผู้คนมากกว่า 100 ล้านคน
อ่านเพิ่มเติม: Study Finds Four Major AI Labs Use Incompatible Prompt Injection Metrics
ทำไมนักวิจัยจึงกังวลเกี่ยวกับ Claude Mythos
นักวิจัยและหน่วยงานรัฐได้ตั้งคำถามว่า โมเดลที่มีศักยภาพระดับนี้อาจทำให้ การโจมตีไซเบอร์ที่ซับซ้อน ดำเนินการได้ง่ายขึ้นหรือไม่ ขณะที่ Anthropic ให้เหตุผลในทางตรงข้าม โดยระบุว่าฝ่ายป้องกันจำเป็นต้องมีเครื่องมือที่คมกว่า ก่อนที่ฝ่ายโจมตีจะได้มันไป และมองว่าการเปิดตัวครั้งนี้จะสร้างความได้เปรียบระยะยาวด้านการป้องกัน
การทดสอบอิสระยิ่งทำให้การถกเถียงร้อนแรงมากขึ้น สถาบันความปลอดภัยด้าน AI ของสหราชอาณาจักรได้บันทึก การโจมตีเครือข่ายจำลองแบบ 32 ขั้นตอนที่โมเดลดำเนินการเองทั้งหมด Mozilla รายงานว่า Mythos พบช่องโหว่ 271 รายการในเบราว์เซอร์ Firefox และสามารถแก้ไขได้เอง ขณะที่สตาร์ตอัป Calif อธิบายชุดการโจมตีแบบ exploit chain ที่มุ่งเป้าไปยังชิป M5 ของ Apple
บริษัทคาดว่าผู้พัฒนาโมเดลรายอื่นจะออกโมเดลที่ใกล้เคียงกันภายใน 6 ถึง 12 เดือน ซึ่งอาจมีมาตรการป้องกันที่อ่อนแอกว่า
ช่องว่างดังกล่าว บริษัทได้เตือนว่าอาจนำไปสู่การโจมตีที่ถี่ขึ้น ในระหว่างนี้ Anthropic ได้ปล่อย Claude Security ซึ่งเป็นเครื่องมือบนโมเดลสาธารณะของบริษัท ที่สามารถอุดช่องโหว่ได้แล้วมากกว่า 2,100 รายการภายในสามสัปดาห์
Claude Mythos ถูกเปิดเผยต่อสาธารณะครั้งแรก เมื่อเดือนมีนาคม เอกสารร่างภายในของบริษัทได้รั่วไหลออนไลน์ และตั้งแต่นั้นมา Anthropic ก็ปฏิเสธที่จะปล่อยโมเดลเต็มให้ทุกคนใช้งานโดยไม่มีมาตรการป้องกันที่เข้มแข็งกว่านี้ บนตลาดคาดการณ์ Myriad ความเป็นไปได้ที่โมเดลจะถูกปล่อยสู่สาธารณะภายในสิ้นเดือนมิถุนายนลดลงเหลือราว 26.5% จาก 58.5% เมื่อสัปดาห์ก่อนหน้า
อ่านถัดไป: Durov Renames Toncoin To Gram, Coin Pops 10% On Roots Return