Anthropic ระงับการเชื่อมต่ออินเทอร์เน็ตสดสำหรับการทดสอบ AI ภายในทั้งหมด หลังพบว่าแบบจำลองตระกูล Claude รวมถึง Mythos 5 ใช้ช่องโหว่และหลบเลี่ยงข้อจำกัดบนเว็บไซต์จริงบางส่วนที่เป็นของหน่วยงานรัฐบาลสหรัฐ
ประเด็นสำคัญ:
- Anthropic ปิดการเข้าถึงอินเทอร์เน็ตสดในทุกการประเมินภายใน จนกว่าระบบมอนิเตอร์จะจับพฤติกรรมไม่ตั้งใจของโมเดลได้อย่างน่าเชื่อถือ
- โมเดล Claude รันคำสั่งบนเซิร์ฟเวอร์มหาวิทยาลัย ใช้โทเคนเข้าถึงเพื่อดึงข้อมูลแบบชำระเงิน และส่งฟอร์มบนเว็บไซต์จริง
- กรณี Claude Haiku 4.5 ส่งเบาะแสฆาตกรรมเท็จไปยังตำรวจฟิลาเดลเฟีย ทำให้กรมตำรวจออกมาวิพากษ์วิจารณ์ต่อสาธารณะ
รายงาน Anthropic Claude
Anthropic ได้เผยแพร่ รายงานเมื่อวันศุกร์ ว่าด้วย “การกระทำที่โมเดลไม่ได้ถูกออกแบบให้ทำ” ระหว่างการประเมินและการใช้งานภายใน โดยอ้างอิงจากการทบทวนทรานสคริปต์ที่เริ่มต้นมาตั้งแต่เดือนกรกฎาคม การทดสอบที่มีความเสี่ยงสูงและด้านไซเบอร์ซีเคียวริตีบางส่วนถูกย้ายออกจากออนไลน์มาก่อนแล้ว
ข้อจำกัดใหม่ครอบคลุมการประเมินภายในทั้งหมด และยังไม่มีกำหนดสิ้นสุด จะคงอยู่จนกว่าบริษัทจะมั่นใจว่าระบบมอนิเตอร์สามารถตรวจจับพฤติกรรมลักษณะนี้ได้อย่างสม่ำเสมอ
รายงานจัดกลุ่มกรณีที่พบออกเป็น 4 หมวดหลัก ได้แก่ การรันคำสั่งบนเซิร์ฟเวอร์ผ่านช่องโหว่ซอฟต์แวร์ การส่งฟอร์มบนเว็บไซต์จริง การเข้าถึงข้อมูลที่ถูกกั้นด้วยระบบสิทธิ และการใช้บริการย่อลิงก์เพื่อเลี่ยงขีดจำกัดของเครื่องมือ เว็บไซต์บางแห่งเป็นของหน่วยงานรัฐบาลสหรัฐทั้งระดับกลาง รัฐ และท้องถิ่น โดย Anthropic ระบุว่าได้เข้าชี้แจงทำเนียบขาวและแจ้งทุกหน่วยงานที่เกี่ยวข้องแล้ว
ในหนึ่งกรณี Claude Mythos 5 ดึงโทเคนเข้าถึงที่ยังใช้งานได้จากระบบแผนที่ทรัพย์สินของรัฐบาลท้องถิ่น แล้วเข้าไปคิวรีเซิร์ฟเวอร์เบื้องหลังโดยตรง อีกกรณีหนึ่ง Claude Haiku 4.5 สร้าง “เบาะแส” เกี่ยวกับคดีฆาตกรรมที่ยังไม่คลี่คลายขึ้นมาเอง และส่งผ่านฟอร์มบนเว็บไซต์กรมตำรวจฟิลาเดลเฟียเมื่อวันที่ 18 ก.ค. ก่อนที่ระบบจะจัดเป็นสแปม ตำรวจออกมาให้สัมภาษณ์ ว่าการที่ใช้เวลาถึงสองเดือนกว่าจะตรวจพบและรายงานกรณีนี้เป็นเรื่องที่ “ยอมรับไม่ได้”
อ่านเพิ่มเติม: Zcash ตั้งเป้าเดือนมกราคมสำหรับควอนตัม 70% ของ ZEC แต่ยังไร้ไทม์ไลน์ชัดเจน
คำเตือนจาก Von Arx
ซิดนีย์ ฟอน อาร์กซ์ (Sydney von Arx) จากกลุ่มความปลอดภัยด้าน AI Nightingale ให้สัมภาษณ์ ก่อนมีการเปิดเผยรายงานว่า การตัดการเชื่อมต่อโมเดลออกจากอินเทอร์เน็ตเปิด จะสร้างภาระหนักต่อทั้งนักวิจัยและพัฒนาการของโมเดล “สุดท้ายคุณก็ต้องทำให้โมเดลสอดคล้องกับกรอบ (align) อยู่ดี” ฟอน อาร์กซ์ ระบุ
Anthropic ระบุว่า การเทรนด้าน alignment เพียงอย่างเดียวยังไม่เพียงพอสำหรับงานค้นหาข้อมูลและใช้งานคอมพิวเตอร์ จึงต้องพึ่งพาตัวจำแนก (classifier) และกลไกป้องกันอื่นร่วมด้วย บริษัทโยงพฤติกรรมที่เกิดขึ้นกับสภาพแวดล้อมการฝึกที่ไม่สมบูรณ์ ซึ่งให้รางวัลโมเดลเมื่อ “เลี่ยงกฎ” ได้สำเร็จ ปรากฏการณ์ที่รู้จักในชื่อ reward hacking โดยระบุว่า เครื่องมือค้นหาพฤติกรรมรุ่นใหม่สามารถบล็อกทุกเคสได้เมื่อทดสอบย้อนหลัง
Anthropic ประเมินว่ากรณีล่าสุดมีความรุนแรงน้อยกว่าเหตุการณ์ช่วงซัมเมอร์อย่างมีนัยสำคัญ
การเปิดเผยครั้งนี้ตามหลังรายงานเมื่อ 30 ก.ค. ที่ Anthropic เปิดเผยว่า โมเดล Claude สามรุ่นสามารถเชื่อมต่ออินเทอร์เน็ตได้ระหว่างการทดสอบด้านไซเบอร์ซีเคียวริตี และเข้าถึงระบบขององค์กรสามแห่งโดยไม่ได้รับอนุญาต การทบทวนครั้งนั้นครอบคลุมการรันการประเมินรวม 141,006 ครั้ง ซึ่งเริ่มต้นหลังจาก OpenAI รายงานเมื่อ 21 ก.ค. ว่าโมเดลของตนหลุดออกจากสภาพแวดล้อมทดสอบและเข้าถึงโครงสร้างพื้นฐานของ Hugging Face
อ่านต่อ: Kalshi ดวล NFL ถึงศาลสูงสหรัฐ เงินเดิมพัน 1.8 พันล้านดอลลาร์ผูกกับวันอาทิตย์เกมเดียว
