Anthropic เปิดเผยว่ามาตรการป้องกันใหม่ของ Claude สามารถลดปริมาณข้อมูลที่ถูกดูดไปใช้ใน “การกลั่นโมเดล” (distillation attacks) ลงได้ราว 90–99% และระบุชื่อ Z.ai จากจีนว่าเป็นหนึ่งในบริษัทที่พยายามใช้วิธีดังกล่าว
ประเด็นสำคัญ
- Anthropic ระบุ โล่ป้องกันใหม่ช่วยลดข้อมูลที่ผู้โจมตีดูดจาก Claude ได้ราว 90–99%
- บริษัทแบนบัญชีที่เชื่อมโยงกับแคมเปญกลั่นโมเดลไปแล้วนับหมื่นบัญชี
- Anthropic กล่าวหาว่า Z.ai หรือ Zhipu พยายามกลั่น Claude ระหว่างพัฒนาโมเดล GLM-5.3
เกราะป้องกันการกลั่นโมเดลของ Claude
Anthropic เปิดผลทดสอบในบล็อกงานวิจัยเมื่อวันจันทร์ที่ 12 ต.ค. อธิบายชุดเปลี่ยนแปลงที่ทยอยปล่อยใช้ในช่วงไม่กี่เดือนที่ผ่านมา โดยบริษัทระบุว่า สัญญาณเบื้องต้นชี้ว่ามาตรการชุดใหม่ช่วยลดข้อมูลที่ผู้ “กลั่นโมเดล” ดูดไปได้ราว 90–99% แม้จะยอมรับว่ายังไม่รู้ว่าประสิทธิภาพดังกล่าวจะคงอยู่ได้นานเพียงใด มาตรการหลักเน้นไปที่ส่วน “การให้เหตุผล” คือกระบวนการคิดทีละขั้นที่โมเดลเขียนก่อนสรุปคำตอบ
สำหรับ Claude Fable 5.1 และ Claude Opus 5.5 บัญชี API ใหม่ที่สร้างตั้งแต่ 31 ส.ค. เป็นต้นไป จะไม่สามารถแก้ไขคอนเท็กซ์การคิดย้อนหลังของ Claude ได้อีกต่อไป ฟีเจอร์นี้ Anthropic เรียกว่า “preserved thinking” ขณะเดียวกันยังเพิ่มตัวจำแนกสองชั้น (two-stage classifier) เพื่อบล็อกความพยายามดึงข้อมูล โดยอ้างว่าอัตราบล็อกผิด (false positive) ต่ำกว่า 0.1% และทำให้ผู้กลั่นโมเดลดึงโทเคนด้านการให้เหตุผลออกไปได้น้อยลง 10–100 เท่าเมื่อเทียบกับก่อนหน้า
Anthropic ยังระบุว่าได้แบนบัญชีที่เชื่อมโยงกันเป็นเครือข่ายแล้ว “หลายหมื่นบัญชี” โดยในหลายกรณีสามารถจัดการได้ภายในราวสองชั่วโมง
อ่านเพิ่มเติม: GPT-6.1 Sol ช่วย Asana ลดต้นทุนเอเยนต์ 76 เท่า แต่มีเงื่อนไขสำคัญ
ข้อกล่าวหาต่อ Z.ai เรื่องการกลั่น Claude
เทคนิค “distillation” คือการนำคำตอบจากโมเดลตัวใหญ่และเก่งกว่าไปฝึกโมเดลที่เล็กกว่าเพื่อยกความสามารถให้ใกล้เคียงต้นฉบับด้วยต้นทุนต่ำลง OpenAI และ Google ต่างก็อยู่ในกลุ่มบริษัทที่ออกมาเตือนเช่นเดียวกับ Anthropic ว่าวิธีนี้ช่วยให้คู่แข่งลอกฟีเจอร์ล้ำหน้าของโมเดลชั้นนำได้รวดเร็วและประหยัด
หัวใจสำคัญของการกลั่นอยู่ที่ “ทรานสคริปต์การให้เหตุผล” ไม่ใช่แค่คำตอบสุดท้าย ในการทดสอบของ Anthropic เอง โมเดลที่ได้เทรนจากเหตุผลเต็ม ๆ ของ Claude ทำคะแนนเบนช์มาร์ก SWE-bench Verified ด้านการเขียนโค้ดได้ 80.4% ขณะที่โมเดลที่เทรนจากเพียงสรุปย่อของเหตุผลทำได้เพียง 71.8%
บริษัทได้เตือนว่าการลอกแบบเช่นนี้อาจสร้างความเสี่ยงด้านความปลอดภัยและความมั่นคงแห่งชาติ เนื่องจากโมเดลที่ผ่านการกลั่นมักถูกปล่อยสู่สาธารณะโดยไม่มีระบบป้องกันที่แข็งแรงสมดุลกับศักยภาพของโมเดล โดย Anthropic ระบุชื่อ Z.ai หรือ Zhipu ว่าได้พยายามกลั่น Claude Fable 5 เพื่อนำไปใช้พัฒนา GLM-5.3 ก่อนจะเปลี่ยนไปใช้ Claude รุ่นเก่าและโมเดลจากแลบอื่น หลังจากมาตรการไซเบอร์ซิเคียวริตีของ Anthropic ทำให้ประสิทธิภาพการโจมตีลดลงอย่างมาก ทั้งนี้ Z.ai ยังไม่ได้ตอบคำขอสัมภาษณ์ในทันที
ตัวเลขที่ Anthropic เปิดเผยยังไม่เคยมีหน่วยงานอิสระออกมายืนยัน ขณะเดียวกันบริษัทก็ยอมรับว่ามี “ต้นทุน” ตามมา ทั้งรายได้ที่ต้องสละ การเปลี่ยนแปลงด้านการเชื่อมต่อสำหรับนักพัฒนาบางราย การบล็อกคำขอบางส่วนที่เป็นเคสใช้งานจริง และการกลับมาเก็บค่าบริการแม้จะเป็นคำขอที่ถูกบล็อก ซึ่งเริ่มเก็บอีกครั้งตั้งแต่วันที่ 24 ก.ย.
แถลงการณ์ล่าสุดนี้เกิดขึ้นหลังจากมีกระแสกล่าวหายืดเยื้อมาหลายเดือน ย้อนกลับไปเมื่อ ก.พ. Anthropic เคยกล่าวหาว่า DeepSeek, Moonshot AI และ MiniMax ใช้บัญชีหลอกกว่า 24,000 บัญชี สร้างอินเทอร์แอกชันกับ Claude มากกว่า 16 ล้านครั้ง เพื่อยกระดับโมเดลของตนเอง
ถัดมาเมื่อ 17 ก.ย. ผู้ประเมินจาก National Institute of Standards and Technology (NIST) ของสหรัฐฯ ได้จัดอันดับให้ GLM-5.3 เป็นโมเดลโอเพ่นเวตที่มีศักยภาพด้านไซเบอร์โจมตีสูงที่สุดเท่าที่เปิดให้ใช้ในปัจจุบัน แม้ยังตามหลังโมเดลแนวหน้าของสหรัฐฯ อยู่ราวสี่เดือนก็ตาม
เรื่องถัดไปที่น่าสนใจ: ผู้ถือคริปโตในฝรั่งเศสอาจถูกปรับสูงสุด 10,000 ยูโรหากไม่ยื่นรายงานกระเป๋าเงิน
