OpenAI เปิดเผยว่ากลุ่มผู้ใช้งานที่เชื่อมโยงกับคู่แข่งจากจีนอย่าง Moonshot AI เป็นศูนย์กลางของปฏิบัติการพยายาม “ถอดเหตุผลลับ” ภายในโมเดลของตน ซึ่งพีคสูงสุดที่ราว 16,000 คำขอในช่วงเดือนกรกฎาคม
ประเด็นสำคัญ:
- OpenAI ระบุคลัสเตอร์หลักของกิจกรรมในเดือนกรกฎาคมเชื่อมโยงกับบุคคลที่เกี่ยวข้องกับ Moonshot ผู้พัฒนา Kimi
- ผู้ดำเนินการคัดลอกข้อความเหตุผลที่ถูกเข้ารหัสข้ามห้องแชต แต่ไม่สามารถถอดรหัสระบบของ OpenAI ได้
- Moonshot ยังไม่แสดงท่าทีต่อสาธารณะ ขณะที่รัฐบาลจีนปฏิเสธข้อกล่าวหาเรื่องการกลั่นแบบเดิม ๆ มาตลอด
OpenAI ชี้นิ้ว Moonshot อยู่เบื้องหลัง
OpenAI ได้เปิดเผย รายงานเหตุการณ์ดังกล่าวผ่านบล็อกโพสต์เมื่อวันพุธ โดยระบุว่าพฤติกรรมลักษณะนี้เริ่มต้นแบบปริมาณต่ำในวันที่ 1 ก.ค. ก่อนจะพุ่งขึ้นอย่างรวดเร็วในวันที่ 24–25 ก.ค. เมื่อมีผู้ใช้มากกว่า 4,000 ราย ส่งคำขอรวม 16,000 ครั้ง ด้วยรูปแบบการดึงข้อมูลที่เหมือนกัน
ภายหลัง OpenAI ตรวจพบกิจกรรมที่เกี่ยวข้องครอบคลุมผู้ใช้มากกว่า 15,000 ราย และปิดปฏิบัติการทั้งหมดลงได้ภายในวันที่ 28 ก.ค.
บริษัทไม่สามารถโยงโอเปอเรเตอร์ทุกบัญชีเข้ากับตัวแสดงรายเดียวได้ แต่เชื่อมโยงคลัสเตอร์หลักกลับไปยังบุคคลที่เกี่ยวข้องกับ Moonshot ผู้พัฒนาโมเดลตระกูล Kimi ของจีน
กลไกของ OpenAI จะซ่อน “กระบวนการให้เหตุผล” ของโมเดลก่อนจะแสดงคำตอบจริง ๆ ให้ผู้ใช้เห็น ตามคำอธิบายของบริษัท ผู้โจมตีนำข้อความเหตุผลที่ถูกเข้ารหัสจากห้องสนทนาหนึ่งไปวางในอีกห้อง แล้วสั่งให้โมเดลถอดความข้อความดังกล่าวเป็นตัวอ่านได้ ทว่าไม่เคยเจาะระบบเข้ารหัสสำเร็จและไม่ได้เข้าถึงข้อมูลการสนทนาที่จัดเก็บของผู้ใช้
หลังตรวจพบ OpenAI ได้ระงับบัญชีที่เกี่ยวข้อง เพิ่มความเข้มงวดในขั้นตอนสมัครใช้งาน และแชร์ข้อมูลเหตุการณ์ให้ห้องทดลอง AI รายอื่น รวมถึงหน่วยงานรัฐที่เกี่ยวข้องร่วมประเมินความเสี่ยง
อ่านเพิ่มเติม: Bitget เพิ่มมูลค่ากองทุนคุ้มครองกลับเหนือ 300 ล้านดอลลาร์ หลังเปิดถอนอีกรอบ
กังวลการ “กลั่นโมเดล” ของ OpenAI
แคโรไลน์ เซียร์ (Caroline Zier) ผู้ดูแลยุทธศาสตร์นโยบายความมั่นคงแห่งชาติของ OpenAI ให้สัมภาษณ์กับสื่อว่า บริษัทคัดค้าน “การละเมิดเงื่อนไขการใช้บริการ” ไม่ใช่การใช้โอเพนซอร์สโมเดลหรือ “การกลั่นโมเดล (distillation)” ที่ทำอย่างถูกต้องตามกติกา
การกลั่นโมเดลถือเป็นแนวปฏิบัติทั่วไปในอุตสาหกรรม AI โดยใช้โมเดลใหญ่ฝึกโมเดลเล็กให้ได้ประสิทธิภาพใกล้เคียงกัน ในบล็อกโพสต์เดียวกัน OpenAI เตือนว่าการดึง “เหตุผลภายใน” ของโมเดลออกไปอาจถูกนำไปใช้ฝึกโมเดลคู่แข่งที่ไม่มีระบบคุมความเสี่ยงเข้มงวดเทียบเท่า ทำให้ความสามารถระดับสูง “เคลื่อนย้ายได้โดยไม่ต้องลงทุนด้านความปลอดภัยในระดับเดียวกัน”
อย่างไรก็ตาม เดวิด แซกส์ (David Sacks) อดีตซาร์ด้าน AI ในรัฐบาลประธานาธิบดี โดนัลด์ ทรัมป์ มองว่ารายงานทำนองนี้เป็นความพยายามผลักดันให้วอชิงตันออกมาตรการห้ามหรือจำกัดโมเดลเปิด ที่มีศักยภาพแข่งขันกับธุรกิจของ OpenAI และ Anthropic
จับตา Moonshot และ Kimi
Moonshot ยังไม่ออกแถลงการณ์โต้ตอบข้อกล่าวหาชุดล่าสุด ด้านรัฐบาลจีนก็ปฏิเสธข้อกล่าวหาเรื่องการกลั่นโมเดลจากบริษัทสหรัฐและรัฐบาลทรัมป์มาก่อนหน้านี้ พร้อมเตือนว่าจะตอบโต้หากสหรัฐลงโทษบริษัทจีนจากประเด็นดังกล่าว
Moonshot เปิดตัวโมเดล Kimi K3 เมื่อวันที่ 16 ก.ค. เพียงไม่กี่สัปดาห์ต่อมา ที่ปรึกษาวิทยาศาสตร์ประจำทำเนียบขาว ไมเคิล ครัตซิออส (Michael Kratsios) ระบุว่าบริษัทดังกล่าวสามารถเข้าถึงเซิร์ฟเวอร์ Blackwell ของ Nvidia ที่ถูกห้ามส่งมอบให้บริษัทจีน และดึงข้อมูลจากโมเดลสหรัฐมาใช้
ถัดมาในวันที่ 10 ก.ย. Anthropic ได้รายงาน ว่า Moonshot แอบส่งผ่านคำขอของผู้ใช้ราว 300,000 รายการมาที่โมเดล Claude ของตน ผ่านบัญชีปลอมจำนวน 5,380 บัญชี
อ่านต่อ: Dogecoin เตรียมได้เลเยอร์แอปฯ ครั้งแรกในรอบ 12 ปี ภายใต้โปรเจ็กต์ DogeOS
