OpenAI กำลังทดสอบระบบความปลอดภัยที่ตรวจจับการใช้ผิดวัตถุประสงค์โดยไม่ต้องเก็บข้อมูลลูกค้า ถือเป็นการท้าชนตรง ๆ กับกติกาเก็บข้อมูล 30 วันแบบใหม่ของคู่แข่งอย่าง Anthropic
ประเด็นสำคัญ:
- OpenAI เปิดพรีวิวฟีเจอร์ Private Safety Processing เครื่องมือที่ตรวจหาพฤติกรรมละเมิดข้ามหลายเซสชัน โดยไม่เก็บพรอมต์หรือคำตอบของลูกค้าไว้เลย
- Anthropic กำหนดให้ลูกค้าองค์กรที่ใช้โมเดลประสิทธิภาพสูงต้องยอมให้เก็บข้อมูล 30 วัน โดยให้เหตุผลว่าจำเป็นต่อการจับการโจมตีแบบหลายขั้นตอน
- OpenAI เตรียมขยายการปล่อยใช้จริง พร้อมเผยแพร่ไวท์เปเปอร์ทางเทคนิคในเดือนกันยายน
Private Safety Processing เน้นจับการละเมิดข้ามหลายเซสชัน
บริษัทได้ประกาศพรีวิวฟีเจอร์นี้เมื่อวันพุธ โดยวางให้เป็นส่วนขยายของนโยบาย Zero Data Retention ข้อกำหนดที่ห้าม OpenAI เก็บพรอมต์หรือผลลัพธ์ของโมเดลหลังประมวลผลคำขอเสร็จ การเปิดให้ใช้อย่างกว้างขึ้นและไวท์เปเปอร์เชิงเทคนิคถูกวางคิวไว้ในเดือนกันยายน
ภายใต้ระบบใหม่ เนื้อหาของลูกค้าจะถูกเก็บอยู่บนโครงสร้างพื้นฐานที่ลูกค้าควบคุมเอง หรือจัดเก็บบนเซิร์ฟเวอร์ของ OpenAI ในรูปแบบเข้ารหัส ซึ่งกุญแจถอดรหัสอยู่ในมือฝั่งลูกค้าเท่านั้น เครื่องมืออัตโนมัติของ OpenAI จะวิเคราะห์เนื้อหาเหล่านี้เพื่อหาลักษณะการใช้งานผิดวัตถุประสงค์ที่เชื่อมโยงกันข้ามหลายเซสชัน รวมถึงครอบคลุมกรณี “เอเจนต์ทำงานต่อเอง” ที่ระบบยังดำเนินการต่อหลังผู้ใช้สั่งหยุด ทั้งหมดนี้โดยไม่มีพนักงานคนใดเข้าถึงเนื้อหาได้โดยตรง
Aleah Houze หัวหน้านโยบายผลิตภัณฑ์ของบริษัท ให้สัมภาษณ์กับสื่อว่า พฤติกรรมเสี่ยงจำนวนมากมักจะเห็นชัดก็ต่อเมื่อมองภาพรวมหลายปฏิสัมพันธ์ร่วมกัน เธอยกตัวอย่างผู้ใช้ที่คุยหนึ่งเซสชันเพื่อสำรวจช่องโหว่ซอฟต์แวร์ แล้วเปิดอีกเซสชันถามต่อเกี่ยวกับเครื่องมือ remote access
อ่านเพิ่มเติม: วอเตอร์มาร์กลับของ Claude ทำลายศิลปะการเขียน แกรูเบอร์กล่าว
นโยบายเก็บข้อมูลของ Anthropic ชี้ชัดความต่าง
Anthropic วางจุดยืนตรงข้ามตั้งแต่กรกฎาคม โดยกำหนดให้ลูกค้าองค์กรที่ใช้โมเดลระดับบนสุด เช่น Fable 5 และ Mythos 5 ต้องยอมให้เก็บข้อมูลอย่างน้อย 30 วัน
ห้องปฏิบัติการยอมรับว่านโยบายนี้ไม่น่าจะเป็นที่นิยมและอาจกระทบยอดธุรกิจ แต่ยืนยันว่าล็อกข้อมูลเหล่านี้จำเป็นต่อการตรวจจับการโจมตีที่ถูกออกแบบให้กระจายตัวอยู่ในคำขอหลายครั้งอย่างจงใจ ยังเปิดทางให้มนุษย์เข้าทบทวนได้ แต่ผ่านกระบวนการควบคุมอย่างเข้มงวด มีเพียงผู้ตรวจที่ได้รับอนุมัติกลุ่มเล็ก ๆ เท่านั้นที่เข้าถึงได้ และทุกเซสชันถูกบันทึกลงในล็อกที่ป้องกันการแก้ไขดัดแปลง
นักวิเคราะห์ตั้งคำถามต่อจังหวะและหลักฐานของ OpenAI
Brian Levine ผู้อำนวยการบริหารของ FormerGov ให้ความเห็นผ่านการให้สัมภาษณ์ว่า การให้คำมั่นในลักษณะนี้ถือเป็น “สัญญาทางเทคนิค” ที่แข็งแรง เพราะตามปกติแล้ว การมอนิเตอร์การละเมิดกับการไม่เห็นเนื้อหาของลูกค้าคือสองสิ่งที่ดึงกันคนละทาง
เขาชี้ว่าหลักฐานของระบบจะตามมาในอีกหลายสัปดาห์ ขณะที่ Jason Andersen จาก Moor Insights and Strategy มองว่าชุดประกาศล่าสุดของ OpenAI มีมิติของการจัดท่าทางก่อนการเข้าตลาดหุ้นครั้งแรก (IPO)
ด้าน Flavio Villanustre ประธานเจ้าหน้าที่ความปลอดภัยข้อมูลของ LexisNexis Risk Solutions Group มองความเคลื่อนไหวนี้ว่าเป็นความพยายาม “บรรเทา” ความเข้มข้นของกฎระเบียบที่เขาคาดว่าจะตามมาในอนาคต
พรีวิวครั้งนี้ปิดท้ายสัปดาห์ที่ OpenAI ส่งสัญญาณด้านความปลอดภัยอย่างต่อเนื่อง เมื่อวันอังคาร บริษัทเพิ่งประกาศชะลอการขยายขนาดระบบ และหยุดเทรน reinforcement learning ชั่วคราว เพื่อเสริมความแข็งแกร่งและทดสอบด้านความปลอดภัย (red-team) สภาพแวดล้อมวิจัยของตนเอง บริษัทประเมินว่าระบบมอนิเตอร์ที่ขยายผลใหม่นี้จะใช้ทรัพยากรประมวลผลสำหรับ inference ราว 20% ของส่วนที่ถูกเฝ้าระวัง
อ่านต่อ: บิตคอยน์อาจกลับไปแตะ $100K ได้ก่อนการ Halving ปี 2028 สการามุชชิกล่าว
