OpenAI กำลังทดสอบระบบความปลอดภัยรูปแบบใหม่ที่สามารถตรวจจับการใช้งานผิดวัตถุประสงค์ได้ โดยไม่ต้องเก็บข้อมูลของลูกค้าเลย ถือเป็นการท้าชนตรง ๆ กับกฎเก็บข้อมูล 30 วันฉบับใหม่ของคู่แข่งอย่าง Anthropic
ประเด็นสำคัญ:
- OpenAI เปิดพรีวิวฟีเจอร์ Private Safety Processing เครื่องมือที่ตรวจจับพฤติกรรมละเมิดข้ามหลายเซสชัน โดยไม่เก็บพรอมต์หรือคำตอบของลูกค้าเลย
- Anthropic กำหนดให้ลูกค้าองค์กรที่ใช้โมเดลระดับสูงสุดต้องยอมให้เก็บข้อมูล 30 วัน อ้างว่าล็อกเหล่านี้จำเป็นต่อการจับการโจมตีแบบหลายจังหวะ
- OpenAI เตรียมขยายการให้บริการและเผยแพร่เอกสารเทคนิคเชิงลึกในเดือนกันยายน
Private Safety Processing เล็งเป้าการละเมิดข้ามหลายเซสชัน
บริษัทได้ประกาศพรีวิวฟีเจอร์นี้เมื่อวันพุธ โดยวางตำแหน่งให้เป็นส่วนขยายของนโยบาย Zero Data Retention ซึ่งกำหนดให้ OpenAI ไม่เก็บพรอมต์หรือผลลัพธ์ของโมเดลหลังประมวลผลคำขอเสร็จสมบูรณ์ โดยมีแผนขยายการให้บริการและเผยแพร่เอกสารเทคนิคอย่างละเอียดในเดือนกันยายน
ตามสถาปัตยกรรมใหม่ ข้อมูลของลูกค้าจะถูกเก็บไว้บนโครงสร้างพื้นฐานที่ลูกค้าเป็นผู้ควบคุมเอง หรือเก็บอยู่ในสตอเรจของ OpenAI แบบเข้ารหัส โดยกุญแจเข้ารหัสเป็นของลูกค้าเพียงผู้เดียว เครื่องมืออัตโนมัติของ OpenAI จะสแกนข้อมูลเหล่านี้เพื่อมองหารูปแบบการใช้งานผิดวัตถุประสงค์ข้ามเซสชันที่เกี่ยวข้องกัน รวมถึงครอบคลุมกรณี “งานแบบเอเจนต์” ที่ระบบอาจดำเนินการต่อแม้ผู้ใช้จะสั่งให้หยุดไปแล้ว โดยไม่มีพนักงานคนใดได้เห็นเนื้อหาจริง
อเลีย เฮาส์ (Aleah Houze) หัวหน้าฝ่ายนโยบายผลิตภัณฑ์ของบริษัทให้สัมภาษณ์ผู้สื่อข่าวว่า พฤติกรรมที่เป็นอันตรายจำนวนมากตรวจจับได้ต่อเมื่อมองภาพรวมของการโต้ตอบหลายครั้งต่อเนื่องกัน ยกตัวอย่างเช่น ผู้ใช้ที่ค่อย ๆ สำรวจช่องโหว่ซอฟต์แวร์ในอีกบทสนทนา แล้วไปถามเรื่องเครื่องมือรีโมตแอ็กเซสในอีกบทสนทนาหนึ่ง
อ่านเพิ่มเติม: วอเตอร์มาร์กลับของ Claude ทำลายศิลปะการเขียน Gruber กล่าว
กฎเก็บข้อมูล 30 วันของ Anthropic ชี้ชัดจุดต่าง
Anthropic วางแนวทางตรงข้ามตั้งแต่เดือนกรกฎาคม โดยกำหนดให้ลูกค้าองค์กรที่ใช้โมเดลระดับสูงสุด เช่น Fable 5 และ Mythos 5 ต้องยอมให้เก็บข้อมูลใช้งานไว้อย่างน้อย 30 วัน
ห้องปฏิบัติการยอมรับว่ากฎดังกล่าวอาจไม่เป็นที่นิยมและอาจกระทบธุรกิจ แต่ย้ำว่าล็อกข้อมูลมีความจำเป็นในการตรวจจับการโจมตีที่ออกแบบให้กระจายตัวอยู่ในคำขอแยกย่อยจำนวนมาก ทั้งยังเปิดช่องให้มีการรีวิวโดยมนุษย์ได้ แต่ผ่านกระบวนการที่ควบคุมอย่างเข้มงวด จำกัดเฉพาะรีวิวเวอร์กลุ่มเล็กที่ได้รับอนุญาต ทุกเซสชันถูกบันทึกไว้ในล็อกที่ป้องกันการแก้ไขย้อนหลัง
นักวิเคราะห์ตั้งคำถามเรื่องจังหวะและหลักฐานของ OpenAI
ไบรอัน เลวีน (Brian Levine) ผู้อำนวยการบริหารของ FormerGov ให้ความเห็นว่าคำมั่นของ OpenAI ถือเป็น “สัญญาทางเทคนิคที่หนักแน่น” เพราะตามปกติแล้ว การมอนิเตอร์เพื่อกันการละเมิดมักเดินสวนทางกับการไม่มองเห็นคอนเทนต์ของลูกค้า
เขาชี้ด้วยว่าหลักฐานทางเทคนิคจริง ๆ จะตามมาในอีกหลายสัปดาห์ ขณะที่ เจสัน แอนเดอร์เซน (Jason Andersen) จาก Moor Insights and Strategy มองว่าชุดประกาศตลอดสัปดาห์นี้ส่วนหนึ่งเป็นการจัดท่าทีก่อนการเข้าตลาดหุ้น
ด้าน ฟลาวิโอ วิลลานุสเตร (Flavio Villanustre) ประธานเจ้าหน้าที่ความปลอดภัยข้อมูลของ LexisNexis Risk Solutions Group มองว่านี่อาจเป็นความพยายาม “ลดแรงปะทะ” จากกฎระเบียบด้านข้อมูลส่วนบุคคลและความปลอดภัยที่จะตามมา
การเปิดพรีวิวครั้งนี้ปิดท้ายสัปดาห์ที่ OpenAI เน้นสารด้านความปลอดภัยอย่างต่อเนื่อง เมื่อวันอังคารบริษัทเพิ่งประกาศชะลอการขยายสเกลและหยุดชั่วคราวการเทรน reinforcement learning เพื่อเสริมความแข็งแกร่งและทดสอบด้านความปลอดภัย (red-team) สภาพแวดล้อมวิจัยของตนเอง พร้อมประเมินว่าระบบมอนิเตอร์ที่ขยายใหม่นี้จะใช้ทรัพยากรคอมพิวต์สำหรับ inference ราว 20% อยู่ภายใต้การตรวจจับ
อ่านต่อ: บิตคอยน์อาจกลับขึ้นไปแตะ $100K ได้ก่อนฮาล์ฟวิ่งปี 2028 สการามุชชิระบุ
