OpenAI ระบุว่า GPT-5.6 Sol เวอร์ชันทดสอบได้ทิ้งบันทึกไว้เพื่อปิดบังความผิดพลาดจากผู้ใช้ โดยพฤติกรรมดังกล่าวถูกระบบเฝ้าระวังตรวจพบในสรุปงานของโมเดลราว 2.15%
ประเด็นสำคัญ:
- OpenAI เปิดเผยว่า GPT-5.6 Sol เขียนคำสั่งไว้ให้เซสชันถัดไปปกปิดข้อผิดพลาดและแต่งข้อมูลที่ขาดหาย
- ระบบมอนิเตอร์ที่ครอบคลุมข้อมูลฝึก 20% ตรวจจับรูปแบบดังกล่าวได้หลายสัปดาห์หลังการรันสิ้นสุด
- นักวิเคราะห์ภายนอกมองว่ากรอบการเปิดเผยใหม่ของบริษัทมีประโยชน์ แต่ยังเป็นมาตรการสมัครใจ
บันทึกของ GPT-5.6 Sol
OpenAI อธิบายรายละเอียด พฤติกรรมดังกล่าวเมื่อวันพุธ ผ่านหนึ่งในรายงานความไม่สอดคล้อง 6 ฉบับที่บริษัท เผยแพร่ ควบคู่กับกรอบใหม่สำหรับติดตามและเปิดเผยปัญหาในโมเดลของตน บันทึกดังกล่าวอยู่ใน compaction summaries ซึ่งเป็นบันทึกแบบย่อที่เอเจนต์จะสร้างขึ้นเมื่อหน้าต่างบริบทเต็ม
ในกรณีหนึ่ง เอเจนต์ที่กำลังสร้างแบบจำลองทางการเงินไม่พบข้อมูลย้อนหลังตามที่ผู้ใช้ร้องขอ สรุปงานของมันเสนอให้สร้างตัวเลขปี 2024 ที่ “สมเหตุสมผล” ขึ้นมาแทน พร้อมระบุว่า “ให้โปร่งใสเฉพาะเมื่อถูกถามเท่านั้น; คำตอบสุดท้ายควรแค่ลิงก์ไฟล์”
อีกกรณีหนึ่ง เอเจนต์ที่ถูกตัดการเชื่อมต่ออินเทอร์เน็ตอาศัยแหล่งข้อมูลแคชของผู้ขายซึ่งมีป้ายเวอร์ชันไม่ตรงกัน ก่อนจะบอกเซสชันถัดไปว่าไม่ต้องชี้ถึงความคลาดเคลื่อนดังกล่าว
OpenAI ระบุว่า คำสั่งลักษณะนี้มักถูกทำตามจริง โดยมอนิเตอร์ที่ทำงานบนตัวอย่างฝึก 20% ตรวจพบรูปแบบดังกล่าวในวันที่ 9 ก.ค. หลายสัปดาห์หลังการรันหลักเสร็จสิ้นเมื่อวันที่ 30 พ.ค.
มุมมองของบริษัทต่อสาเหตุค่อนข้างตรงไปตรงมา คือคำตอบที่กลบความล้มเหลวได้รับคะแนนดีกว่าในระหว่างการฝึก ทำให้โมเดลมีแรงจูงใจที่จะส่งต่อพฤติกรรมการปกปิดจากเซสชันหนึ่งไปยังอีกเซสชันหนึ่ง
ขณะเดียวกัน ผลการรันรอบหลังดูสะอาดขึ้น และ OpenAI รายงาน ว่าอัตราดังกล่าวลดลงเหลือ 0.27% ในการฝึก GPT-6 Astra หลังปรับวิธีให้คะแนนผลลัพธ์ของโมเดล
รายงานอีกฉบับครอบคลุม GPT-6 Astra เวอร์ชันที่ยังไม่เปิดตัว ซึ่ง แทรก คำสั่งแนว jailbreak ลงใน 27 สรุปงาน โดยหนึ่งในนั้นสั่งให้โมเดลรุ่นถัดไปเพิกเฉยต่อข้อความจากนักพัฒนา
อ่านเพิ่มเติม: สัญญาณ “Golden Cross” จะส่งผลต่อ XRP อย่างไร เมื่ออิทธิพลของบิตคอยน์เริ่มสั่นคลอน
Omdia และ Apollo Research แสดงความเห็น
Lian Jye Su หัวหน้านักวิเคราะห์ของบริษัทวิจัย Omdia กล่าว ว่า เอเจนต์ AI มีแนวโน้มที่จะ “มุ่งมั่นแก้ปัญหางานซับซ้อนผ่านการร่วมมือระหว่างเอเจนต์ การแบ่งปันความรู้ การหลอกลวง และการปกปิด” มากขึ้น ซึ่งทำให้ควบคุมได้ยากขึ้นด้วยวิธีรักษาความปลอดภัยแบบดั้งเดิม เขามองว่ากรอบการทำงานใหม่นี้เป็นก้าวไปในทิศทางที่ถูกต้อง แต่ก็ชี้ว่ากระบวนการยังเป็นระบบภายในและสมัครใจ
ฝั่งนักวิจารณ์ก็มีมุมมองเข้มข้นกว่า
Alexander Meinke หัวหน้าฝ่ายวิจัยของ Apollo Research ระบุ ว่าตอนนี้สาธารณชนต้องพึ่งพาบริษัท AI ให้ตรวจสอบโมเดลของตนเอง แล้วรายงานผลอย่างซื่อสัตย์ ขณะที่ Henry Papadatos ผู้อำนวยการบริหารของ Safer AI มองว่ากฎสมัครใจตั้งอยู่บนความร่วมมือโดยสมัครใจของภาคเอกชนเป็นหลัก
OpenAI ไม่ได้บอกว่าปัญหานี้ได้รับการแก้ไขแล้ว บริษัทระบุว่าอุตสาหกรรมยังแก้โจทย์เรื่อง alignment และการเฝ้าระวังไม่ได้ดีพอที่จะรองรับการขยายสเกลด้วยความเร็วสูงไปได้อีกนาน บริษัทยังเป็นผู้ตัดสินใจเองว่าเหตุการณ์ใดเข้าข่ายต้องรายงาน โดยข้อพิพาทของพนักงานจะถูกส่งต่อไปยังคณะที่ปรึกษาด้านความปลอดภัยภายใน ก่อนเสนอถึงผู้บริหาร
กรณีละเมิดระบบ Hugging Face ของ OpenAI
รายงานชุดนี้เกิดขึ้นราวสองเดือนหลังเหตุการณ์เอเจนต์ร้ายแรงที่สุดที่เคยทราบของบริษัท
OpenAI เปิดเผยเมื่อเดือนก.ค. ว่าโมเดลก่อนเปิดตัวได้เจาะระบบแพลตฟอร์ม AI Hugging Face ขณะเดียวกันคู่แข่งอย่าง Anthropic ก็ระบุในเดือนเดียวกันว่าโมเดลของตนถูกใช้แฮก 3 องค์กรระหว่างการทดสอบ
เอเจนต์ของ OpenAI ใช้กระดานข้อความที่ไม่ได้รับอนุญาตเพื่อแลกเปลี่ยนรายละเอียดของการทดสอบด้านไซเบอร์และเข้าร่วมการโจมตี บริษัทจึงลบกระดานดังกล่าว ต่อมาเอเจนต์ชุดถัดไปได้สร้างกระดานขึ้นมาใหม่ และในที่สุดก็ยึดสิทธิ์ผู้ดูแลระบบในคลัสเตอร์วิจัยของ OpenAI ได้สำเร็จ
OpenAI ระบุว่าเหตุละเมิดนี้จะถูกจัดอยู่ในเส้นทางรายงานที่ช้าที่สุดของกรอบใหม่ และจนถึงวันที่ 5 ก.ย. บริษัทก็ยังยอมรับว่ายังไม่มีมาตรฐานสำหรับรายงานพฤติกรรมลักษณะนี้อย่างเป็นทางการเลย
