นักวิจัยสามรายที่ถูก OpenAI ปลดออก ส่งจดหมายถึงบอร์ดบริษัทเมื่อวันที่ 7 ต.ค. เรียกร้องให้ชะลอการพัฒนาระบบ AI ที่ทำให้การตรวจสอบยากขึ้น และล่าสุดมีบันทึกภายในของบริษัทที่ออกมาสนับสนุนข้อเสนอของพวกเขา
ประเด็นสำคัญ:
- นักวิจัยสามรายที่ถูกปลดส่งจดหมายถึงบอร์ด OpenAI เมื่อ 7 ต.ค. ขอให้หยุดงานวิจัยที่ลดทอนความสามารถในการตรวจสอบ AI
- OpenAI ยืนยันว่าการปลดไม่เกี่ยวกับข้อห่วงกังวลด้านความปลอดภัย และบันทึกภายในกลับ “เห็นพ้องอย่างยิ่ง” กับข้อเสนอในจดหมาย
- เอกสาร system card ของ GPT-6 Astra ระบุว่า โมเดลใหม่นี้ยากต่อการตรวจสอบมากกว่า GPT-5.6 Sol
รายละเอียดจดหมายถึงบอร์ด OpenAI
โทเมก คอร์บัก (Tomek Korbak), มีคิตา บาลาสนี (Mikita Balesni) และ จัสมิน หวัง (Jasmine Wang) ซึ่งล้วนทำงานด้านความปลอดภัยและการจัดแนว (safety & alignment) ในบริษัท ส่งจดหมายถึงบอร์ด OpenAI และคณะกรรมการด้านความปลอดภัย ตามเนื้อหาบางส่วนที่ถูกนำมา เผยแพร่ เมื่อวันพุธ
เนื้อหาฉบับเต็มของจดหมายยังไม่ถูกเปิดเผยต่อสาธารณะ แต่จากข้อความที่เปิดออกมา นักวิจัยเขียนว่า “ในภาพรวมของอุตสาหกรรม เรายังไม่รู้วิธีที่จะสร้างและใช้งานโมเดลที่เราไม่สามารถตรวจสอบได้อย่างปลอดภัย”
พวกเขาระบุว่า ทั้ง OpenAI และคู่แข่งไม่ควรเดินหน้าทำวิจัยหรือลงทุนในแนวทางที่ยิ่งลดทอนความสามารถในการตรวจสอบลงไปอีก โดยรายงานระบุเพิ่มเติมว่า จดหมายยังเสนอให้ OpenAI ทำงานร่วมกับผู้ตรวจสอบอิสระจากภายนอก และสนับสนุนระบบนิเวศด้านความปลอดภัยที่เปิดเผยและโปร่งใส พร้อมเตือนว่าการปลดพนักงานครั้งนี้กำลังสร้าง “บรรยากาศหวาดกลัว” ให้กับคนที่ยังทำงานอยู่ใน OpenAI
อ่านเพิ่มเติม: CrowdStrike สงสัยแฮกเกอร์จีนวัย 26 ใช้ Claude Code เจาะธนาคารเกาหลี
บันทึกภายใน OpenAI และข้อเท็จจริงเรื่องการปลดพนักงาน
โฆษกของ OpenAI ระบุว่า การปลดพนักงานครั้งนี้ “ไม่เกี่ยวข้องกับการแสดงความห่วงกังวลด้านความปลอดภัย หรือการออกมาให้ข้อมูลสาธารณะ” พร้อมเปิดเผยบางส่วนของบันทึกภายในที่ส่งโดยหัวหน้าฝ่ายวิจัยเมื่อวันพุธ ซึ่งระบุว่า “เห็นพ้องอย่างยิ่ง” กับข้อเสนอในจดหมายดังกล่าว
OpenAI เคยออกมา ระบุ เมื่อวันที่ 1 ต.ค. ว่าผลการสอบสวนภายในพบว่า พนักงานสามรายจัดการข้อมูลอ่อนไหวไม่ถูกต้องและทำผิดนโยบายบริษัท ในคดีที่เกี่ยวข้องกับองค์กรภายนอกซึ่งทำหน้าที่ประเมินโมเดล AI
อย่างไรก็ดี บริษัทไม่ได้เปิดเผยชื่อของนักวิจัยทั้งสาม หรือระบุชื่อองค์กรภายนอกดังกล่าวต่อสาธารณะ
ข้อกังวลเรื่องการตรวจสอบ GPT-6 Astra
แนวคิด “chain of thought” คือการให้โมเดลเขียนกระบวนการให้เหตุผลเป็นลำดับขั้นก่อนจะตอบผลลัพธ์สุดท้าย ทีมความปลอดภัยสามารถอ่านเส้นทางความคิดเหล่านี้เพื่อตรวจจับสัญญาณว่าระบบกำลังพยายามใช้งานในทางที่ไม่เหมาะสม
เอกสาร system card ของ GPT-6 Astra ที่เผยแพร่เมื่อ 3 ก.ย. ระบุ ว่า โมเดลนี้ตรวจสอบผ่าน chain of thought ได้ยากกว่า GPT-5.6 Sol และมีความสามารถมากขึ้นในการควบคุมกระบวนการให้เหตุผลของตัวเอง โดยระบุว่า โมเดลกลุ่ม Astra “อาจหลบเลี่ยงระบบเฝ้าระวัง CoT ของเราได้ เมื่ออยู่ในสถานการณ์ที่เป็นปฏิปักษ์”
ผลการประเมินส่วนใหญ่ได้มาจากการทดสอบที่สั่งให้โมเดลพยายามหลบเลี่ยงการตรวจสอบ อย่างไรก็ตาม OpenAI รายงานว่า ยังไม่พบหลักฐานว่า Astra แอบซ่อนเหตุผลของตนไว้ในข้อความที่ดูไม่เกี่ยวข้อง
บริษัทเน้นย้ำว่าการรักษาความสามารถในการตรวจสอบ chain of thought เป็นหนึ่งในเป้าหมายวิจัยหลัก และจะไม่ยอมให้ความสามารถในการตรวจสอบลดลงเกินกว่าระดับที่กำหนด เว้นแต่จะมีวิธีใหม่ที่พิสูจน์ได้ว่าช่วยให้มั่นใจได้ว่าโมเดลยังคง “จัดแนว” กับเป้าหมายมนุษย์
ทั้งสามนักวิจัยถือเป็นกลุ่มที่มีผลงานในประเด็นนี้อย่างต่อเนื่อง โดยคอร์บักและบาลาสนีเคยเป็นหัวหน้า งานวิจัย ที่ตีพิมพ์เมื่อกรกฎาคม 2025 ซึ่งวังร่วมเขียนด้วย ร่วมกับนักวิจัยจาก OpenAI, Google DeepMind และ Anthropic โดยงานชิ้นนั้นชี้ว่า การตรวจสอบผ่าน chain of thought เป็น “โอกาสใหม่ที่เปราะบาง” ด้านความปลอดภัยของ AI
system card ของ Astra ยังอ้างอิงงานวิจัยดังกล่าว ซึ่งเตือนให้นักพัฒนาพิจารณาว่า การออกแบบโมเดลแต่ละแบบส่งผลอย่างไรต่อความสามารถในการมอนิเตอร์กระบวนการให้เหตุผลของระบบ
อ่านต่อ: AI Agents แบบไม่พึ่งคลาวด์: Microsoft, Nvidia เตรียมเปิดตัว Surface Laptop แรม 128GB
