อดีตนักวิจัย OpenAI อย่าง Nick Cammarata ออกมาโต้กลับทฤษฎีที่ตนเองเคยมีส่วนสร้างขึ้น โดยยืนยันว่าราว 90% ของนิวรอนในโมเดล AI ขนาดใหญ่มี “หน้าที่หลัก” เพียงอย่างเดียว แตกต่างจากภาพเดิมที่เชื่อกันว่าซับซ้อนและพันกันเป็นกลุ่มความหมายหลากหลาย
ประเด็นสำคัญ
- Cammarata ระบุว่าตัวอย่างนิวรอน “พันกันยุ่ง” ที่โด่งดังถูกตีความคลาดเคลื่อนเป็นส่วนใหญ่
- นักวิจัยชื่อดังบางส่วนเห็นว่าผลการศึกษานี้ยังไม่เปลี่ยนภาพรวมของปัญหาความเข้าใจโมเดล
- เอกสารเทคนิคฉบับเต็มที่รองรับข้ออ้างยังไม่ถูกเผยแพร่ต่อสาธารณะ
ตรวจสอบ “บัญชีรายชื่อนิวรอน” ของ Cammarata
ปัจจุบัน Cammarata ทำงานอยู่ที่ห้องวิจัยด้านความตีความโมเดล Goodfire โดยได้เผยแพร่นิพนธ์เมื่อวันที่ 15 ต.ค. ชื่อ “Neural Networks Are Already Clean” ผ่านบทความที่เขา เผยแพร่ เอาไว้ เขา ให้เหตุผล ว่า นิวรอนส่วนใหญ่ในโมเดลที่มีพารามิเตอร์ระดับหลักล้านล้าน (trillions) สามารถอ่านความหมายได้แล้ว ขัดแย้งกับงานวิจัยยุคก่อน ข้อสรุปนี้ทำให้ชุมชนวิจัยตีความโมเดล แตกออกเป็นสองฝ่าย
จากการตรวจสอบเบื้องต้นในโมเดล Qwen3-32B ทีม Goodfire ประเมินว่า ราว 90% ของ “เสานิวรอน” (neuron poles) มีหน้าที่หลักชัดเจนหนึ่งอย่าง ราว 7% มีสองหน้าที่ที่เกี่ยวข้องกัน และมีเพียงประมาณ 2%–4% ที่ยังอธิบายไม่ได้ โดยส่วนใหญ่ของการวิเคราะห์นี้ให้ระบบ AI ช่วยดำเนินการ
Cammarata ยังย้อนทบทวน “นิวรอนหลายความหมาย” (polysemantic neuron) ที่โด่งดังที่สุดในวงการ ซึ่งพบในโมเดลประมวลผลภาพ InceptionV1 เดิมเคยถูกอ่านว่าเป็นนิวรอนที่ตอบสนองทั้งต่อใบหน้าแมวและด้านหน้ารถยนต์พร้อมกัน ขณะนี้เขาเสนอว่าจริง ๆ แล้วมันคือ “ตัวตรวจจับรูปทรงตัว V” มากกว่า รูปทรงแหลม เช่น จมูกสุนัขจิ้งจอกหรือเปลวไฟ จะกระตุ้นนิวรอนนี้ให้ทำงาน ในขณะที่รูปทรงกลมอย่างตัวอักษร O จะดันค่าการทำงานให้ติดลบ
อ่านเพิ่มเติม: รถสปอร์ตลอยฟ้าของ Tesla ถูกกฎหมายหรือไม่? อาจไม่มีคำตอบชัดเจนก่อนปี 2028
Nanda ตั้งคำถามต่อข้ออ้างของ Cammarata
Roon พนักงาน OpenAI ที่ใช้นามแฝงและระบุว่าตนเป็นเพื่อนสนิทของ Cammarata เขียนแสดงความเห็นว่างานชิ้นนี้อาจถูกบันทึกเป็นหมุดหมายสำคัญในประวัติศาสตร์วิทยาศาสตร์ แต่ยังย้ำว่าจำเป็นต้องมีงานอิสระจากนักวิจัยรายอื่นมาช่วยยืนยันซ้ำ
ด้าน Neel Nanda หัวหน้าทีมตีความโมเดลของ Google DeepMind แสดงท่าทีระมัดระวังมากกว่า เขาเขียนว่าบทความดังกล่าว “น่าสนใจ” แต่ยังไม่เปลี่ยนภาพรวมของปัญหามากนัก และคาดการณ์ว่าการศึกษาเฉพาะระดับนิวรอนจะมี “จุดบอด” ร้ายแรงอยู่ดี
Nanda ยังยืนยันว่าปรากฏการณ์ “ซูเปอร์โพสิชัน” (superposition) ยังมีอยู่จริง โดยให้เหตุผลว่า โมเดลภาษาเก็บ “ข้อเท็จจริง” ไว้ได้มากกว่าจำนวนนิวรอนอย่างมหาศาล และเขายังไม่เชื่อว่าบทเรียนจากโมเดลภาพขนาดเล็กจะสามารถถ่ายทอดขึ้นไปสู่ระบบขนาดใหญ่ได้โดยตรง
หากข้ออ้างของ Cammarata ถูกต้อง นักวิจัยอาจสามารถค้นหารูปแบบ “การหลอกลวง” หรือพฤติกรรมอันตรายได้โดยตรงในวงจรภายในของโมเดล แทนการอาศัย “กระบวนการให้เหตุผลเป็นลำดับขั้น” (chain-of-thought) ที่เริ่มถูกตั้งคำถามเรื่องความน่าเชื่อถือ แต่ในทางปฏิบัติ เอกสารเทคนิคฉบับคู่ขนานซึ่งเป็นหลักฐานสำคัญยังไม่ถูกเผยแพร่ ขณะที่ Goodfire เองในฐานะบริษัทด้านการตีความโมเดลก็มีผลประโยชน์ชัดเจนกับข้อเสนอชุดนี้
นิพนธ์ครั้งนี้จึงถือเป็นการ “กลับลำ” อย่างชัดเจนของ Cammarata ย้อนไปในปี 2020 เขาเคยร่วมเขียนงานชื่อ “Zoom In” ร่วมกับ Chris Olah ซึ่งเป็นงานที่ เสนอแนวคิด ว่านิวรอนจำนวนมากอยู่ในภาวะซูเปอร์โพสิชัน คือเมื่อเครือข่ายมีนิวรอนไม่พอ จะต้อง “อัด” แนวคิดที่ไม่เกี่ยวข้องกันหลายอย่างลงในนิวรอนเดียว ต่อมาในอีกสามปีหลังจากนั้น โครงการตีความโมเดลแบบอัตโนมัติที่เขาเริ่มต้นที่ OpenAI พบว่า มีนิวรอนเพียงราว 1.7% เท่านั้นที่ “พอจะเข้าใจได้” แม้ใช้เกณฑ์ที่ผ่อนปรนที่สุดก็ตาม
อ่านต่อ: ChatGPT ทำคะแนนรวมชนะ Claude Haiku 5.5 ในการทดสอบ 3-2 แต่แพ้ด้านคำแนะนำเฉพาะบุคคล
