前 OpenAI 研究員 Nick Cammarata 最新撰文稱，大型 AI 模型中約九成神經元其實只做一件事， 與他早年協助推廣的「多義神經元／超位置」說法相當抵觸，引發可解釋性研究圈激辯。
重點整理：
- Cammarata 指出，多個經典「纏繞、多義」神經元個案其實被誤讀。
- 多名重量級學者則認為，新結論未有撼動整體圖景。
- 支撐相關主張的技術論文仍未公開。
Cammarata 的「神經元審計」
Cammarata 現於可解釋性研究實驗室 Goodfire 擔任研究員，並於 10 月 15 日在文章 〈Neural Networks Are Already Clean〉 中闡述觀點。 他在文中主張， 對於參數規模高達數萬億的模型而言，大部分神經元其實已經「可讀、可解釋」，這與早前多項研究 所勾勒的「黑箱」印象明顯不同。這一說法已令學界出現分歧。
根據 Goodfire 對 Qwen3-32B 模型的初步審計結果，大約 90% 的「神經極」（neuron poles）只負責一項主要任務， 約 7% 負責兩項彼此相關的任務，只有約 2% 至 4% 至今仍未能解釋。當中大部分分析工作由 AI 代理自動完成。
Cammarata 亦重新檢視可解釋性領域中最著名的一個「多義神經元」個案：在影像模型 InceptionV1 中， 有一個神經元據稱同時對貓臉及車頭有強烈反應，長期被視為「概念重疊」的代表案例。他現時改為解讀該神經元 為一個「V 形偵測器」：尖銳形狀，如狐狸的尖鼻或火焰，會令其強烈激活，而圓形結構如字母 O 則會令其激活度轉為負值。
延伸閱讀： Tesla 的飛行 Roadster 是否合法？2028 年前恐難有定論
Nanda 向 Cammarata 發問
使用化名 Roon 的 OpenAI 員工（自稱與 Cammarata 是多年的密友）公開撰文表示， 這項工作或有機會被寫入科學史。不過，他同時提醒，研究結果仍有待獨立團隊重複驗證。
Google DeepMind 可解釋性團隊負責人 Neel Nanda 則態度相對保留。他形容這篇文章「有趣」， 但認為並未改變整體大局，並預計單靠研究個別神經元將出現嚴重盲點。Nanda 仍堅信「超位置」（superposition）是真實存在， 理由是語言模型儲存的事實遠多於神經元數目，並質疑從小型影像模型得出的結果，能否簡單類推至更龐大的系統。
若 Cammarata 的看法正確，未來研究人員或可直接在模型電路層面，搜尋潛在的欺騙行為或危險模式， 而無須過度依賴愈來愈難信任的「思維鏈」輸出。不過，支持上述結論的技術補充論文尚未公開， 而 Goodfire 作為一家以可解釋性為核心賣點的公司，本身亦對相關論述有明顯利害關係。
是次文章對 Cammarata 而言亦是一個明顯轉向。早在 2020 年，他與 Chris Olah 合著 〈Zoom In〉，首次提出以「超位置」理解神經網絡電路： 當網絡缺乏足夠神經元時，會將本來互不相關的概念「壓縮」在同一組神經元上。其後三年， 他在 OpenAI 發起一個自動化可解釋性項目，結果顯示即使用上最寬鬆的標準，模型中只有約 1.7% 神經元 被視為「可理解」。
