前 OpenAI 研究員、現任可解釋性實驗室 Goodfire 成員的 Nick Cammarata 主張，大型 AI 模型中約有 90% 的神經元其實各司其職、只做一件主要工作，這不僅推翻他過去親手參與建立的理論，也再度點燃「AI 黑箱」是否真能被打開的爭論。
重點整理：
- Cammarata 指出，過去最知名的「纏繞神經元」案例，多半被嚴重誤讀。
- 多位重量級研究員認為，這篇文章有趣，但對整體圖像影響有限。
- 支撐此主張的技術性論文尚未公開，仍無法全面驗證。
Cammarata 的「神經元稽核」
Cammarata 於 10 月 15 日在 Goodfire 網站發表題為〈Neural Networks Are Already Clean〉的文章，於文中系統性提出主張，認為在參數規模高達「兆級」的大型模型中，多數神經元其實已經相當「可讀」、可被理解，這與既有研究結論大相逕庭，也讓可解釋性領域研究員意見分裂。
根據 Goodfire 對 Qwen3-32B 模型的初步「神經元普查」，大約有 90% 的神經元極（neuron poles）只負責一項主要任務，約 7% 兼具兩項相關任務，真正難以解釋的僅剩 2% 至 4%。這些分析大多由 AI 代理人自動完成。
Cammarata 也重新檢視該領域最經典的「多重語意（polysemantic）」神經元案例——影像模型 InceptionV1 中那顆據稱同時對「貓臉」與「車頭」有強烈反應的神經元。他如今認為，那其實只是一個 V 字形偵測器：凡是尖銳、帶有尖端的形狀，例如狐狸的鼻口部、火焰等，都會觸發它；相反地，像字母 O 這類圓形結構則會讓它的活化值轉為負向。
延伸閱讀：特斯拉「飛天 Roadster」到底合不合法？2028 年前恐怕沒有答案
Nanda 對 Cammarata 保持保留
自稱與 Cammarata 私交甚篤、化名為 Roon 的 OpenAI 員工則撰文表示，此項工作「可能被載入科學史冊」。不過，他也強調，這一切仍有待其他團隊獨立驗證。
相較之下，Google DeepMind 可解釋性團隊負責人 Neel Nanda 的態度明顯更為謹慎。他認為這篇文章「很有意思」，但對整體理解「並無顛覆性改變」，並預測若只研究單一神經元，將注定留下巨大的盲區。Nanda 依舊堅信「疊加（superposition）」真實存在，理由是：語言模型掌握的事實量遠超過其神經元數量，而他也質疑，小型影像模型的結果能否類推至更龐大的通用系統。
若 Cammarata 的看法成立，未來研究員在尋找模型「欺騙行為」或潛在危險模式時，可能不必再仰賴愈來愈不可信的「思維鏈」，而是能直接在模型電路中追蹤風險。不過，目前支撐這篇文章的技術性「伴隨論文」尚未釋出，而 Goodfire 身為「可解釋性」公司，本身也對這項論述有明顯利害關係。
對 Cammarata 而言，這篇文章更是一記「自我反轉」。早在 2020 年，他就與 Chris Olah 合寫〈Zoom In〉一文，當時首次提出被解讀為「疊加」的電路案例：在神經元不足的情況下，網路會被迫將互不相干的概念壓縮到同一顆神經元中。三年後，他在 OpenAI 主導的一項自動化可解釋性計畫卻發現，即使在最寬鬆的標準下，仍只有約 1.7% 的神經元可被真正理解。
