Anthropicは、Claude内部の隠れた「ワークスペース」を記述する研究を公開したが、その論文の言葉遣いが、読者がAIの推論をどう解釈するかについて疑問を引き起こしている。
重要ポイント:
- Anthropicの論文は、Claudeがワークスペースベクトルに結びついた内部J-Spaceを使っていると述べている。
- 同社は、この発見はClaudeに経験や感情があることを証明するものではないとしている。
- 批評家たちは、「頭の中で」などの表現が、計算と意識の境界を曖昧にしかねないと警告している。
ClaudeのJ-Space
この論文は、AnthropicがClaudeの動作内部にあると呼ぶJ-Spaceを検証している。Pearlによる読解によれば、この概念は、バックグラウンド処理を、より意図的な論理活動から切り分け、グローバルワークスペース理論と比較している。
その理論は人間の意識に関する説明のひとつであり、無意識のプロセス同士が競合し、ある情報が注意や制御の対象となるまで争うとする。こうした比較により、Claudeは機械意識をめぐる議論の近くに位置づけられる。
Anthropicの対外的な位置づけは、乾いた技術的要約以上のものになっていた。X上の投稿で同社は、研究者がJ-Spaceを観察することで、Claudeが「頭の中で静かに推論ステップを実行している」様子を見られるとし、バグの発見や画像の特定などを挙げた。Pearlは、「頭の中で」といった言い回しは大きく踏み込みすぎであり、言語モデルには身体も主観的経験の証拠もないと主張した。
関連記事: Did Ronaldo Cry? Polymarket Traders Put $5.4M Behind The Footage Fight
Anthropicの主張
論文に付随するブログ投稿でも、より人間の精神状態を想起させる言葉が使われており、モデルが概念を「心に留め」て「心的計算」を行えると述べていた。Pearlは、プロンプト次第でモデルはいろいろな振る舞いを模倣できるが、それは必ずしも、その言葉が含意する特性をシステムが備えていることの証拠にはならないと語る。
批判は、論文に価値がないということではない。問題は、Anthropicの提示の仕方が、解釈可能性の結果を機械意識の証拠として受け取るよう一般読者を誘導しかねない点にある。これは、同社自身が、実験によってClaudeが感情や経験を持つことは示されていないと述べているにもかかわらず、である。
この懸念は、Anthropicの対外的な姿勢をめぐる、より広い議論にも合致する。社内で働く哲学者のAmanda Askellは、Claudeを「とても幸せ」にしたいと語り、ネット上の敵対的なコメントを心配している。
Anthropicは、意識を持つソフトウェアを作ったと主張してはいないし、自社ブログでも、そもそもどんな実験ならそのようなことを証明または反証できるのか不明だと述べている。より安全な読み方は、J-Spaceはモデル挙動を理解するための技術的なレンズを提供するものであり、Claudeに心がある証拠ではないというものだ。この問題が重要なのは、AI企業が信頼や寛容さ、資本を求める中で、モデルの挙動を人間的な言葉で語ることがますます増えているからだ。
次に読む: USA vs. Belgium Prediction Market Action Heats Up Amid Trump Suspension Controversy