**앤트로픽(Anthropic)**이 클로드(Claude) 안에 숨겨진 ‘작업 공간(workspace)’을 묘사한 연구를 공개했지만, 논문에서 사용한 표현이 독자들이 AI 추론을 어떻게 해석할지에 대한 논란을 낳고 있다.
핵심 포인트:
- 앤트로픽의 논문은 클로드가 작업 공간 벡터와 연관된 내부 J-스페이스를 사용한다고 말한다.
- 회사 측은 이러한 발견이 클로드가 경험이나 감정을 가진다는 증거는 아니라고 설명한다.
- 비평가들은 “머릿속에서(in its head)”와 같은 용어가 계산과 의식의 경계를 흐릴 수 있다고 경고한다.
클로드 J-스페이스
이 논문은 앤트로픽이 클로드의 동작 내부에 있다고 부르는 J-스페이스를 검토한다. 펄(Pearl)의 해석에 따르면, 이 개념은 배경 처리와 보다 의식적인 논리 활동을 구분하며, 이를 전역 작업 공간 이론(global workspace theory)과 비교한다.
이 이론은 인간 의식을 설명하는 관점 중 하나로, 무의식적 과정들이 경쟁하다가 특정 정보가 주의와 통제에 이용 가능해지는 순간 의식에 떠오른다고 본다. 이런 비교는 클로드를 기계 의식에 대한 논쟁의 한가운데로 끌어들인다.
앤트로픽의 대외적 프레이밍은 건조한 기술적 요약을 넘어섰다. X(옛 트위터)에 올린 글에서 회사는 연구자들이 J-스페이스를 관찰해, 버그를 찾고 이미지를 식별하는 것까지 포함해, 클로드가 “머릿속에서 조용히 추론 단계를 수행하는 것(silently perform reasoning steps in its head)”을 볼 수 있다고 말했다. 펄은 “머릿속에서(in its head)”와 같은 표현이 과도한 비약이라고 주장하는데, 언어 모델에는 몸도 없고 주관적 경험의 증거도 없기 때문이다.
함께 읽기: Did Ronaldo Cry? Polymarket Traders Put $5.4M Behind The Footage Fight
앤트로픽의 주장
논문과 함께 올라온 블로그 글 역시 인간의 심적 상태를 연상시키는 표현을 사용하며, 모델이 어떤 개념을 “마음속에 간직한 채(in mind)” “정신적 계산(mental calculations)”을 수행할 수 있다고 적었다. 펄은 프롬프트를 통해 모델이 여러 행동을 흉내 내게 할 수는 있지만, 그렇다고 해서 그 시스템이 그런 단어들이 암시하는 특성을 실제로 가진다는 뜻은 아니라고 말한다.
비판의 요지는 논문이 가치가 없다는 것이 아니다. 다만 앤트로픽의 제시 방식이, 회사 측이 실험이 클로드가 감정을 느끼거나 경험을 한다는 것을 보여주지 않는다고 못 박고 있음에도, 일반 독자들로 하여금 해석 가능성 연구 결과를 기계 의식의 증거로 받아들이도록 부추길 수 있다는 것이다.
이런 우려는 앤트로픽의 대외적 태도를 둘러싼 더 넓은 논쟁과도 맞닿아 있다. 회사에 근무하는 철학자 **아만다 애스켈(Amanda Askell)**은 클로드가 “아주 행복하기를(very happy)” 바란다고 말하고, 온라인의 적대적인 댓글을 걱정한다고 밝힌 바 있다.
앤트로픽은 자신들이 의식 있는 소프트웨어를 만들었다고 주장한 적이 없으며, 자사 블로그에서도 어떤 실험이 이런 것을 입증하거나 반박할 수 있을지는 불분명하다고 적고 있다. 보다 안전한 해석은 J-스페이스가 클로드의 행동을 들여다보는 기술적 렌즈를 제공할 뿐, 클로드에게 마음이 있다는 증거는 아니라는 것이다. 이 문제는 AI 기업들이 신뢰, 관용, 자본을 얻기 위해 모델의 행동을 인간적인 용어로 묘사하는 일이 점점 늘어나고 있기 때문에 중요하다.
다음 읽기: USA vs. Belgium Prediction Market Action Heats Up Amid Trump Suspension Controversy