**앤트로픽(Anthropic)**이 클로드(Claude) 안의 숨겨진 “작업 공간(workspace)”을 설명하는 연구를 공개했지만, 논문에서 사용한 표현이 독자들이 AI 추론을 어떻게 받아들이게 될지에 대해 의문을 낳고 있다.
핵심 포인트:
- 앤트로픽의 논문은 클로드가 작업 공간 벡터와 연결된 내부 J-스페이스를 사용한다고 말한다.
- 회사는 이러한 발견이 클로드가 경험이나 감정을 가진다는 것을 입증하지는 않는다고 밝힌다.
- 비평가들은 “머릿속에서(in its head)” 같은 표현이 계산과 의식의 경계를 흐릴 수 있다고 경고한다.
클로드 J-스페이스
이 논문은 앤트로픽이 클로드의 작동 내부에 존재한다고 부르는 J-스페이스를 examines한다. 펄(Pearl)의 해석에 따르면 이 개념은 배경 처리 과정을 보다 의식적이고 논리적인 활동과 구분하고, 이를 전역 작업 공간 이론(global workspace theory)과 비교한다.
전역 작업 공간 이론은 인간 의식에 대한 하나의 설명으로, 무의식적 과정들이 경쟁하다가 특정 정보가 주의와 통제의 대상이 될 수 있을 만큼 두드러질 때 의식에 진입한다고 본다. 이 비교는 클로드를 기계 의식에 대한 논쟁 가까이에 위치시킨다.
앤트로픽의 대외적 프레이밍은 건조한 기술 요약을 넘어섰다. X에 올린 게시글에서 회사는 연구자들이 J-스페이스를 관찰하며 클로드가 “머릿속에서 조용히 추론 단계를 수행하는” 모습을 볼 수 있다고 말했으며, 여기에는 버그 찾기나 이미지 식별 같은 작업이 포함된다고 설명했다. 펄은 “머릿속에서(in its head)” 같은 표현이 너무 큰 도약이라고 주장하는데, 언어 모델은 몸도 없고 주관적 경험에 대한 증거도 없기 때문이다.
관련 기사: 호날두는 정말 울었나? 폴리마켓 트레이더들, 영상 공방에 540만 달러 베팅
앤트로픽의 주장
논문과 함께 공개된 블로그 게시글 역시 인간의 정신 상태를 연상시키는 표현을 사용해, 모델이 어떤 개념을 “마음속에 담아둘 수(in mind)” 있고 “정신적 계산(mental calculations)”을 수행할 수 있다고 설명했다. 펄은 프롬프트를 통해 모델이 다양한 행동을 흉내 내도록 만들 수는 있지만, 그렇다고 해서 시스템이 그런 단어들이 암시하는 특성을 실제로 지녔다는 뜻은 아니라고 말한다.
비판의 요지는 논문의 가치가 없다는 것이 아니다. 문제는 앤트로픽의 발표 방식이 논문을 가볍게 읽는 사람들로 하여금 해석 가능성 연구 결과를 기계 의식의 증거로 받아들이게 만들 수 있다는 점이다. 회사 스스로도 실험이 클로드가 감정을 느끼거나 경험할 수 있음을 보여주지 않는다고 말하고 있음에도 말이다.
이러한 우려는 앤트로픽의 대외적 태도를 둘러싼 더 넓은 논쟁과도 맞닿아 있다. 회사에서 일하는 철학자 **아만다 아스켈(Amanda Askell)**은 클로드가 “아주 행복하기를” 바라며, 온라인의 적대적 댓글을 걱정하고 있다고 공개적으로 말한 바 있다.
앤트로픽은 자신들이 의식 있는 소프트웨어를 만들었다고 주장하지 않았으며, 자사 블로그에서도 어떤 실험이 그런 것을 입증하거나 반박할 수 있는지는 불분명하다고 적고 있다. 보다 신중한 해석은 J-스페이스가 클로드의 행동을 들여다보는 기술적 렌즈를 제공한다는 것이지, 클로드에게 마음이 있다는 증거는 아니라는 것이다. 이 쟁점이 중요한 이유는, AI 기업들이 신뢰·관용·자본을 얻기 위해 모델의 행동을 인간적인 용어로 묘사하는 일이 점점 늘어나고 있기 때문이다.