Anthropic опубликовала исследование, в котором описывается скрытое «рабочее пространство» в Claude, но формулировки в статье вызвали вопросы о том, как читатели могут интерпретировать рассуждения ИИ.
Ключевые моменты:
- В статье Anthropic говорится, что Claude использует внутреннее J‑пространство, связанное с векторами рабочего пространства.
- Компания утверждает, что результаты не доказывают, что Claude обладает переживаниями или чувствами.
- Критики предупреждают, что выражения вроде «у него в голове» могут размывать границу между вычислением и сознанием.
J‑пространство Claude
Статья рассматривает то, что Anthropic называет J‑пространством внутри работы Claude. Согласно прочтению Перл, эта концепция отделяет фоновую обработку от более преднамеренной логической активности и сопоставляет её с теорией глобального рабочего пространства.
Эта теория — один из вариантов описания человеческого сознания, где бессознательные процессы конкурируют, пока определённая информация не станет доступной для внимания и контроля. Такое сравнение помещает Claude в центр спора о машинном сознании.
Публичная подача Anthropic зашла дальше сухого технического резюме. В посте в X компания написала, что исследователи могут наблюдать J‑пространство и видеть, как Claude «тихо выполняет шаги рассуждений у себя в голове», включая поиск ошибок и распознавание изображений. Перл утверждала, что формулировки вроде «у себя в голове» — это сильное допущение, поскольку языковые модели не имеют ни тела, ни доказательств субъективного опыта.
Также читайте: Плакал ли Роналду? Трейдеры Polymarket поставили 5,4 млн долларов на спор вокруг видеозаписи
Заявления Anthropic
В сопроводительном блоге к статье также использовался язык, склоняющийся к описанию человеческих ментальных состояний: говорилось, что модель может удерживать концепцию «в уме» и проводить «умственные вычисления». Перл отметила, что с помощью подсказок можно заставить модель имитировать множество видов поведения, но это не доказывает, что система обладает признаками, подразумеваемыми такими словами.
Критика не сводится к тому, что статья бесполезна. Речь о том, что подача Anthropic может побудить неискушённых читателей воспринимать результат по интерпретируемости как доказательство машинного сознания, хотя сама компания утверждает, что её эксперименты не показывают, будто Claude способен чувствовать или иметь переживания.
Эта обеспокоенность также вписывается в более широкий спор вокруг публичной позиции Anthropic. Аманда Аскелл, философ, работающая в компании, говорила о желании, чтобы Claude был «очень счастливым», и о тревоге по поводу враждебных комментариев в интернете.
Anthropic не заявляла, что создала сознательное ПО, и в её собственном блоге говорится, что неясно, может ли какой‑либо эксперимент вообще доказать или опровергнуть такое утверждение. Более осторожное прочтение состоит в том, что J‑пространство даёт техническую оптику на поведение модели, а не доказательство того, что у Claude есть разум. Вопрос важен, потому что компании ИИ всё чаще описывают поведение моделей в человеческих терминах, добиваясь доверия, терпимости и капитала.
Читайте далее: Прогнозы на матч США — Бельгия накаляются на рынке ставок на фоне спора о блокировке Трампа