Anthropic опублікувала дослідження, у якому описує прихований «робочий простір» у Claude, але формулювання в статті викликали запитання про те, як читачі можуть тлумачити міркування ШІ.
Основні моменти:
- У статті Anthropic йдеться, що Claude використовує внутрішній J-Space, пов’язаний із векторами робочого простору.
- Компанія заявляє, що ці результати не доводять, що Claude має досвід чи почуття.
- Критики попереджають, що вислови на кшталт «у його голові» розмивають межу між обчисленням і свідомістю.
Claude J-Space
Стаття розглядає те, що Anthropic називає J-Space усередині операцій Claude. За інтерпретацією Перл, ця концепція відокремлює фонову обробку від більш свідомої логічної діяльності та порівнює її з теорією глобального робочого простору.
Ця теорія є однією з концепцій людської свідомості, де несвідомі процеси конкурують, доки певна інформація не стане доступною для уваги та контролю. Таке порівняння розміщує Claude у центрі дискусії про машинну свідомість.
Публічне подання Anthropic вийшло за межі сухого технічного резюме. В дописі в X компанія заявила, що дослідники можуть спостерігати J-Space і бачити, як Claude «тихо виконує кроки міркування у себе в голові», зокрема знаходить помилки та ідентифікує зображення. Перл стверджувала, що формулювання на кшталт «у його голові» є надто сміливим стрибком, адже мовні моделі не мають тіл і немає доказів їхнього суб’єктивного досвіду.
Також читайте: Чи плакав Роналду? Трейдери Polymarket поставили 5,4 млн доларів на суперечку навколо відео
Заяви Anthropic
Блог-пост, що супроводжував статтю, також використовував лексику, наближену до опису людських ментальних станів, стверджуючи, що модель може утримувати певне поняття «в голові» та виконувати «ментальні обчислення». Перл зазначила, що за допомогою підказок модель можна змусити імітувати багато видів поведінки, але це не доводить, що система має властивості, які ці слова натякають.
Критика не в тому, що стаття не має цінності. Йдеться про те, що презентація Anthropic може підштовхувати звичайних читачів сприймати результат з інтерпретованості як доказ машинної свідомості, хоча сама компанія стверджує, що її експерименти не показують, що Claude здатен відчувати чи мати досвід.
Це занепокоєння вписується і в ширшу дискусію щодо публічної позиції Anthropic. Аманда Аскелл, філософиня, яка працює в компанії, говорила про бажання, щоб Claude був «дуже щасливим», і про свою тривогу через ворожі коментарі в інтернеті.
Anthropic не стверджує, що створила свідоме програмне забезпечення, і в її власному блозі сказано, що незрозуміло, чи може будь-який експеримент довести або спростувати таке твердження. Обережніше трактування полягає в тому, що J-Space надає технічну оптику на поведінку моделі, а не доказ того, що Claude має розум. Питання має значення, оскільки компанії з ШІ дедалі частіше описують поведінку моделей у «людських» термінах, водночас прагнучи довіри, толерантності та капіталу.
Читайте далі: Прогнози на матч США – Бельгія в prediction-маркетах розпалюються на тлі скандалу з відстороненням Трампа