Anthropic опублікувала дослідження, у якому описує прихований «робочий простір» у Claude, але формулювання в статті викликали запитання щодо того, як читачі можуть тлумачити «міркування» ШІ.
Основні моменти:
- У статті Anthropic стверджується, що Claude використовує внутрішній J-Space, пов’язаний із векторами робочого простору.
- Компанія заявляє, що ці результати не доводять, що Claude має досвід чи почуття.
- Критики застерігають, що вирази на кшталт «у його голові» можуть розмити межу між обчисленням і свідомістю.
Claude J-Space
Стаття досліджує те, що Anthropic називає J-Space усередині операцій Claude. За інтерпретацією Перл, ця концепція відділяє фонову обробку від більш зосередженої логічної активності та порівнює її з теорією глобального робочого простору.
Ця теорія є одним з підходів до пояснення людської свідомості, де несвідомі процеси змагаються, поки певна інформація не стане доступною для уваги та контролю. Таке порівняння поміщає Claude в центр дискусій про машинну свідомість.
Публічна подача Anthropic вийшла за межі сухого технічного резюме. В дописі в X компанія заявила, що дослідники можуть спостерігати J-Space і бачити, як Claude «тихо виконує кроки міркування в себе в голові», включно з пошуком багів і розпізнаванням зображень. Перл стверджує, що формулювання на кшталт «у його голові» є надто сильним стрибком, оскільки мовні моделі не мають тіл чи доказів суб’єктивного досвіду.
Також читайте: Чи плакав Роналду? Трейдери Polymarket поставили $5,4 млн на суперечку навколо відео
Заяви Anthropic
У блозі, що супроводжує статтю, також використовувалася мова, яка тяжіє до опису людських ментальних станів: говорилося, що модель може утримувати концепт «у свідомості» й виконувати «ментальні обчислення». Перл зазначає, що за допомогою підказок модель може імітувати багато типів поведінки, але це не доводить, що система має властивості, які припускають такі слова.
Критика не полягає в тому, що стаття не має цінності. Йдеться про те, що презентація Anthropic може спонукати пересічних читачів сприймати результат з інтерпретованості як доказ машинної свідомості, хоча сама компанія заявляє, що її експерименти не показують, що Claude здатен відчувати чи мати досвід.
Це занепокоєння вписується і в ширшу дискусію про публічну позицію Anthropic. Аманда Аскелл, філософиня, яка працює в компанії, говорила про бажання, щоб Claude був «дуже щасливим», і про її тривогу через ворожі коментарі онлайн.
Anthropic не стверджує, що створила свідоме програмне забезпечення, і в її власному блозі сказано, що незрозуміло, чи може взагалі якийсь експеримент довести або спростувати таке. Обережніше трактування полягає в тому, що J-Space пропонує технічну оптику на поведінку моделі, а не доказ того, що Claude має «розум». Це питання важливе, оскільки компанії зі сфери ШІ дедалі частіше описують поведінку моделей у людських термінах, прагнучи довіри, терпимості й капіталу.
Читайте далі: Ставки на матч США – Бельгія спалахують на prediction market на тлі скандалу з відстороненням Трампа