Anthropic ha pubblicato una ricerca che descrive un “workspace” nascosto in Claude, ma il linguaggio usato nel paper ha sollevato domande su come i lettori possano interpretare il ragionamento dell’IA.
Punti chiave:
- Il paper di Anthropic afferma che Claude usa uno J-Space interno collegato a vettori di workspace.
- L’azienda afferma che i risultati non provano che Claude abbia esperienze o sentimenti.
- I critici avvertono che espressioni come “nella sua testa” possono confondere computazione e coscienza.
Claude J-Space
Il paper esamina ciò che Anthropic chiama uno J-Space all’interno delle operazioni di Claude. Secondo la lettura di Pearl, il concetto separa l’elaborazione di sfondo da un’attività logica più deliberata e la confronta con la global workspace theory.
Questa teoria è un resoconto della coscienza umana, in cui processi inconsci competono finché alcune informazioni diventano disponibili per l’attenzione e il controllo. Il confronto colloca Claude all’interno del dibattito sulla coscienza delle macchine.
L’inquadramento pubblico di Anthropic è andato oltre un freddo riassunto tecnico. In un post su X, l’azienda ha affermato che i ricercatori possono osservare lo J-Space e vedere Claude “eseguire silenziosamente passaggi di ragionamento nella sua testa”, inclusa la ricerca di bug e l’identificazione di immagini. Pearl ha sostenuto che formulazioni come “nella sua testa” rappresentano un grande salto, dato che i modelli di linguaggio non hanno corpi né prove di esperienza soggettiva.
Leggi anche: Ronaldo ha pianto? I trader di Polymarket puntano 5,4 milioni di dollari sulla disputa sui filmati
Le affermazioni di Anthropic
Il post sul blog che accompagna il paper ha usato anch’esso un linguaggio vicino agli stati mentali umani, affermando che il modello può mantenere un concetto “in mente” ed eseguire “calcoli mentali”. Pearl ha detto che i prompt possono far simulare a un modello molti comportamenti, ma questo non dimostra che il sistema possieda le caratteristiche implicate da quelle parole.
La critica non è che il paper sia privo di valore. È che la presentazione di Anthropic possa spingere i lettori occasionali a considerare un risultato di interpretabilità come prova di coscienza della macchina, anche se l’azienda afferma che i suoi esperimenti non mostrano che Claude possa provare sentimenti o avere esperienze.
La preoccupazione rientra anche in un dibattito più ampio sull’atteggiamento pubblico di Anthropic. Amanda Askell, filosofa che lavora per l’azienda, ha parlato del desiderio che Claude sia “molto felice” e della sua preoccupazione per i commenti ostili online.
Anthropic non ha affermato di aver creato un software cosciente e il suo stesso blog sostiene che non è chiaro se un esperimento possa mai dimostrare o confutare una cosa del genere. L’interpretazione più prudente è che lo J-Space offra una lente tecnica sul comportamento del modello, non la prova che Claude abbia una mente. La questione è importante perché le aziende di IA descrivono sempre più spesso il comportamento dei modelli in termini umani mentre cercano fiducia, tolleranza e capitale.
Da leggere dopo: Le scommesse sul mercato delle previsioni USA vs Belgio si scaldano in mezzo alle polemiche sulla sospensione di Trump