Anthropic a publié des recherches décrivant un « espace de travail » caché dans Claude, mais le langage employé dans l’article a soulevé des questions sur la manière dont les lecteurs peuvent interpréter le raisonnement de l’IA.
Points clés :
- L’article d’Anthropic affirme que Claude utilise un J‑Space interne lié à des vecteurs d’espace de travail.
- L’entreprise précise que ces résultats ne prouvent pas que Claude a des expériences ou des sentiments.
- Des critiques avertissent que des termes comme « dans sa tête » peuvent brouiller la frontière entre calcul et conscience.
Le J‑Space de Claude
L’article examine ce qu’Anthropic appelle un J‑Space au sein des opérations de Claude. Selon la lecture de Pearl, ce concept sépare le traitement de fond d’une activité logique plus délibérée et le compare à la théorie de l’espace de travail global.
Cette théorie est l’un des récits de la conscience humaine, où des processus inconscients sont en compétition jusqu’à ce que certaines informations deviennent disponibles pour l’attention et le contrôle. La comparaison place Claude au cœur d’un débat sur la conscience des machines.
La présentation publique d’Anthropic est allée plus loin qu’un simple résumé technique sec. Dans une publication sur X, l’entreprise a déclaré que les chercheurs pouvaient observer le J‑Space et voir Claude « effectuer silencieusement des étapes de raisonnement dans sa tête », notamment trouver des bogues et identifier des images. Pearl a soutenu qu’une formulation comme « dans sa tête » constitue un grand saut, puisque les modèles de langage n’ont pas de corps ni de preuve d’une expérience subjective.
À lire aussi : Ronaldo a‑t‑il pleuré ? Les traders de Polymarket misent 5,4 M$ sur la bataille autour des images
Les affirmations d’Anthropic
L’article de blog qui accompagne le papier utilise également un langage qui penche vers des états mentaux humains, affirmant que le modèle pourrait garder un concept « à l’esprit » et effectuer des « calculs mentaux ». Pearl a expliqué que des invites peuvent amener un modèle à simuler de nombreux comportements, mais que cela ne prouve pas que le système possède les caractéristiques évoquées par ces mots.
La critique ne porte pas sur le fait que l’article manquerait de valeur. Elle soutient plutôt que la présentation d’Anthropic peut encourager des lecteurs peu attentifs à considérer un résultat d’interprétabilité comme une preuve de conscience machinique, alors même que l’entreprise affirme que ses expériences ne montrent pas que Claude peut ressentir ou avoir des expériences.
Cette préoccupation s’inscrit aussi dans un débat plus large sur la posture publique d’Anthropic. Amanda Askell, philosophe travaillant dans l’entreprise, a évoqué le souhait que Claude soit « très heureux » et son inquiétude face aux commentaires hostiles en ligne.
Anthropic n’a pas prétendu avoir créé un logiciel conscient, et son propre blog indique qu’il n’est pas clair qu’aucune expérience puisse prouver ou réfuter une telle chose. L’interprétation la plus prudente est que le J‑Space offre un angle technique sur le comportement du modèle, et non une preuve que Claude possède un esprit. L’enjeu est important, car les entreprises d’IA décrivent de plus en plus le comportement des modèles en termes humains tout en recherchant confiance, tolérance et capitaux.
À lire ensuite : USA vs Belgique : l’action sur les marchés de prédiction s’intensifie sur fond de controverse autour de la suspension de Trump