Anthropic a publié des recherches décrivant un « espace de travail » caché dans Claude, mais le langage employé dans l’article a suscité des questions sur la façon dont les lecteurs peuvent interpréter le raisonnement de l’IA.
Points clés :
- L’article d’Anthropic indique que Claude utilise un J-Space interne lié à des vecteurs d’espace de travail.
- L’entreprise affirme que les résultats ne prouvent pas que Claude ait des expériences ou des sentiments.
- Les critiques avertissent que des termes comme « dans sa tête » peuvent brouiller la frontière entre calcul et conscience.
Le J-Space de Claude
L’article examine ce qu’Anthropic appelle un J-Space au sein du fonctionnement de Claude. D’après la lecture de Pearl, ce concept sépare le traitement de fond d’une activité logique plus délibérée et le compare à la théorie de l’« espace de travail global ».
Cette théorie est l’une des explications de la conscience humaine, où des processus inconscients sont en compétition jusqu’à ce que certaines informations deviennent disponibles pour l’attention et le contrôle. Cette comparaison place Claude au cœur d’un débat sur la conscience des machines.
La présentation publique d’Anthropic est allée plus loin qu’un simple résumé technique. Dans un post sur X, l’entreprise a déclaré que les chercheurs pouvaient observer le J-Space et voir Claude « effectuer silencieusement des étapes de raisonnement dans sa tête », y compris trouver des bugs et identifier des images. Pearl a soutenu qu’une formulation comme « dans sa tête » représente un grand saut, puisque les modèles de langage n’ont ni corps ni preuves d’une expérience subjective.
À lire aussi : Ronaldo a-t-il pleuré ? Les traders de Polymarket misent 5,4 M$ sur la bataille des images
Les affirmations d’Anthropic
L’article de blog accompagnant la publication utilisait également un langage évoquant des états mentaux humains, affirmant que le modèle pouvait garder un concept « à l’esprit » et effectuer des « calculs mentaux ». Pearl a indiqué que des invites peuvent amener un modèle à simuler de nombreux comportements, mais que cela ne prouve pas que le système possède les caractéristiques suggérées par ces mots.
La critique ne porte pas sur l’absence de valeur de l’article. Elle souligne plutôt que la présentation d’Anthropic peut inciter des lecteurs peu avertis à considérer un résultat d’interprétabilité comme une preuve de conscience machine, alors même que l’entreprise affirme que ses expériences ne montrent pas que Claude puisse ressentir ou avoir des expériences.
Cette préoccupation s’inscrit aussi dans un débat plus large sur la posture publique d’Anthropic. Amanda Askell, philosophe travaillant pour l’entreprise, a déjà expliqué vouloir que Claude soit « très heureux » et s’inquiéter des commentaires hostiles en ligne.
Anthropic n’a pas affirmé avoir créé un logiciel conscient, et son propre blog indique qu’il n’est pas clair qu’une expérience puisse prouver ou réfuter une telle chose. L’interprétation la plus prudente est que le J-Space offre un angle technique sur le comportement du modèle, et non une preuve que Claude a un esprit. L’enjeu est important parce que les entreprises d’IA décrivent de plus en plus le comportement de leurs modèles en termes humains, tout en recherchant confiance, tolérance et capitaux.
À lire ensuite : Les marchés sur USA vs Belgique s’enflamment au milieu de la controverse sur la suspension de Trump