Anthropic hat Forschung veröffentlicht, die einen verborgenen „Workspace“ in Claude beschreibt, doch die Sprache des Papers hat Fragen dazu aufgeworfen, wie Leser das Schlussfolgern der KI interpretieren könnten.
Zentrale Punkte:
- Anthropics Paper sagt, dass Claude einen internen J-Space verwendet, der mit Workspace-Vektoren verknüpft ist.
- Das Unternehmen sagt, die Ergebnisse beweisen nicht, dass Claude Erfahrungen oder Gefühle hat.
- Kritiker warnen, dass Begriffe wie „in seinem Kopf“ Berechnung und Bewusstsein verwischen können.
Claude J-Space
Das Paper untersucht, was Anthropic einen J-Space innerhalb von Claudes Operationen nennt. Laut Pearls Interpretation trennt das Konzept Hintergrundverarbeitung von bewussteren logischen Aktivitäten und vergleicht es mit der Global-Workspace-Theorie.
Diese Theorie ist ein Erklärungsansatz für menschliches Bewusstsein, bei dem unbewusste Prozesse miteinander konkurrieren, bis bestimmte Informationen für Aufmerksamkeit und Kontrolle verfügbar werden. Der Vergleich rückt Claude in die Nähe einer Debatte über maschinelles Bewusstsein.
Anthropics öffentliche Darstellung ging über eine nüchterne technische Zusammenfassung hinaus. In einem Beitrag auf X sagte das Unternehmen, Forscher könnten den J-Space beobachten und sehen, wie Claude „still und leise in seinem Kopf Schlussfolgerungsschritte ausführt“, einschließlich Fehlersuche und Bilderkennung. Pearl argumentierte, dass Formulierungen wie „in seinem Kopf“ einen großen Sprung darstellen, da Sprachmodelle keine Körper und keinen Nachweis subjektiver Erfahrung haben.
Auch lesen: Weinte Ronaldo? Polymarket-Händler setzen 5,4 Mio. $ auf den Kampf um die Aufnahmen
Aussagen von Anthropic
Der Blogpost, der das Paper begleitet, verwendete ebenfalls Formulierungen, die in Richtung menschlicher Geisteszustände gehen, und sagte, das Modell könne einen Begriff „im Kopf behalten“ und „geistige Berechnungen“ ausführen. Pearl sagte, Eingaben (Prompts) können ein Modell viele Verhaltensweisen simulieren lassen, aber das zeige nicht, dass das System die Eigenschaften besitzt, die diese Worte nahelegen.
Die Kritik lautet nicht, dass das Paper keinen Wert hat. Sie lautet, dass Anthropics Darstellung lässige Leser dazu verleiten könnte, ein Interpretierbarkeits-Ergebnis als Beleg für maschinelles Bewusstsein zu behandeln, obwohl das Unternehmen sagt, seine Experimente zeigten nicht, dass Claude fühlen oder Erfahrungen haben kann.
Die Sorge fügt sich auch in eine breitere Debatte über Anthropics öffentliche Haltung ein. Amanda Askell, eine Philosophin, die bei dem Unternehmen arbeitet, hat darüber gesprochen, dass sie möchte, dass Claude „sehr glücklich“ ist, und dass sie sich über feindselige Kommentare im Internet sorgt.
Anthropic hat nicht behauptet, bewusste Software geschaffen zu haben, und im eigenen Blog heißt es, es sei unklar, ob irgendein Experiment so etwas beweisen oder widerlegen könnte. Die vorsichtigere Lesart ist, dass der J-Space einen technischen Blick auf das Modellverhalten bietet, nicht den Beweis, dass Claude einen Geist hat. Die Frage ist wichtig, weil KI-Unternehmen das Verhalten von Modellen zunehmend in menschlichen Begriffen beschreiben, während sie um Vertrauen, Toleranz und Kapital werben.
Als Nächstes lesen: USA vs. Belgien: Prediction-Market-Aktivität heizt sich im Zuge der Trump-Suspendierungs-Kontroverse auf