Anthropic hat Forschung veröffentlicht, die einen verborgenen „Arbeitsbereich“ in Claude beschreibt. Die Sprache des Papers hat jedoch Fragen dazu aufgeworfen, wie Leser die Schlussfolgerungen zum KI‑Denken interpretieren könnten.
Zentrale Punkte:
- Anthropics Paper besagt, dass Claude einen internen J‑Space verwendet, der mit Arbeitsbereichsvektoren verknüpft ist.
- Das Unternehmen sagt, die Ergebnisse bewiesen nicht, dass Claude Erfahrungen oder Gefühle hat.
- Kritiker warnen, dass Begriffe wie „in seinem Kopf“ Berechnung und Bewusstsein verwischen können.
Claude J‑Space
Das Paper untersucht, was Anthropic einen J‑Space innerhalb von Claudes Operationen nennt. Nach Pearls Lesart trennt das Konzept Hintergrundverarbeitung von stärker bewusster logischer Aktivität und vergleicht es mit der Global‑Workspace‑Theorie.
Diese Theorie ist ein Erklärungsansatz für menschliches Bewusstsein, bei dem unbewusste Prozesse konkurrieren, bis bestimmte Informationen für Aufmerksamkeit und Kontrolle verfügbar werden. Der Vergleich rückt Claude in die Nähe einer Debatte über Maschinenbewusstsein.
Anthropics öffentliche Darstellung ging über eine nüchterne technische Zusammenfassung hinaus. In einem Beitrag auf X schrieb das Unternehmen, Forscher könnten den J‑Space beobachten und sehen, wie Claude „still und leise Rechenschritte in seinem Kopf ausführt“, einschließlich der Fehlersuche und der Identifikation von Bildern. Pearl argumentierte, dass Formulierungen wie „in seinem Kopf“ einen großen Sprung darstellen, da Sprachmodelle keine Körper und keinen Nachweis subjektiver Erfahrung haben.
Auch lesen: Hat Ronaldo geweint? Polymarket‑Händler setzen 5,4 Mio. $ auf den Streit um die Aufnahmen
Aussagen von Anthropic
Der Blogpost, der das Paper begleitet, verwendete ebenfalls Formulierungen, die in Richtung menschlicher Geisteszustände tendieren, und sagte, das Modell könne einen Begriff „im Kopf behalten“ und „geistige Berechnungen“ anstellen. Pearl sagte, Eingaben könnten ein Modell viele Verhaltensweisen simulieren lassen, aber das zeige nicht, dass das System die Eigenschaften habe, die diese Worte nahelegen.
Die Kritik lautet nicht, dass das Paper keinen Wert habe. Vielmehr könnte Anthropics Präsentation dazu verleiten, dass Gelegenheitspublikum ein Interpretierbarkeits‑Ergebnis als Beleg für Maschinenbewusstsein deutet – obwohl das Unternehmen sagt, seine Experimente zeigten nicht, dass Claude fühlen oder Erfahrungen haben kann.
Die Sorge fügt sich auch in eine breitere Debatte über Anthropics öffentlichen Auftritt ein. Amanda Askell, eine Philosophin, die bei dem Unternehmen arbeitet, hat darüber gesprochen, dass sie möchte, dass Claude „sehr glücklich“ ist, und sich über feindselige Kommentare im Netz sorgt.
Anthropic hat nicht behauptet, bewusste Software geschaffen zu haben, und im eigenen Blog heißt es, es sei unklar, ob irgendein Experiment so etwas beweisen oder widerlegen könnte. Die vorsichtigere Lesart ist, dass J‑Space eine technische Linse auf das Modellverhalten bietet, nicht den Beweis, dass Claude einen Geist hat. Das Thema ist wichtig, weil KI‑Unternehmen das Verhalten ihrer Modelle zunehmend in menschlichen Begriffen beschreiben, während sie um Vertrauen, Toleranz und Kapital werben.
Als Nächstes lesen: USA vs. Belgien: Prediction‑Market‑Aktivität heizt sich auf amid Trumps Sperr‑Kontroverse