Anthropic opublikowało badania opisujące ukrytą „przestrzeń roboczą” w Claude’zie, ale język użyty w artykule wywołał pytania o to, jak czytelnicy mogą interpretować wnioskowanie AI.
Kluczowe punkty:
- Artykuł Anthropic stwierdza, że Claude używa wewnętrznej J-Space powiązanej z wektorami przestrzeni roboczej.
- Firma twierdzi, że wyniki nie dowodzą, iż Claude ma doświadczenia lub odczucia.
- Krytycy ostrzegają, że sformułowania takie jak „w swojej głowie” mogą zacierać granicę między obliczeniami a świadomością.
Claude J-Space
Artykuł analizuje to, co Anthropic nazywa J-Space wewnątrz działania Claude’a. Według interpretacji Pearla koncepcja ta oddziela przetwarzanie w tle od bardziej zamierzonej aktywności logicznej i porównuje ją z teorią globalnej przestrzeni roboczej.
Teoria ta jest jednym z ujęć ludzkiej świadomości, w którym nieświadome procesy konkurują ze sobą, aż pewne informacje staną się dostępne dla uwagi i kontroli. Porównanie to lokuje Claude’a w pobliżu debaty o świadomości maszyn.
Publiczne przedstawienie badań przez Anthropic wykraczało poza suchą, techniczną syntezę. W poście na X firma stwierdziła, że badacze mogą obserwować J-Space i widzieć, jak Claude „po cichu wykonuje kroki rozumowania w swojej głowie”, w tym znajdowanie błędów i identyfikowanie obrazów. Pearl argumentował, że sformułowania takie jak „w swojej głowie” są dużym skokiem, ponieważ modele językowe nie mają ciał ani dowodów na subiektywne doświadczenie.
Zobacz także: Czy Ronaldo płakał? Traderzy Polymarket stawiają 5,4 mln dol. na spór o nagranie
Twierdzenia Anthropic
Wpis na blogu towarzyszący artykułowi również używał języka zbliżonego do ludzkich stanów mentalnych, mówiąc, że model może utrzymywać jakiś koncept „w umyśle” i wykonywać „obliczenia mentalne”. Pearl stwierdził, że odpowiednie polecenia mogą skłonić model do symulowania wielu zachowań, ale nie dowodzi to, że system posiada cechy sugerowane przez te słowa.
Krytyka nie polega na tym, że artykuł jest bezwartościowy. Chodzi o to, że sposób prezentacji Anthropic może zachęcać przypadkowych czytelników do traktowania wyniku z zakresu interpretowalności jako dowodu na świadomość maszyn, mimo że firma twierdzi, iż jej eksperymenty nie pokazują, że Claude może odczuwać lub mieć doświadczenia.
Obawy te wpisują się też w szerszą debatę wokół publicznego wizerunku Anthropic. Amanda Askell, filozofka pracująca w firmie, mówiła o tym, że chce, by Claude był „bardzo szczęśliwy” i że martwi ją wrogi ton komentarzy w sieci.
Anthropic nie twierdzi, że stworzyło świadome oprogramowanie, a na firmowym blogu można przeczytać, że nie jest jasne, czy jakikolwiek eksperyment mógłby coś takiego jednoznacznie potwierdzić lub obalić. Bezpieczniejsza interpretacja jest taka, że J-Space oferuje techniczne spojrzenie na zachowanie modelu, a nie dowód, że Claude ma umysł. Ma to znaczenie, ponieważ firmy AI coraz częściej opisują zachowanie modeli w kategoriach ludzkich, jednocześnie zabiegając o zaufanie, wyrozumiałość i kapitał.
Czytaj dalej: USA kontra Belgia – gorączka na rynku predykcji w cieniu kontrowersji wokół zawieszenia Trumpa