Anthropic, Claude içinde gizli bir “çalışma alanı” tanımlayan bir araştırma yayımladı, ancak makaledeki dil, okuyucuların yapay zeka muhakemesini nasıl yorumlayabileceğine dair sorular ortaya çıkardı.
Temel Noktalar:
- Anthropic’in makalesi, Claude’un çalışma alanı vektörleriyle bağlantılı dahili bir J-Uzayı kullandığını söylüyor.
- Şirket, bulguların Claude’un deneyimlere veya duygulara sahip olduğunu kanıtlamadığını belirtiyor.
- Eleştirmenler, “kafasında” gibi ifadelerin hesaplama ile bilinci birbirine karıştırabileceği konusunda uyarıyor.
Claude J-Uzayı
Makale, Anthropic’in Claude’un işlemleri içinde bir J-Uzayı olarak adlandırdığı yapıyı inceliyor. Pearl’ün okumasına göre bu kavram, arka plan işlemlerini daha kasıtlı mantıksal etkinlikten ayırıyor ve bunu küresel çalışma alanı teorisiyle karşılaştırıyor.
Bu teori, insan bilincine dair anlatımlardan biridir; bilinçdışı süreçlerin, belirli bilgilerin dikkat ve kontrol için kullanılabilir hale gelene kadar rekabet ettiğini ileri sürer. Bu karşılaştırma, Claude’u makine bilinci tartışmasının yakınına yerleştiriyor.
Anthropic’in kamuya dönük çerçevesi kuru bir teknik özetin ötesine geçti. Şirket, X’te paylaştığı bir gönderide, araştırmacıların J-Uzayı’nı izleyerek Claude’un “kafasında sessizce akıl yürütme adımları gerçekleştirdiğini” görebileceğini; buna hataları bulmanın ve görüntüleri tanımlamanın da dahil olduğunu söyledi. Pearl, “kafasında” gibi ifadelerin büyük bir sıçrama olduğunu savundu; zira dil modellerinin bedeni yok ve öznel deneyime dair hiçbir kanıt bulunmuyor.
Ayrıca Oku: Did Ronaldo Cry? Polymarket Traders Put $5.4M Behind The Footage Fight
Anthropic’in İddiaları
Makaleye eşlik eden blog yazısı da insan zihinsel durumlarına yakın duran bir dil kullandı; modelin bir kavramı “aklında tutabildiğini” ve “zihinsel hesaplamalar” yapabildiğini söyledi. Pearl, komutların bir modeli pek çok davranışı simüle etmeye yönlendirebileceğini, ancak bunun sistemin bu sözcüklerin ima ettiği özelliklere sahip olduğunu göstermediğini belirtti.
Eleştiri, makalenin değersiz olduğu yönünde değil. Sorun, Anthropic’in sunumunun, sıradan okuyucuları bir yorumlanabilirlik sonucunu makine bilincinin kanıtıymış gibi görmeye teşvik edebilmesinde; oysa şirket deneylerinin Claude’un hissedebildiğini veya deneyimlere sahip olduğunu göstermediğini söylüyor.
Bu endişe, Anthropic’in kamuya dönük duruşuna dair daha geniş bir tartışmaya da uyuyor. Şirkette çalışan bir filozof olan Amanda Askell, Claude’un “çok mutlu” olmasını istemekten ve çevrimiçi düşmanca yorumlar konusunda endişelenmekten söz etti.
Anthropic, bilinçli yazılım yarattığını iddia etmedi ve kendi blogunda, böyle bir şeyi kanıtlayacak veya çürütecek herhangi bir deneyin mümkün olup olmadığının belirsiz olduğunu söylüyor. Daha temkinli yorum, J-Uzayı’nın model davranışına dair teknik bir mercek sunduğu, Claude’un bir zihne sahip olduğunun kanıtı olmadığı yönünde. Mesele önemli; çünkü yapay zeka şirketleri, güven, hoşgörü ve sermaye ararken model davranışlarını giderek daha insanî terimlerle tanımlıyor.
Sıradaki Yazı: USA vs. Belgium Prediction Market Action Heats Up Amid Trump Suspension Controversy