Eski Google DeepMind güvenlik araştırmacısı Bilal Chughtai, yapay zekânın insanlığı yok edebileceği uyarısında bulunurken, laboratuvardan ayrılan bir diğer araştırmacı da önümüzdeki beş yıl içinde çok ciddi zarar riski gördüğünü söylüyor.
Öne çıkanlar
- Chughtai, Temmuz ayında DeepMind’dan ayrıldı ve süperzekânın birkaç yıl içinde ortaya çıkabileceğini belirtiyor.
- Yetenek artış hızının, güvenlik ve uyum araştırmalarını geride bıraktığını, bu nedenle yapay zeka geliştirmede tam duruş değil, eşgüdümlü bir yavaşlama savunduğunu ifade ediyor.
- Eski DeepMind araştırmacısı Josh Engels, beş yıl içinde devasa zarar riski gördüğünü söylerken, Anthropic ve OpenAI cephesinden de geliştirme hızının düşürülmesine destek geldi.
Chughtai’nin yapay zeka uyarısı
Genel amaçlı yapay zekânın güvenliği ve insan değerleriyle uyumu üzerine çalışan eski araştırma mühendisi Chughtai, Temmuz’da DeepMind’dan ayrıldıktan sonra uyarılarını bu hafta yayımladı. Chughtai, odaklandığı alanın yapay genel zekâ güvenliği olduğunu hatırlatıyor.
Ona göre büyük yapay zeka laboratuvarları, birkaç yıl içinde insanları hemen her alanda geride bırakabilecek süperzekâ sistemleri inşa edebilir; ancak bu sistemlerin insan hedefleriyle uyumlu ve kontrol edilebilir kalması son derece güç.
Chughtai, temel sorunun “uyum” (alignment) olduğunu vurgulayarak şunları yazdı:
“Yapay zekânın hepimizi öldürme potansiyeli olduğuna içtenlikle inanıyorum ve bu sonucu önlemek için zamanımızın tükeniyor olmasından endişe ediyorum.”
Chughtai’ye göre, gelişmiş sistemleri insan amaçlarını güvenilir biçimde takip edecek şekilde eğitmek için kullanılan mevcut yöntemler hâlâ “son derece ilkel” düzeyde. Buna karşın, en ileri seviye modellerin yetenekleri araştırmacıların uyum konusundaki kavrayışından çok daha hızlı gelişiyor.
Tam bir moratoryuma, yani geliştirmelerin durdurulmasına karşı çıkan Chughtai, bunun yerine şirketlerin yarışı yavaşlatacak şekilde koordinasyon kurmasını, ön cephe modellerin nasıl tasarlanıp test edildiğine dair çok daha fazla şeffaflık sağlamasını istiyor.
Ayrıca bkz.: CLARITY Act Faces 60-Vote Senate Test As Opposition Grows
Anthropic cephesinde güvenlik baskısı
Chughtai’nin çıkışı, bu ayın başında Jacob Coxon’ın Anthropic ve OpenAI’de geçirdiği üç yılın ardından istifa etmesini izledi. Anthropic’in uyum bilimi ekibini yöneten Evan Hubinger, daha sonra önümüzdeki on yıl içinde yapay zekânın tüm insanlığı yok etme olasılığının yüzde 10’un üzerinde olduğu kanaatini dile getirdi.
DeepMind’ın güvenlik ekibinde çalışmış olan Josh Engels ise 12 Eylül’de, Anthropic ve OpenAI’den gelen iş tekliflerini reddederek değerlendirme odaklı kâr amacı gütmeyen kuruluş METR’e katıldığını açıkladı. Engels, bu kararı alırken önümüzdeki beş yıl içinde “dehşet verici ölçekte” yapay zeka kaynaklı zarar olasılığını gerekçe gösterdi.
Anthropic CEO’su Dario Amodei, şirketlerin yapay zeka kapasite artışını “kontrollü bir tempoda” sürdürmesi çağrısında bulunurken, OpenAI CEO’su Sam Altman da benzer bir çizgiye destek verdi. Bu uzlaşma önemli; zira artık uyarılar, yalnızca laboratuvarlardan ayrılan güvenlik araştırmacılarından değil, büyük yapay zeka şirketlerini yöneten üst düzey isimlerden de geliyor.
Mevcut alarm tonu, 2022 başından bu yana yaşanan hızlı dönüşümün ürünü. Chughtai, o dönemde yapay zeka üzerine çalışmaya başladığında kullanılan sistemleri bugünkü ön cephe modellerine kıyasla çok daha sınırlı olarak nitelendiriyor. Son dört yılda tartışma, soyut uzun vadeli güvenlik teorilerinden çıkarak özerklik, uyum ve güvenlik araştırmalarının yetenek artış hızına yetişip yetişemeyeceği gibi somut sorulara evrildi.
Sıradaki Haber: Bitget's API Now Reaches Gold, Forex, Indices And Crude Oil
