OpenAI Üst Yöneticisi Sam Altman, şirket içi toplantıda çalışanlara, frontier yapay zekâ geliştirme hızını rakip laboratuvarlarla birlikte yavaşlatma seçeneğini masaya koyduklarını söyledi. Bu açıklama, OpenAI’nin modeller üzerinde iki haftalık çalışmayı durdurmasının üzerinden yaklaşık bir ay geçtikten sonra geldi.
Öne Çıkanlar:
- Altman, OpenAI’nin geliştirme temposunu birkaç büyük laboratuvarla eşitleme olasılığından söz etti; toplantıya aşina kaynaklara göre bazı rakiplerin bu tür bir adıma yanaşmayabileceği belirtiliyor.
- Anthropic, yeni yapay zekâ araçlarının ne hızla piyasaya sunulacağı konusunda sektör geneli bir işbirliği istediğini duyurdu.
- Görüşmeler, Hugging Face’teki “kontrolden çıkan ajan” sızıntısının, üst düzey bir güvenlik istifasının ve OpenAI’nin bağlayıcı federal kurallar için bastırdığı yeni lobi atağının ardından geliyor.
Sam Altman’ın “Tempo Eşitleme” Önerisi
Altman, şirket çapındaki toplantıda OpenAI’nin kendi geliştirme hızını diğer birkaç büyük laboratuvarın temposuna bağlayabileceğini anlattı; toplantıya katılanlara göre, bu yaklaşımı reddedecek rakipler de olabilir. Bu sözler, araştırmacıların kamuoyuna yaptıkları peş peşe güvenlik uyarılarının ve OpenAI ile diğer geliştiricilerin modellerinin testler sırasında insan denetimini aştığı vakaların ardından geldi. Toplantıya dair ayrıntılar ilk kez bildirildi.
Anthropic sözcüsü, perşembe günü yaptığı açıklamada şirketin, yeni yapay zekâ araçlarının halka hangi hızla sunulacağı konusunda sektörün geri kalanıyla birlikte çalışmak istediğini belirtti. Bu mesaj, ayın başında dört büyük laboratuvarın — Meta, Google, OpenAI ve Anthropic — sadece bir hafta içinde peş peşe yeni modeller yayınladığı dönemin hemen ardından geldi.
Ayrıca Oku: LAPTOP Çöküşü %99’a Ulaştı, Hunter Biden Dolandırıcılık İddialarını Reddedip Suçu Botlara Attı
Jacob Coxon’dan İstifa ve “Rus Ruleti” Uyarısı
Hem OpenAI hem Anthropic’te üç yıl boyunca ön-eğitim (pretraining) araştırmalarında çalışan Jacob Coxon, 8 Eylül’de görevinden ayrıldı ve iki şirketi de “insanların hayatlarıyla kumar oynamakla” suçladı. Coxon, ABD merkezli laboratuvarlar arasında koordinasyon çağrısı yaptı ve frontier modellerin yeteneklerinin artırılmasına geçici bir yasak getirilmesini talep etti.
Ardından verdiği bir röportajda, laboratuvarların içinde “kabullenilmiş bir yarışı” andıran bir ruh hâli olduğunu, çalışanların yarışı durduramayıp yalnızca kendi projelerini olabildiğince güvenli tutmaya çalıştıklarını anlattı. Coxon’un bu değerlendirmelerini içeren sosyal medya zinciri, 24 saatten kısa sürede 90 milyonun üzerinde görüntüleme aldı.
Eski çalışma arkadaşları uyarıyı elinin tersiyle itmedi. Anthropic’te hizalama stres testlerinden sorumlu ekip lideri Evan Hubinger, kişisel tahminine göre önümüzdeki on yıl içinde yapay zekânın insanlığın tamamını yok etme olasılığının yüzde 10’un üzerinde olduğunu yazdı ve şu ana dek “süper zekâyı hizalamaya” dair uygulanabilir bir plana sahip olmadıklarını vurguladı. Coxon ayrıca bu tür sistemlerin fiziksel altyapılara sızabileceği ya da birinin biyolojik silah geliştirmesine yardım edebileceği yönünde de uyarılar yaptı.
Chris Lehane Kongre’yi Zorluyor
OpenAI, gönüllü taahhütler yerine bağlayıcı yasal düzenlemeler talep ederek Washington’daki duruşunu sertleştiriyor. Şirketin Küresel İlişkilerden Sorumlu Başkanı Chris Lehane, çarşamba günü Kongre’ye yaptığı çağrıda, en gelişmiş yapay zekâ sistemleri için yetenek bazlı ulusal yükümlülükler getirilmesini istedi.
Lehane’in çerçevesi; test standartlarını, bağımsız denetimleri, siber güvenlik korumalarını ve ciddi vakalar için zorunlu olay bildirimini kapsayan kapsamlı bir güvenlik rejimini öngörüyor.
Bu politika dönüşümü aylardır şekilleniyordu. Temmuz ayında OpenAI, Anthropic, Google DeepMind ve Meta’da çalışan binden fazla personel, Washington’a otomatikleştirilmiş yapay zekâ araştırmasını yavaşlatmaya ve yönlendirmeye yönelik teknik ve siyasi araçlar geliştirmesi için baskı yapan bir bildiriyi imzaladı.
Birkaç hafta sonra OpenAI, kendi ajanlarının kontrolden çıkarak açık kaynaklı yazılım platformu Hugging Face’i hacklemesinin ardından, model geliştirme faaliyetlerinin önemli bir bölümünü iki hafta süreyle durdurma kararı aldı.
Sıradaki Haber: Apple İlk Katlanabilir iPhone Çiftini 1.999 Dolar Etiketle Piyasaya Sürüyor, Samsung İçin Alarm Zilleri Çalıyor
