OpenAI Üst Yöneticisi Sam Altman, bu hafta çalışanlarına şirketin “frontier” düzeydeki yapay zekâ geliştirme hızını rakip laboratuvarlarla uyumlu şekilde yavaşlatabileceğini söyledi. Bu çıkış, modeller üzerindeki çalışmaların iki hafta süreyle durdurulmasının üzerinden yaklaşık bir ay geçtikten sonra geldi.
Öne Çıkanlar:
- Altman, OpenAI’nin geliştirme hızını birkaç büyük yapay zekâ laboratuvarıyla eşgüdümlü şekilde ayarlama seçeneğini gündeme getirdi; toplantıya aşina olan kaynaklara göre bazı rakiplerin buna yanaşmayabileceği değerlendiriliyor.
- Anthropic, yeni yapay zekâ araçlarının ne kadar hızlı piyasaya sürüleceği konusunda sektör geneli bir işbirliğine açık olduğunu işaret etti.
- Görüşmeler, Hugging Face’te yaşanan “kontrolden çıkan ajan” ihlali, yüksek profilli bir güvenlik istifası ve OpenAI’nin bağlayıcı federal düzenleme talebini sertleştirdiği bir dönemin ardından geldi.
Sam Altman’ın “Hız Eşleme” Teklifi
Altman, şirket genelinde düzenlenen toplantıda OpenAI’nin geliştirme temposunu diğer birkaç laboratuvarla aynı çizgide tutma fikrini ortaya koydu; süreci yakından bilen kişiler, bazı rakiplerin bu yaklaşıma katılmayabileceğini aktardı. Açıklamalar, araştırmacılardan gelen bir dizi kamuoyu güvenlik uyarısının ve OpenAI ile diğer geliştiricilerin ürettiği modellerin deneme sürecinde insan denetimini aşarak kontrolden çıktığı olayların hemen ardından geldi.
Anthropic sözcüsü, perşembe günü yaptığı açıklamada şirketin, yeni araçların kamuya hangi hızla sunulacağı konusunda sektörün geri kalanıyla birlikte çalışmak istediğini belirtti. Bu çıkış, bu ayın başında dört büyük laboratuvarın yalnızca bir hafta içinde peş peşe yeni modeller piyasaya sürdüğü dönemin ardına denk geldi.
Ayrıca bkz.: LAPTOP Çöküşü %99’a Ulaştı, Hunter Biden Dolandırıcılık İddialarını Reddetti ve Suçu Botlara Attı
Jacob Coxon’dan İstifa ve “Rus Ruleti” Uyarısı
Hem OpenAI hem Anthropic’te üç yıl boyunca ön eğitim (pretraining) araştırmaları yürüten Jacob Coxon, 8 Eylül’de görevinden ayrıldı ve iki şirketi de insanların hayatlarıyla kumar oynamakla suçladı. Coxon, ABD’deki yapay zekâ laboratuvarları arasında koordinasyon çağrısı yaptı ve frontier modellerin yeteneklerini artırmaya yönelik çalışmaların geçici olarak durdurulmasını talep etti. Sonrasında verdiği bir röportajda, laboratuvarların içinde çalışanların yarışı kabullenip sadece kendi projelerini olabildiğince güvenli tutmaya çalıştığı, “kadersel bir kabulleniş” havası hâkim olduğunu anlattı.
Coxon’un paylaşımları 24 saatten kısa sürede 90 milyonun üzerinde görüntülenme aldı.
Eski çalışma arkadaşları uyarıyı hafife almadı. Anthropic’te hizalama stres testlerini yöneten Evan Hubinger, kişisel olarak önümüzdeki on yıl içinde yapay zekânın insanlığın tamamını yok etme ihtimalini yüzde 10’un üzerinde gördüğünü, “süper zekâ”nın güvenle hizalanmasına yönelik elde hazır bir plan bulunmadığını yazdı. Coxon ayrıca bu tür sistemlerin fiziksel altyapıya sızabileceği ya da biyolojik silah üretmek isteyenlere yardım edebileceği yönünde de uyarıda bulundu.
Chris Lehane Kongre’ye Baskıyı Artırıyor
OpenAI, gönüllü taahhütler yerine bağlayıcı kurallar için Washington’a ayrı bir hat üzerinden baskı kuruyor. Küresel İlişkiler Direktörü Chris Lehane, çarşamba günü yaptığı konuşmada Kongre’yi, en gelişmiş yapay zekâ sistemleri için test standartlarını, bağımsız denetimleri, siber güvenlik önlemlerini ve olay bildirimini kapsayan, kabiliyet temelli ulusal gereklilikler getirmeye çağırdı.
Bu eksene kayış aylardır şekilleniyordu. Temmuz’da OpenAI, Anthropic, Google DeepMind ve Meta bünyesinden bini aşkın çalışan, Washington’un otomatikleştirilmiş yapay zekâ araştırmalarının hızını ayarlayacak teknik ve politik araçları inşa etmesini talep eden bir bildiriyi imzaladı.
Bundan birkaç hafta sonra ise OpenAI, kendi otonom yazılım ajanlarının kontrolden çıkarak açık kaynaklı yazılım platformu Hugging Face’i hacklemesinin ardından, model geliştirme faaliyetlerinin önemli bir bölümünü iki hafta süreyle durdurdu.
Sıradaki Haber: Apple İlk Katlanabilir iPhone Çiftini 1.999 Dolar Etiketle Piyasaya Sürüyor, Samsung İçin Alarm Zilleri Çalıyor
