OpenAI, Anthropic ve diğer büyük yapay zekâ şirketlerinin üst düzey yöneticilerinin, sektördeki çok sayıda ismin önümüzdeki altı ila 12 ay içinde beklediği yıkıcı bir yapay zekâ vakasının ardından oluşacak tabloyu kapalı kapılar ardında prova ettiği bildiriliyor.
Öne çıkan noktalar:
- Senaryoların merkezinde, finansal hizmetleri, internet erişimini, hatta elektrik ya da suyu kesebilecek çapta bir siber saldırı yer alıyor.
- OpenAI, bu tatbikatlarda ele alınan senaryoların “kaçınılmaz” varsayılmadığını vurgularken Anthropic yorum yapmaktan kaçındı.
- Tatbikatlar, güvenlik ekiplerinden ayrılıklar ve on binlerce yapay zekâ model vakasına ilişkin raporların ardından hız kazandı.
OpenAI ve Anthropic’te Kriz Tatbikatları
Cuma günü yayınlanan bir habere göre, şirketlerin yönetici kadroları, yapay zekânın neden olduğu ilk büyük ölçekli fiziksel veya ekonomik hasarın ardından patlak verebilecek toplumsal ve siyasi öfke dalgasını detaylı biçimde çalışıyor.
Planlamacılar, en olası kıvılcımın, finansal sistemlere, internet altyapısına ya da kritik enerji ve su hizmetlerine erişimi felce uğratacak bir siber saldırı olacağını düşünüyor.
OpenAI, doğruladığı üzere, hazırlık tatbikatlarında çok çeşitli risk senaryoları üzerinde çalıştığını belirtiyor. Şirket sözcüsü, “Bu senaryoları kaçınılmaz bir kader gibi ele almıyoruz” ifadesini kullandı. Anthropic ise habere ilişkin yorum yapmadı.
Sektör kaynaklarına göre yöneticiler, olası bir felaket sonrasında kamuoyunun öfkesinin özellikle OpenAI CEO’su Sam Altman, Anthropic CEO’su Dario Amodei ve teknolojiyi düzenleme konusunda isteksiz görülen Başkan Donald Trump üzerinde yoğunlaşmasını bekliyor. Pek çok önde gelen araştırmacı ve yönetici, bu boyutta bir olayın orta vadede neredeyse kesin olduğu görüşünde.
Ayrıca bkz.: Kripto ETF Rallisinde İkinci Dalga: 50 Milyar Dolarlık Girişin Ardından Hız Korunuyor, JPMorgan’a Göre
CrowdStrike ve Kongre’den Gelen Sinyaller
Güney Kore’deki yakın tarihli bir saldırı, bu risklerin nasıl somutlaşabileceğine dair erken bir örnek sundu. CrowdStrike, muhtemelen Çince konuşan bir tehdit aktörünün, açık kaynak bir sızma testi aracını DeepSeek ve diğer büyük dil modelleriyle birlikte kullanarak finans kuruluşlarından veri sızdırdığını, ardından da bu tür verilerin tipik olarak nerede satıldığını Anthropic’in Claude modeline sorduğunu açıkladı. Eylül sonundan Ekim başına kadar süren kampanyada, ikisi banka olmak üzere bir dizi kurumun sistemlerinin ihlal edildiği bildirildi.
Habere göre, büyük bir felaket yaşanmadan kapsamlı bir düzenlemenin Kongre’den geçme şansı olmadığına inanan şirketler, ilk büyük kriz sonrasında şekillenecek mevzuatın çerçevesini şimdiden etkilemek için milletvekillerini kapalı oturumlarda bilgilendiriyor. Senaryolarda, Kasım’daki ara seçimlerin ardından Demokratların yapay zekâyı hızla sıkı şekilde sınırlamaya yöneleceği, taslak fikirlerin “süper zekâ yasağı”ndan, gelişmiş sistemler için zorunlu “acil durdurma (kill switch)” düzenlemesine kadar uzandığı varsayılıyor.
Hawley ve Robinson’dan Sert Uyarılar
Washington cephesindeki baskı, laboratuvarların içinden gelen uyarılarla birleşiyor. Senato’da düzensiz ve kontrolden çıkmış yapay zekâ ajanlarını ele alan 30 Eylül tarihli alt komite oturumuna, panel başkanı Senatör Josh Hawley’nin ifadesine göre, Sam Altman davet edilmesine rağmen katılmadı. OpenAI ise son dönemde onlarca yasa koyucu ile bir araya gelindiğini vurguluyor.
OpenAI’de 3,5 yıl görev yaparak şirketin “Preparedness Framework” (Hazırlıklılık Çerçevesi) dokümanının hazırlanmasına katkıda bulunan David Robinson, Ekim ayı başında kurumdan ayrıldığını duyururken, büyük yapay zekâ laboratuvarlarının nükleer santrallerle aynı titizlikte yönetilmesi gerektiğini savundu.
Robinson’ın istifası, benzer tonlardaki uyarıların arttığı bir döneme denk geldi. Araştırmacı Jacob Coxon, Eylül ayında güvenlik kaygıları nedeniyle Anthropic’ten ayrıldı. Eski Google DeepMind mühendisi Bilal Chughtai ise yapay zekânın “insanlığın tamamını yok edebileceği” uyarısında bulundu.
OpenAI, Anthropic ve bağımsız araştırmacıların, modellerin güvenlik bariyerlerini aşıp deneme ortamlarından kaçmayı başardığı on binlerce olayı da incelemeye aldığı bildiriliyor. Çoğu vakada bilinen somut bir fiziksel zarar tespit edilmiş değil; ancak bu ölçek, riskin boyutu ve hızla tırmanışı açısından alarm verici kabul ediliyor.
Sıradaki Haber: OpenAI’nin 719 Yapay Zekâ Matematik İspatı Tartışma Yarattı: Navier-Stokes Yolda mı Kayboldu?
