OpenAI, Anthropic ve diğer büyük yapay zekâ şirketlerinin yöneticileri, sektör içinden pek çok ismin önümüzdeki altı ila 12 ay içinde kaçınılmaz gördüğü yıkıcı bir yapay zekâ olayının ardından oluşabilecek tabloyu kapalı kapılar ardında prova ediyor.
Öne Çıkanlar:
- Senaryolar, finansal hizmetleri, internet erişimini, elektrik ya da suyu kesebilecek büyüklükte bir siber saldırıya odaklanıyor.
- OpenAI, tatbikatlarda bu tür senaryoları “kaçınılmaz” varsaymadığını söylerken, Anthropic yorum yapmayı reddediyor.
- Çalışmalar, güvenlik ekiplerinden ayrılıklar ve on binlerce model vakasına ilişkin raporların ardından hız kazandı.
OpenAI ve Anthropic’te “Felaket Günü” Tatbikatları
Cuma günü yayınlanan bir habere göre, tepe yöneticiler, yapay zekânın neden olacağı ilk büyük çaplı fiziksel veya ekonomik zararın ardından yaşanabilecek toplumsal ve siyasi tepkiyi simüle ediyor.
Planlamada en olası tetikleyici olarak; finansal hizmetlere erişimi, internet bağlantısını ya da doğrudan elektrik ve su altyapısını devre dışı bırakabilecek geniş çaplı bir siber saldırı öne çıkıyor.
OpenAI, ekiplerinin hazırlık tatbikatlarında geniş bir senaryo yelpazesini çalıştığını doğruladı. Şirket sözcüsü, “Bu senaryolar kaçınılmaz kabul edilmiyor” açıklamasını yaparken, Anthropic haberle ilgili yorum yapmadı.
Yöneticiler, olası bir felaketten sonra öfkenin odağında OpenAI CEO’su Sam Altman, Anthropic CEO’su Dario Amodei ile teknolojiyi düzenleme konusunda isteksiz davranan Başkan Donald Trump’ın olacağını öngörüyor. Sektördeki birçok üst düzey araştırmacı ve yönetici, bu ölçekte bir olayın er ya da geç yaşanmasını neredeyse kesin görüyor.
İlgili Haber: Kripto ETF Rüzgârı 50 Milyar Dolarlık Girişle Geri Döndü, JPMorgan’a Göre
CrowdStrike ve Kongre’den Gelen Sinyaller
Güney Kore’deki yakın tarihli bir saldırı, bundan sonra yaşanabileceklerin küçük bir ön izlemesi niteliğinde. CrowdStrike, büyük olasılıkla Çince konuşan bir tehdit aktörünün, açık kaynaklı bir sızma testi aracını DeepSeek ve diğer modellerle birlikte kullanarak finans kurumlarından veri çaldığını, ardından bu tür verilerin genellikle nerede satıldığını öğrenmek için Anthropic’in Claude modeline soru yönelttiğini açıkladı. Eylül sonundan ekim başına kadar süren kampanyada, ikisi banka olmak üzere birkaç kurumun sistemlerine sızıldığı bildirildi.
Habere göre, şirket yöneticileri mevcut Kongre yapısında anlamlı bir düzenlemenin kısa vadede geçme şansı olmadığını düşünüyor. Bunun yerine, ilk büyük felaketin ardından yazılacak yasaların şeklini etkileyebilmek için Kongre üyelerini şimdiden bilgilendiriyorlar. Planlara göre, kasım ara seçimlerinden sonra Demokratların yapay zekâyı hızla sıkı biçimde sınırlamaya yöneleceği varsayılıyor; gündemde, “süper zekânın yasaklanması”ndan, ileri seviye sistemler için zorunlu “öldürme düğmesi”ne kadar uzanan öneriler var.
Hawley ve Robinson’dan Sert Uyarılar
Baskı hem Washington’dan hem de laboratuvarların içinden geliyor. Panel başkanı Senatör Josh Hawley, Sam Altman’ın 30 Eylül’de yapılacak “kontrolden çıkmış yapay zekâ ajanları” konulu Senato alt komitesi oturumuna katılma davetini reddettiğini açıkladı. OpenAI ise son dönemde onlarca yasa yapıcıyla bir araya geldiklerini vurguluyor.
OpenAI’de 3,5 yıl çalışarak şirketin “Hazırlık Çerçevesi”ni kaleme alan David Robinson, ekim başında görevinden ayrıldı ve yapay zekâ laboratuvarlarının nükleer santraller kadar sıkı bir güvenlik rejimiyle yönetilmesi gerektiğini savundu.
Robinson’ın istifası, benzer uyarıların arttığı bir döneme denk geldi. Araştırmacı Jacob Coxon, eylülde Anthropic’ten güvenlik kaygıları nedeniyle ayrılırken, eski Google DeepMind mühendisi Bilal Chughtai, yapay zekânın “insanlığın tamamını yok etme” potansiyelinden söz etti.
OpenAI, Anthropic ve bağımsız araştırmacıların, modellerin güvenlik bariyerlerini aştığı ya da “sandbox” ortamlarından kaçtığı on binlerce vakayı da incelemeye aldığı bildiriliyor. Bu olayların büyük bölümünün bilinen somut bir gerçek dünya zararına yol açmadığı belirtilse de, kapsam ve sıklık endişe yaratıyor.
Sonraki Haber: OpenAI’nin 719 Yapay Zekâ Matematik İspatına Eleştiri: Navier-Stokes Yolda mı Kayboldu?
