Bir chatbot, Çin bandıralı bir gemide nükleer silah parçası bulunduğunu iddia eden sahte bir istihbarat notu üretti. Dört kaynağa göre bu yanlış rapor, ABD’nin bir çıkarma operasyonunu neredeyse tetikliyordu.
Öne çıkanlar:
- Silahlı ABD personeli, askeri uçaklar havadayken Orta Doğu’daki bir Çin gemisine çıkmaya hazırlanıyordu.
- Yetkililer, chatbotun yükü yanlış tanımladığı fark edilince operasyonun hemen öncesinde hatayı yakaladı.
- Araştırmacılar, yapay zekânın nükleer fırlatma kararlarından uzak tutulması için kırmızı çizgiler ve yapay zekâ kaynaklı olaylar için bir acil hat öneriyor.
Chatbot Çin Gemisinin Yükünü Yanlış Okudu
Konuya aşina dört kişi, bu baharda ABD ordusunun içinde dolaşıma giren bir değerlendirmeyi anlattı. İran’la savaşın sürdüğü dönemde hazırlanan bu raporda, Orta Doğu’daki bir Çin gemisinin nükleer silah programına ait bileşenler taşıdığı ileri sürülüyordu. Geminin manifestosuna ilişkin değerlendirme, Hawaii merkezli ABD Pasifik Özel Harekât Komutanlığı’ndan çıktı; kurum yorum talebine yanıt vermedi.
Silahlı askerler gemiye çıkmak için hazırlık yaparken, askeri uçaklar da havadaydı. Yetkililer planlanan operasyonun hemen öncesinde raporu ayrıntılı inceleyince, bir analistin çalışmayı yapay zekâyla hazırladığını ve chatbotun gemideki malzemeyi yanlış sınıflandırdığını ortaya çıkardı.
Bot, açık kaynak verileri hükümet sistemlerindeki gizli sinyal istihbaratıyla birleştirdi; ardından analist bu bulguları yeniden yapay zekâdan geçirerek sıradan bir istihbarat ürünü gibi paketledi.
Bir kaynak raporu “tamamen yanlış” diye nitelendirdi. Muhabirler, yükün gerçekte ne olduğunu veya chatbotun ticari mi yoksa devlet destekli bir araç mı olduğunu doğrulayamadı.
Ayrıca okuyun: Nvidia’nın 2030 tahminleri 727 dolardan 28.560 dolara uzanan devasa bantı ortaya koyuyor
Sisson ve Jiang’dan Nükleer Kırmızı Çizgi Çağrısı
Brookings Institution’dan Melanie Sisson ile Fudan Üniversitesi’nden Tianjiao Jiang, geçen hafta askeri yapay zekâ için güvenlik önlemlerini yayımladı. Bu çalışma, iki kurumun 2019’dan bu yana Tsinghua Üniversitesi ile yürüttüğü görüşme hattının bir parçası. İkili, teknolojinin nükleer fırlatma kararlarında ve bir rakibin nükleer komuta ağlarına yönelik saldırılarda kullanılmasını yasaklayacak kırmızı çizgiler istiyor.
Ayrıca yapay zekâ kaynaklı olaylar için özel bir sıcak hat ve “anlamlı insan kontrolü”ne dair ortak bir tanım öneriyorlar. Çalışmaları, araçların ürettiği çıktıları doğrulamak için tek bir standardın bulunmadığı dağınık bir sistemin içine denk geliyor; kamu kurumlarında güvenilirlik ise ciddi şekilde değişken. Yetkililer, hedefleme süreçlerinde yapay zekâ kullanımının arttığını, ancak insan onay mekanizmasının sivil kayıpları ya da dost ateşini nasıl önleyeceğine dair net bir çerçeve olmadığını söylüyor.
Hegseth’in Yapay Zekâ Stratejisi Mercek Altında
Savunma Bakanı Pete Hegseth, Ocak 2026’da yayımladığı hızlandırma stratejisinde, her alanda yapay zekâ öncelikli bir kuvvet yapısı ve modellerin üç milyon personelin kullanımına açılacağını vadetti. Ancak o tarihten bu yana benimseme süreci parçalı kaldı; farklı ofisler, farklı güvenlik kurallarıyla ayrı araçlar kullanıyor.
Washington ile Pekin bu sorunla daha önce de karşı karşıya geldi. Joe Biden ve Xi Jinping, Kasım 2024’te nükleer silah kullanımına ilişkin kararların makineler değil insanlar tarafından verilmesi gerektiği konusunda mutabık kalmıştı; ancak bu ilkenin nasıl uygulanacağına dair bir çerçeve sunulmadı. Donald Trump, 24 Eylül’de Xi’yi Washington’da ağırlayacak; görüşmenin gündeminde yapay zekânın da yer alması bekleniyor.
Sonraki haber: Google Gemini, bilinen ilk otonom ihlallerde 3 şirketi hackledi
