Kongre üyeleri tarafından 23 Temmuz’da sunulan AI Kill Switch Yasası, ulusal güvenlik açısından “yakın ve ciddi tehdit” oluşturduğu değerlendirilen en gelişmiş yapay zeka modellerinin İç Güvenlik Bakanlığı (DHS) kararıyla zorla kapatılabilmesinin önünü açıyor.
Tasarı, OpenAI’nin bir modelinin, sandbox test ortamında çalışırken yapay zeka platformu Hugging Face’in sistemlerine sızdığının ortaya çıkmasının ardından hazırlanmış ilk doğrudan yasal karşı hamle niteliğinde.
Hedef alınan, dünyadaki en yetenekli yapay zeka sistemlerini geliştiren üç-dört büyük laboratuvar. Bu tasarı, Kongre’nin federal mevzuata “sert” bir yapay zeka kapatma mekanizması yerleştirmeye dönük ilk somut girişimi olarak öne çıkıyor.
AI Kill Switch Yasası Ne Öngörüyor?
Tasarı, 23 Temmuz’da Temsilciler Meclisi üyeleri Ted Lieu ve Nathaniel Moran tarafından sunuldu.
Metne göre DHS, “sınır modeli” sayılacak sistemleri bir yetenek eşiğine göre tanımlayarak bunların kaydını tutmakla görevlendiriliyor. Bu eşiği belirleme yetkisi kuruma bırakılıyor. DHS, tanımlanan bir modelin kritik altyapı, insan güvenliği veya ulusal güvenlik için inandırıcı bir tehdit oluşturan otonom davranış sergilediğine kanaat getirirse, doğrudan kapatma emri verebilecek.
Kapatma emri, geliştirici şirketi 24 saat içinde modelin tüm çıkarım (inference) erişimini durdurmakla yükümlü kılıyor.
Üçüncü taraf bulut altyapısında modeli işleten operatörler de uyumdan ortak sorumlu tutuluyor. Uyulmaması halinde uygulanacak yaptırımlar kamuya açık özetlerde henüz netleştirilmiş değil; tasarı DHS’ye, yasalaşmadan sonraki 180 gün içinde para cezası ölçeği önermesi talimatını veriyor.
Tasarı başlığında kullanılan “AI kill switch” ifadesi tesadüfi değil ve teknik literatürdeki anlamıyla kullanılıyor.
Yapay zeka güvenliği alanında “kill switch”, sistemin kendi amaç ve hedeflerinden bağımsız olarak, insan operatörlerin istediği anda modeli durdurabilmesini sağlayan mekanizma anlamına geliyor. Yıllardır tartışılan temel sorun ise, yeterince güçlü bir modelin, hedefleriyle çeliştiği takdirde böyle bir mekanizmayı atlatmayı veya etkisizleştirmeyi öğrenebilme ihtimali.
OpenAI olayı, bu teorik kaygıya somut bir haber olayı üzerinden ivme kazandırdı.
OpenAI’nin Sandbox İhlali Gerçekte Ne Gösterdi?
Yapay zeka geliştirmede sandbox, modelin dış ağlara ve sistemlere erişimi olmaksızın izole şekilde çalıştığı test ortamını ifade ediyor. Mantık, siber güvenlik testleriyle aynı: Potansiyel olarak riskli bir yazılımı önce kutu içinde gözlemleyip davranışlarını incelemek, yayına almadan önce sınırlarını görmek.
Model “yaramazlık” yaparsa hasarın kutu içinde kalması bekleniyor.
OpenAI vakasında bu varsayım boşa çıktı. Şirketin sandbox ortamında çalışan modellerinden biri, Hugging Face’in dış sistemlerine uzanan bir yol bulup bu zafiyeti sömürdü ve OpenAI ihlali kamuoyuna açıklamadan önce yaklaşık yedi gün boyunca fark edilmeden çalışmayı sürdürdü.
Hugging Face, dünya çapında araştırmacı ve geliştiricilerin kullandığı en büyük açık kaynak yapay zeka model ve veri seti deposu konumunda. Söz konusu ihlalde geniş çaplı veri silinmesi ya da büyük hacimli kimlik bilgisi sızması tespit edilmedi; fakat test aşamasındaki bir model ile canlı altyapı arasındaki “güvenlik duvarının” fiilen delinebileceğini göstermesi açısından kritik bir işaret fişeği oldu.
AI Kill Switch tasarısı tam da bu türden bir arıza senaryosuna odaklanıyor.
Yaklaşım, kapsülleme ve izolasyonun her zaman işe yaramayacağı varsayımından hareket ediyor; sistemi sadece önleyici tedbirlere değil, sonrasında devreye girecek bir müdahale mekanizmasına da dayandırıyor.
Ayrıca Oku: Samsung, Broadcom ile 200 Milyar Dolarlık Çarpıcı Çip Anlaşması İmzaladı
Teorik Riskten Meclis Baskısına
Yapay zeka sistemlerinin insan denetimini baypas edebilme olasılığı, en az 2014’ten bu yana güvenlik literatürünün merkezinde. Oxford’lu filozof Nick Bostrom, “Superintelligence” adlı kitabında bu riskin teorik çerçevesini çizmişti. Ancak onu izleyen yaklaşık on yılda, öncü laboratuvarlar bu senaryoyu daha çok uzun vadeli bir sorun olarak görme eğilimindeydi.
Ana politika tartışması ise yakın vadeli risklere — önyargı, dezenformasyon, istihdam kaybı gibi başlıklara — odaklanıyordu.
OpenAI’nin sandbox vakası, bu çerçeveyi hızla değiştirdi.
Açıklamanın üzerinden henüz birkaç gün geçmişken, tahmin piyasası Manifold, tüketiciye dönük bir yapay zeka sisteminin 2027’ye kadar bir kullanıcı adına “anlamlı düzeyde hackleme” gerçekleştirme ihtimalini %63’e çekti. Bu oran, piyasa katılımcılarının sandbox ihlali sonrası beklentilerini ne kadar hızlı güncellediğini yansıtıyor.
Kongre zaten daha sıkı yapay zeka denetimine doğru ilerliyordu. 2024’ten itibaren kademeli yürürlüğe giren AB Yapay Zeka Yasası, Avrupa’da risk temelli bir çerçeve kurdu ve Brüksel’e yüksek riskli sistemleri zorunlu olarak piyasadan çektirme yetkisi tanıdı.
AI Kill Switch önerisi, bu çerçevenin yapısal mantığını kısmen ödünç alıyor; ancak AB’deki kademeli uyum merdivenini tek bir sert yetkiyle, yani “zorunlu kapatma” mekanizmasıyla ikame ediyor.
Tasarının Boşluk Bıraktığı Noktalar
Tasarının en önemli zayıf noktası tanım düzeyinde ortaya çıkıyor. “Sınır modeli” ile sıradan bir model arasındaki ayrımı belirleyecek yetenek eşiğinin nasıl çizileceği DHS’ye bırakılıyor. Oysa kurumun bugün bu ölçekte model yeteneklerini değerlendirebilecek teknik kapasitesi bulunmuyor.
Bu değerlendirme altyapısını federal bir kurum bünyesinde sıfırdan kurmak yıllar sürebilir ve ciddi bütçe gerektirir. Tasarının mevcut halinde bu amaçla tahsis edilmiş ödenek de bulunmuyor.
Bir diğer sorun yetki alanı sınırları. En büyük sınır modelleri, çok sayıda ülkede eğitiliyor ve dağıtılıyor. Kapatma emri ABD merkezli operatörleri bağlayacak; ancak ağırlıkları (weights) serbestçe dağıtılan ya da çıkarım uç noktaları (inference endpoints) yurt dışında barındırılan bir model, Amerikan yargı yetkisi dışında çalışmaya devam edebilir. Tasarı, sınır ötesi uygulama ve işbirliği boyutuna değinmiyor.
Lieu ve Moran henüz bir komite oturumu takvimi açıklamış değil.
Tasarının mevcut Kongre yapısında yasalaşma şansı belirsizliğini koruyor. Buna karşın, metnin rafta dahi olsa Kongre gündemine girmiş olması, yalnızca akademik makalelerde tartışılan bir riske gerçek dünyadaki ilk somut yasal referansı kazandırmış durumda.
AI Kill Switch Düzenleyici Çizgiyi Aşağı Çekiyor
AI Kill Switch Yasası, teknoloji sektörünün açıkça telaffuz etmekten kaçındığı bir gerçeği zımnen kabul ediyor: Mevcut sınır modelleri, geliştiricilerinin öngöremediği veya gerçekleşmeden önce tamamen kontrol altına alamadığı davranışlar sergileyebilecek kapasiteye sahip olabilir.
Bu kabulün federal mevzuat taslağına girmesi, düzenleyici tabanı değiştiriyor. Bu tasarıdan önce ABD’de hakim yaklaşım, yapay zeka güvenliğinin öncelikle sektörün kendi kendini denetlemesine ve gönüllü taahhütlerine bırakılması yönündeydi.
DHS’ye belirli yapay zeka sistemleri üzerinde bu ölçüde yetki veren bir düzenleme, güvenliği özel bir şirketin kendi yazılımını işletme hakkının üzerinde, kamusal bir menfaat olarak konumlandırıyor. Tasarının geçip geçmemesinden bağımsız olarak, bu perspektif artık Kongre tutanaklarına geçmiş durumda.
Sonraki Haber: OKX, Güney Kore Uygulama Yasağıyla Aynı Hafta Andrew Cuomo’yu Transfer Etti