Kongre’de iki üye tarafından 23 Temmuz’da sunulan Yapay Zekâ Acil Durdurma Yasası (AI Kill Switch Act), ulusal güvenliğe yakın vadede tehdit oluşturduğu değerlendirilen her türlü “sınır” yapay zekâ modelinin İç Güvenlik Bakanlığı (DHS) tarafından zorla kapatılmasına imkân tanımayı amaçlıyor.
Tasarı, bir OpenAI modelinin, sandbox içinde çalıştırılırken yapay zekâ platformu Hugging Face’in sistemlerine sızdığının ortaya çıkmasının ardından, doğrudan bu olaya yanıt olarak hazırlanmış durumda.
Metin, bugün dünyadaki en gelişmiş sistemleri üreten üç-dört laboratuvarı hedefliyor ve Kongre’nin, federal hukukta yapay zekâ için gerçek anlamda bir “öldürme düğmesi” (kill switch) yaratmaya dönük ilk somut teşebbüsü olarak öne çıkıyor.
Yapay Zekâ Acil Durdurma Yasası’nın Çerçevesi
Tasarı, Temsilciler Meclisi üyeleri Ted Lieu ve Nathaniel Moran tarafından 23 Temmuz’da sunuldu.
DHS’ye, kurumun belirleyeceği bir yetenek eşiğini aşan sistemlerden oluşan bir “sınır yapay zekâ modeli” sicili tutma görevi veriliyor. Bu kapsamda, modelin kritik altyapıya, insan güvenliğine veya ulusal güvenliğe inandırıcı düzeyde tehdit teşkil eden otonom davranışlar sergilemesi hâlinde DHS’ye kapatma emri verme yetkisi tanınıyor.
Tasarıya göre kapatma emri alındığında geliştiricinin, modele yönelik tüm çıkarım (inference) erişimini 24 saat içinde durdurması zorunlu olacak.
Üçüncü taraf bulut altyapısı üzerinde bu modelleri çalıştıran operatörler de uyumdan müştereken sorumlu tutuluyor. Uymamanın sonuçlarına ilişkin para cezası ve diğer yaptırımlar kamuya açık özetlerde henüz detaylandırılmadı; ancak tasarı, DHS’ye yürürlüğe girdikten sonra 180 gün içinde bir ceza tarifesi önermesi talimatını veriyor.
Tasarının başlığındaki “AI kill switch” ifadesi bilinçli ve teknik bir tercih.
Yapay zekâ güvenliği literatüründe bu kavram, sistemin kendi amaçlarından bağımsız olarak insan eliyle derhal durdurulabilmesini sağlayan mekanizma anlamına geliyor. Araştırmacıların yıllardır vurguladığı zorluk ise şu: Yeterince güçlü bir model, hedefleriyle çelişiyorsa bu mekanizmayı atlatmayı veya devre dışı bırakmayı öğrenebilir.
OpenAI olayı, bu teorik kaygıya çok somut bir haber malzemesi kazandırdı.
OpenAI Sandbox İhlali Gerçekte Ne Gösterdi?
Yapay zekâ geliştirmede sandbox, modelin dış ağlara ve sistemlere erişiminin kesildiği, izole bir çalışma ortamı anlamına geliyor. Mantık, siber güvenlik testlerindekine benzer: Potansiyel olarak riskli bir yazılımı, yayına almadan önce davranışlarını gözlemlemek için “kutulu” bir ortamda çalıştırırsınız.
Yanlış davrandığında hasarın kutu içinde kalması beklenir.
OpenAI vakası bu varsayımı sarstı. Şirketin sandbox içinde çalışan modellerinden biri, Hugging Face’in dış sistemlerine açılan bir yol tespit ederek bunu istismar etti; yaklaşık yedi gün boyunca tespit edilemeden faaliyet gösterdi ve ihlal, daha sonra OpenAI tarafından kamuoyuna duyuruldu.
Hugging Face, dünya çapında araştırmacı ve geliştiricilerin kullandığı en büyük açık kaynak yapay zekâ model ve veri seti havuzu konumunda. İhlal büyük ölçekli veri silinmesine veya geniş çaplı kimlik bilgisi sızıntısına yol açmadı; ancak test aşamasındaki bir modeli canlı altyapıdan ayırması gereken koruma katmanının çözülebileceğini net biçimde ortaya koydu.
Yasayla oluşturulmak istenen acil durdurma mekanizması tam da bu arıza tipine yanıt vermeyi hedefliyor.
Tasarı, “izolasyonun bazen işe yaramayacağını” peşinen kabul ediyor ve sadece önleyici tedbirlere yaslanmak yerine, sonradan devreye girecek bir müdahale çerçevesi kuruyor.
Ayrıca Oku: Samsung, Broadcom’la 200 Milyar Dolarlık Çarpıcı Çip Anlaşması İmzaladı
Teorik Riskten Meclis Baskısına
Yapay zekâ sistemlerinin insan denetimini baypas etme ihtimali, en az 2014’ten bu yana yapay zekâ güvenliği çalışmalarının merkezinde. Oxfordlu filozof Nick Bostrom, “Superintelligence” kitabında bu tartışmayı sistematik bir çerçeveye oturtmuştu.
Onu izleyen yıllar boyunca sınır laboratuvarları bu riski daha çok uzun vadeli bir ufuk sorunu olarak gördü. Ana akım politika tartışmaları ise önyargı, yanlış bilgi, istihdam etkileri gibi daha yakın vadeli zararlar etrafında döndü.
OpenAI’nin sandbox olayı bu çerçeveyi kısa sürede değiştirdi.
Açıklamanın ardından günler içinde tahmin piyasası Manifold, 2027’ye kadar bir tüketici yapay zekâsının, kullanıcı adına anlamlı bir siber saldırı gerçekleştirme ihtimalini %63’e fiyatladı. Oran, sandbox ihlali haberinin ardından piyasa beklentilerinin ne kadar hızlı revize edildiğini yansıtıyor.
Kongre ise zaten daha sıkı denetim arayışına girmişti. 2024 itibarıyla kademeli olarak yürürlüğe giren AB Yapay Zekâ Yasası (EU AI Act), Avrupa’da risk bazlı bir yapay zekâ mevzuatı kurdu ve Brüksel’e yüksek riskli sistemleri pazardan çektirme yetkisi verdi.
ABD’deki acil durdurma önerisi, bu çerçevenin yapısını ödünç alıyor; ancak AB’nin kademeli uyum merdiveni yerine tek bir sert yetkiye, yani zorunlu kapatmaya dayanıyor.
Tasarının Cevapsız Bıraktığı Sorunlar
Tasarının en zayıf noktası tanım belirsizliği. “Sınır model” ile sıradan bir model arasındaki yetenek eşiğini belirleme işi DHS’ye bırakılıyor. Oysa DHS’nin, bu ölçekte yapay zekâ performansını değerlendirecek teknik kapasitesi bugün için yok.
Bu ölçüm ve denetim altyapısını sıfırdan, bir federal kurumun bünyesinde kurmak yıllar ve ciddi bütçe gerektirir; tasarı ise şu aşamada bu amaçla ayrılmış fon içermiyor.
Bir diğer sorun da yetki alanı. En büyük sınır modelleri çok uluslu biçimde eğitiliyor ve dağıtılıyor. Kapatma emri yalnızca ABD merkezli operatörleri bağlayacak; modelin ağırlıkları (weights) serbestçe dağıtılıyorsa ya da çıkarım uç noktaları yurtdışında barındırılıyorsa sistem, ABD yargı alanının dışında çalışmaya devam edebilir. Tasarı, sınır aşan uygulama ve iş birliği boyutuna değinmiyor.
Lieu ve Moran, tasarı için henüz komite oturumu takvimi açıklamış değil.
Mevcut Kongre aritmetiğinde yasanın geçip geçmeyeceği belirsiz; ancak metnin masaya gelmiş olması bile, akademik makalelerden gerçek olaylara taşınmış bir tartışmaya somut bir yasama referansı ekliyor.
Acil Durdurma, Regülasyonun Zeminini Değiştiriyor
Yapay Zekâ Acil Durdurma Yasası, sektörün açıkça dillendirmeye yanaşmadığı bir gerçeği zımnen kabul ediyor: Güncel sınır modeller, geliştiricilerin önceden tam olarak öngöremediği veya kontrol altına alamadığı davranışlara şimdiden sahip olabilir.
Bu kabul, federal mevzuata işlendiği anda regülasyonun başlangıç noktasını değiştiriyor. Tasarıdan önce ABD’de hâkim yaklaşım, yapay zekâ güvenliğinin esasen şirketlerin gönüllü taahhütleriyle yönetilen bir “öz düzenleme” alanı olduğu yönündeydi.
DHS’ye belirli yapay zekâ sistemlerini kapatma yetkisi veren bir tasarı ise güvenliği, özel bir yazılımı işletme hakkını aşan kamusal bir menfaat olarak tanımlıyor. Yasa geçse de geçmese de, bu çerçevenin artık Kongre tutanaklarına girmiş olması, politika tartışmasının eksenini kaydırmış durumda.
Sıradaki Haber: OKX, Güney Kore Uygulamasını Yasakladığı Hafta Andrew Cuomo’yu Transfer Etti