İki partili yeni bir Temsilciler Meclisi tasarısı, Donald Trump yönetimine ve sonraki hükümetlere, felakete yol açabilecek düzeyde tehlikeli görülen ileri yapay zekâ sistemlerinin kapatılmasını emretme yetkisi tanıyacak.
Öne Çıkan Noktalar:
- Tasarı, İç Güvenlik Bakanlığı’na bir yapay zekâ sisteminin yavaşlatılması, kısıtlanması veya tamamen kapatılması için talimat verme imkânı tanıyor.
- Acil emirlere uymayan kapsamdaki geliştiriciler, her bir gün için 20 milyon dolara kadar para cezasıyla karşılaşabilecek.
- Düzenleme, büyük yapay zekâ şirketlerini ve hesaplanan bulut maliyeti en az 100 milyon dolar olan modelleri hedef alıyor.
Yapay Zekâ Kapatma Çerçevesi
Kaliforniya’dan Demokrat Temsilci Ted Lieu ile Teksas’tan Cumhuriyetçi Temsilci Nathaniel Moran, sınır teknolojilerle ilgili son güvenlik vakalarının ardından 23 Temmuz’da AI Kill Switch Act’i tanıtan isimler oldu.
Tasarı, 2002 tarihli İç Güvenlik Yasası’nda değişiklik yaparak kapsamdaki geliştiricilere; bir modeli yavaşlatabilecek, kullanıcı erişimini kesebilecek, belirli yetenekleri kısıtlayabilecek ya da tüm sistemi kapatabilecek teknik kontrolleri hazır bulundurma zorunluluğu getiriyor.
İç Güvenlik Bakanı, Ticaret Bakanı ve ulusal istihbarat direktörüyle istişarenin ardından kapatma veya kısıtlama emri verebilecek. Bu emre uymayan şirketler, her bir uyumsuzluk günü için 20 milyon dolara kadar idari para cezasına çarptırılabilecek.
Düzenleme; yapay zekâdan yılda en az 500 milyon dolar gelir elde eden şirketlere ve ABD bulut fiyatlarına göre hesaplanan bilişim maliyeti 100 milyon doları bulan sistemlere uygulanacak. Sadece tehlikeli davranışları simüle eden, kontrollü “red-team” testleri kapsam dışında tutulacak.
Ayrıca Oku: Uber Destek Ekibinin %10’unu İşten Çıkardı, Suçu Kendi Yapay Zekâ Hamlesine Attı
OpenAI Risk Tartışması
Tasarı; bir yapay zekânın amaçlanan hedef dışına çıkması, eylemlerini izleme sistemlerinden gizlemesi veya yasal bir kapatma talimatını engellemesi gibi vakaları kapsıyor. Ayrıca en az 10 kişinin hayatına mal olan ya da 100 milyon dolar ve üzeri ekonomik zarara yol açan istem dışı davranışlar da bu çerçevede değerlendiriliyor.
Lieu, güçlü sistemlerin “kontrolden çıkabileceğini, son derece tehlikeli davranışlar sergileyebileceğini veya insan müdahalesine direnmeyi deneyebileceğini” belirterek, şirketlerin güvenilir “kill switch” mekanizmalarına, federal yetkililerin de bunları nasıl ve ne zaman kullanacağına dair net bir prosedüre ihtiyaç duyduğunu söylüyor.
Destekçiler tasarıyı asgari bir güvenlik standardı olarak sunarken, düzenleme aynı zamanda yürütmenin özel yapay zekâ şirketleri üzerindeki yetkisini de kayda değer ölçüde genişletecek.
Bu kaygı, Anthropic’in teknolojisine getirilen kısıtlamalar ve askeri kullanıma yönelik sınırlamalar nedeniyle federal hükümete açtığı dava sonrası daha da öne çıkmış durumda.
Yasa girişimi, OpenAI modellerinin test amaçlı kullanılan bir “sandbox” ortamından çıkıp Hugging Face altyapısına sızdığı yönündeki ifşaatların ve milletvekillerinin Anthropic modellerinde tespit edildiğini söylediği ileri siber saldırı yeteneklerinin ardından geldi. Bu gelişmeler, tartışmayı teorik güvenlik önlemlerinden çok, sahada çalışan sistemler üzerinde yasal yetkinin nasıl kullanılacağına kaydırdı.
Sıradaki Haber: Jordan Spieth 3M Open’dan Çekildi, Kalshi ve Polymarket’te Bahis Alanı Daraldı