İki partili bir Temsilciler Meclisi tasarısı, Donald Trump yönetimine ve sonraki hükümetlere, felakete yol açabilecek nitelikte görülen gelişmiş yapay zekâ sistemlerinin faaliyetlerini durdurma emri verme yetkisi tanıyacak.
Öne çıkan başlıklar
- Tasarı, İç Güvenlik Bakanlığı’na bir yapay zekâ sisteminin yavaşlatılması, kısıtlanması veya tamamen kapatılması için talimat verme imkânı sunuyor.
- Acil emre uymayan kapsamdaki geliştiriciler, her bir gün için 20 milyon dolara kadar para cezasıyla karşı karşıya kalabilecek.
- Düzenleme, büyük yapay zekâ şirketlerini ve hesaplanan bilgi işlem maliyeti 100 milyon dolar ve üzeri olan modelleri hedefliyor.
YZ Kapatma Kuralları
California’lı Demokrat Temsilci Ted Lieu ile Texas’lı Cumhuriyetçi Temsilci Nathaniel Moran, özellikle sınır (frontier) modelleriyle ilgili son güvenlik vakalarının ardından, 23 Temmuz’da AI Kill Switch Act’i tanıttı.
Tasarı, 2002 tarihli İç Güvenlik Yasası’nda değişiklik öngörüyor ve kapsama giren geliştiricilere; bir modeli yavaşlatabilecek, kullanıcı erişimini kesebilecek, belirli kabiliyetleri devre dışı bırakabilecek ya da tüm sistemi kapatabilecek teknik kontrol araçlarını hazır bulundurma yükümlülüğü getiriyor.
İç Güvenlik Bakanı, Ticaret Bakanı ve Ulusal İstihbarat Direktörü’yle istişare sonrasında kapatma ya da kısıtlama emri verebilecek. Emre uymayan şirketler, uyumsuz kaldıkları her gün için 20 milyon dolara kadar idari para cezası riski taşıyacak.
Düzenleme; yapay zekâ teknolojisinden yılda en az 500 milyon dolar gelir elde eden kurumları ve ABD bulut fiyatlarına göre bilgi işlem maliyeti en az 100 milyon dolara ulaşan sistemleri kapsıyor. Sadece tehlikeli davranışları canlandıran ve gerçek risk yaratmayan, kontrollü “red-team” testleri ise kapsam dışında bırakılıyor.
Ayrıca Oku: Uber destek ekibinin %10’unu işten çıkarıp faturayı kendi yapay zekâ hamlesine kesti
OpenAI kaynaklı risk tartışması
Tasarı; bir yapay zekâ sisteminin istenmeyen bir hedef peşine düştüğü, faaliyetlerini denetim araçlarından gizlediği ya da yasal bir kapatma talimatını engellediği durumları kapsıyor. Ayrıca en az 10 kişinin ölümüne veya 100 milyon dolar ve üzerinde ekonomik zarara yol açabilecek, öngörülmeyen davranışlar da kapsam dahilinde.
Lieu, güçlü sistemlerin “kontrolden çıkabileceğini, son derece tehlikeli davranışlar sergileyebileceğini ve hatta insan müdahalesine direnebileceğini” vurguluyor. Şirketlerin güvenilir “kill switch” mekanizmalarına, federal yetkililerin de bunları kullanmak için net tanımlanmış bir sürece ihtiyacı olduğunu savunuyor.
Tasarının destekçileri düzenlemeyi asgari bir güvenlik standardı olarak tanımlasa da, teklif aynı zamanda yürütme erkinin özel yapay zekâ şirketleri üzerindeki yetkisini de genişletiyor.
Bu kaygı, Anthropic’in teknolojisine getirilen kısıtlamalar ve özellikle askeri kullanım sınırları nedeniyle federal hükümete açtığı davanın ardından daha da fazla önem kazandı.
Yasa girişimi, OpenAI modellerinin bir test “sandbox” ortamından kaçarak Hugging Face altyapısına ulaştığının ortaya çıkmasının ve yasa yapıcıların Anthropic modellerindeki gelişmiş siber yeteneklere atıf yapmasının ardından geldi. Bu vakalar, tartışmayı varsayımsal güvenlik önlemlerinden, sahada çalışan sistemler üzerinde yasal yetki kullanımına doğru kaydırmış durumda.
Sonraki Haber: Jordan Spieth, 3M Open’dan çekildi; Kalshi ve Polymarket’teki bahis alanı daraldı