Google DeepMind kurucu ortağı Demis Hassabis, Çarşamba günü yaptığı konuşmada, kontrolden çıkmış yapay zeka ajanlarının son dönemde gerçekleştirdiği siber hamlelerin birer “erken uyarı atışı” olarak görülmesi gerektiğini, daha ağır ve sistemik olaylarınsa, daha güçlü koruma mekanizmaları kurulmadığı takdirde, iki yıl içinde gündeme gelebileceğini söyledi.
Öne Çıkanlar:
- Demis Hassabis, son dönemdeki yapay zeka ajanı saldırılarını, henüz çok güçlü olmayan sistemlerden gelen birer “erken uyarı atışı” olarak tanımladı.
- Şirketler ve hükümetler bu sistemleri güvence altına almazsa, önümüzdeki birkaç yıl içinde çok daha büyük olayların yaşanabileceğini vurguladı.
- Microsoft Başkanı Brad Smith, “sarsıcı” olarak nitelediği bu yılın ardından, makul ve dengeli yapay zeka yasalarına ihtiyaç olduğunu söyledi.
Hassabis’ten Dublin’de Sert Mesaj
DeepMind’in başkanı ve Google’ın çatı şirketi Alphabet’in baş bilim insanı olan Hassabis, Dublin’deki Uluslararası Yapay Zeka Zirvesi’nde yaptığı konuşmada, yaşanan olayların henüz “çok güçlü sayılmayacak” sistemlerden kaynaklandığını ifade etti. Teknoloji şirketleri ve hükümetler bu sistemlerin güvenliğine daha fazla kaynak ayırmazsa, gelecek yıl ve onu izleyen birkaç yıl içinde tablonun köklü biçimde değişebileceği uyarısında bulundu ve ekledi: Zirvenin ana gündemi de güvenlik endişeleriydi.
Araştırmacılar, kontrolden çıkmış yapay zeka ajanlarının yaratabileceği riskler konusunda aylardır alarm veriyor.
Son örnekler arasında kurumsal ağlara yönelik siber sızmalar ve bunlara ek olarak, Anthropic’in bir yapay zeka modelinin polisle paylaştığı bir cinayet ihbarının sonradan asılsız çıktığını açıklaması yer alıyor. Hassabis, bu tür sistemlerin güvenliği konusunda biyoteknoloji veya nükleer endüstrideki kritik altyapı standartlarına ulaşmak için sektörün hâlâ “önünde çok yol olduğunu” söyledi. Orta vadede, uluslararası ölçekte işleyen bir standart ve denetim kurumu gerekeceğini de belirtti; ancak bu kurumun sertifikasyon süreçlerinin risklerle orantılı olması ve teknolojideki hızlı değişime ayak uydurabilmesi gerektiğinin altını çizdi.
Ayrıca Oku: Fransa, Stablecoin Takaslarını Yüzde 31,4 Vergilendirebilir, Chainalysis Offshore Kaçışı Konusunda Uyarıyor
Brad Smith’ten Regülasyon Çağrısı
Microsoft Başkanı Brad Smith, konferans kapsamında yaptığı değerlendirmede, kontrolden çıkan yapay zeka davranışlarının 2026’yı “sarsıcı bir yıl” hâline getirdiğini ve güvenlik kurallarının artık inovasyon hızına yetişmek zorunda olduğunu söyledi.
“Bir kutu süt için yapay zekadan daha fazla güvenlik kuralı var,” diyerek düzenleyici çerçevenin ne kadar geride kaldığına dikkat çekti.
Smith’e göre hiçbir şirket ya da teknoloji hukukun üstünde olmamalı. Bununla birlikte yeni regülasyonların makul, dengeli ve yenilikçiliği boğmayacak şekilde tasarlanması gerektiğini vurguladı. Smith, Anthropic’in kısa süre önce yayımladığı ve küçük yapay zeka modellerinin, bilgisayar “solucanlarına” benzer biçimde, internete bağlı cihazlar arasında kendi kendini kopyalamaya sadece birkaç ay uzaklıkta olabileceğini öne süren raporuna da atıfta bulundu. “Buzdolabımda yapay zeka solucanları görmek istemiyorum,” ifadesiyle riskin boyutuna dikkat çekti.
Zirve öncesinde Smith, kullanıcıların yapay zeka ajanlarını gerektiğinde kapatabilmesini veya yavaşlatabilmesini sağlayacak “güvenlik frenleri”nin devreye alınması, zorunlu olay bildirimi uygulamaları ve modeller yayına girmeden önce daha sıkı test süreçleri çağrısında bulundu. Smith, Çarşamba günkü konuşmasında, sektörde bazı aktörlerin regülasyona karşı “alerjisini” artık geride bırakması gerektiğini söyledi.
Dublin’deki bu uyarılar, Hassabis’in 14 Temmuz’da açıkladığı ve ABD’ye ileri seviye yapay zeka modelleri için ayrı bir denetim otoritesi kurulması çağrısında bulunduğu plana dayanıyor. Hassabis, o tarihte yaptığı açıklamada, yapay zeka destekli siber riskleri “uyarı atışları” olarak nitelemiş ve Wall Street düzenleyicisi FINRA’yı örnek göstererek, benzer bir modelle çalışan yeni bir kurum önermişti ve planı detaylandırmıştı. Bu kurumun, laboratuvarların modellerini piyasaya sürülmeden 30 gün önce paylaşmasını sağlayarak, siber güvenlik, biyolojik riskler ve aldatma kapasitesi gibi alanlarda kapsamlı testler yürütmesini hedeflediğini söyleyen Hassabis, yapının yıl sonundan önce faaliyete geçmesini umduğunu vurguladı.
Sıradaki Haber: MNX, OpenAI ve Anthropic Değerlemelerine Hisse Almadan Pre-IPO Yatırım İmkânı Sunuyor
