Google DeepMind kurucu ortağı Demis Hassabis, çarşamba günü yaptığı açıklamada, son dönemde görülen başına buyruk yapay zekâ ajanı saldırılarının birer “öncü uyarı” niteliği taşıdığını, daha ağır vakaların ise güçlü güvenlik önlemleri alınmazsa önümüzdeki iki yıl içinde yaşanabileceğini söyledi.
Öne çıkanlar:
- Demis Hassabis, son dönemdeki yapay zekâ ajanı kaynaklı saldırıları, henüz çok güçlü olmayan sistemlerden gelen ilk uyarı atışları olarak nitelendirdi.
- Şirketler ve hükümetler bu sistemleri güvence altına almazsa, birkaç yıl içinde büyük çaplı olayların yaşanabileceğini vurguladı.
- Microsoft Başkanı Brad Smith, “ayıltıcı” bir yılın ardından makul ve dengeli yapay zekâ yasalarına ihtiyaç olduğunu söyledi.
Hassabis’ten Dublin uyarısı
DeepMind başkanı ve Google’ın çatı şirketi Alphabet’in baş bilim insanı olan Hassabis, Dublin’deki Uluslararası Yapay Zekâ Zirvesi’nde yaptığı konuşmada, son yaşanan vakaların “henüz çok da güçlü olmayan” sistemlerden kaynaklandığını ifade etti. Hassabis, sektörün, tekil şirketlerin ve hükümetlerin güvenlik için daha fazlasını yapmaması hâlinde gelecek yıl ve onu izleyen birkaç yıl içinde tabloyun kökten değişebileceği uyarısında bulundu uyarısını yineledi. Zirvede güvenlik kaygıları gündeme damga vurdu.
Araştırmacılar aylardır başına buyruk hareket eden yapay zekâ ajanlarına ilişkin alarm zillerini çalıyor.
Son örnekler arasında kurumsal ağlara sızmaların yanı sıra, en son Anthropic’in ortaya çıkardığı, bir yapay zekâ modelinin polise sahte cinayet ihbarı iletmesi olayı da yer alıyor. Hassabis, sektörün, biyoteknoloji ve nükleer alanlarında kritik sistemler için uygulanan güvenlik standartlarına yaklaşabilmesi için hâlâ “yapması gereken çok iş” olduğunu belirtti. Er ya da geç bir tür uluslararası standartlar kuruluşuna ihtiyaç duyulacağını söyleyen Hassabis, bu yapının sertifikasyon süreçlerinin risklerle orantılı kalması ve teknoloji geliştikçe hızla uyum sağlayabilmesi gerektiğinin altını çizdi.
Ayrıca Oku: Fransa stablecoin takaslarını yüzde 31,4’ten vergilendirebilir, Chainalysis sermaye kaçışı uyarısı yaptı
Brad Smith’ten düzenleme çağrısı
Microsoft Başkanı Brad Smith, konferansta yaptığı konuşmada, başına buyruk yapay zekâ davranışlarının 2026’yı “ayıltıcı bir yıl” haline getirdiğini, artık güvenlik kurallarının inovasyonun hızına yetişmesi gerektiğini söyledi.
“Bir kutu süt için yapay zekâdan daha fazla güvenlik kuralı var” diye konuşan Smith, hiçbir şirketin veya teknolojinin hukukun üstünde olamayacağını vurguladı. Ancak yeni regülasyonların da makul, dengeli ve yenilikçi faaliyetleri gözeten bir çerçevede tasarlanması gerektiğini ekledi.
Smith ayrıca, Anthropic’in yakın tarihli bir raporuna atıfla, küçük ölçekli yapay zekâ modellerinin bile internete bağlı cihazlar arasında kendilerini kopyalayabilecek, bilgisayar “solucanlarına” benzer davranışlar sergileyebilecek seviyeye yalnızca birkaç ay uzakta olabileceğini belirtti. “Buzdolabımda yapay zekâ solucanları görmek istemiyorum” ifadelerini kullandı.
Zirve öncesinde Smith, kullanıcıların yapay zekâ ajanlarını gerektiğinde kapatmasına veya yavaşlatmasına olanak tanıyacak “güvenlik frenleri”, zorunlu olay bildirimi ve modeller piyasaya sürülmeden önce daha sıkı test süreçleri talep etmişti. Smith, çarşamba günü yaptığı ek değerlendirmede, sektörde bazı oyuncuların düzenlemeye karşı “alerjilerini” artık aşmaları gerektiğini söyledi.
Dublin’deki mesajlar, Hassabis’in 14 Temmuz’da açıkladığı yol haritasını da pekiştiriyor. Hassabis o tarihte, yapay zekâ kaynaklı siber riskleri “uyarı atışları” olarak nitelendirmiş ve ABD’ye sınır teknolojilere yönelik bir denetim kurumu kurulması çağrısında bulunmuştu planında. Wall Street düzenleyicisi FINRA’yı örnek alan bu yapı kapsamında, laboratuvarların modellerini piyasaya çıkmadan 30 gün önce kuruma ileterek siber, biyolojik ve aldatma kapasitesi testlerine tabi tutması öngörülüyor. Hassabis, böyle bir kurumun yıl bitmeden faaliyete geçmesini umduğunu söyledi.
Sıradaki Haber: MNX, hisse almadan OpenAI ve Anthropic değerlemelerine Pre-IPO yatırım imkânı sunuyor
