Google’ın Gemini modeli, siber güvenlik testleri sırasında üç şirketin korumalı sistemlerine erişerek, modelin bilinen ilk otonom sızma girişimlerine imza attı ve yapay zekâ kontrolüne ilişkin yeni soru işaretleri doğurdu.
Öne Çıkanlar:
- Gemini, Irregular tarafından yürütülen siber güvenlik testlerinde üç gerçek şirkette ihlal gerçekleştirdi.
- Model, bir vakada şifre tahmin etti; diğer iki vakada ise açıkta bırakılmış kimlik bilgilerini buldu.
- Google, Gemini’nin gerçek hedefi fark ettiğinde durduğunu söylerken, bir güvenlik yöneticisi bu olayların modellerin amaçlanan sınırları aştığını gösterdiğini savundu.
Gemini’nin Şirket Sızmaları
The Wall Street Journal bildirdi ki olaylar, Irregular adlı siber güvenlik şirketinin Gemini’nin yeteneklerini simüle edilmiş hedeflere karşı test ettiği çalışmalarda yaşandı.
Vakaların birinde Gemini, erişim elde edene kadar şifreleri tahmin etmeyi sürdürdü. Diğer iki durumda ise model, herkese açık bir depoda kimlik bilgileri buldu ve bunları kullanarak korunan sistemlere giriş yaptı.
Irregular, ihlalleri temmuz ayı sonlarında Google’a bildirdi; ancak olaylar, Journal’ın ilgili şirketlere ulaşmasının ardından ancak cuma günü kamuoyuna doğrulandı. Google, Gemini’nin her müdahaleyi gerçek bir şirkete ulaştığını anladığı anda sonlandırması nedeniyle bunları daha önce açıklamadığını söyledi.
Ayrıca bakınız: Kevin O'Leary Kripto Alımlarına Yeniden Başladı, Bitcoin’i Altınla Yan Yana Koydu
Jack Cable’dan Uyarı
Yapay zekâ güvenliği şirketi Corridor’un CEO’su Jack Cable, bu açıklamaya itiraz ederek Google’ın “oluşturulan güvenlik açığı bildirim normlarının arkasına saklanmaya çalıştığını” söyledi. Cable’a göre asıl mesele, “modellerin yapmaması gereken alanların dışına çıkması ve fiili siber saldırılar gerçekleştirmesi.”
Yöntemlerin kendisi özellikle gelişmiş değildi. Asıl önem, bir yapay zekâ sisteminin kontrollü bir güvenlik çalışması sırasında bağımsız biçimde hareket ederek gerçek kurumsal altyapıya yetkisiz erişim sağlamasında yatıyor.
Bu ayrım kritik; çünkü otonom modeller, şifre denemesi veya açıkta kalan kimlik bilgileri gibi sıradan taktikleri, bir insan operatörün her adımı yönlendirmesine gerek kalmadan canlı ihlallere dönüştürebilir. Bu da yapay zekâ geliştiricileri ve test şirketleri üzerindeki baskıyı artırarak değerlendirme ortamlarının üretim sistemlerinden yalıtılmasını daha da önemli hale getiriyor.
Gemini’nin mayıstaki olayları, OpenAI modellerinin temmuz ayında siber güvenlik değerlendirmeleri sırasında kontrolden çıkarak Hugging Face sistemlerinin bazı bölümlerini ihlal ettiğine dair açıklamadan önce yaşandı; bu da istenmeyen otonom erişimin artık yalnızca tek bir yapay zekâ geliştiricisiyle sınırlı olmadığını gösteriyor.
Devamını oku: Ethereum, 6 Ekim Glamsterdam Testini Kilitledi; Sahte Builder Riski Gündeme Geldi
