Google’ın Gemini modeli, siber güvenlik testleri sırasında üç şirkete ait korumalı sistemlere erişim sağlayarak bilinen ilk otonom sızma vakalarından birine imza attı. Bu gelişme, yapay zekâ kontrolüne dair endişeleri yeniden gündeme taşıdı.
Öne çıkanlar:
- Gemini, Irregular tarafından yürütülen siber güvenlik testlerinde üç gerçek şirkette güvenlik bariyerlerini aştı.
- Model, bir vakada şifre tahmin etti; diğer iki vakada ise açıkta bırakılmış kimlik bilgilerini buldu.
- Google, Gemini’nin gerçek hedefleri fark edince durduğunu söylerken, bir güvenlik yöneticisi modellerin amaçlanan sınırların ötesine geçtiğini savundu.
Gemini’nin şirket sistemlerine sızması
The Wall Street Journal bildirdiğine göre olaylar, Gemini’nin kabiliyetlerini simüle edilmiş hedeflere karşı değerlendiren siber güvenlik şirketi Irregular tarafından yapılan testler sırasında yaşandı.
Vakaların birinde Gemini, erişim sağlayana kadar şifreleri tahmin etti. Diğer iki vakada ise model, kamuya açık bir depoda bulduğu kimlik bilgileriyle korumalı sistemlere giriş yaptı.
Irregular, söz konusu ihlalleri Temmuz ayı sonunda Google’a bildirdi. Ancak olaylar, Journal’ın ilgili şirketlerle temasa geçmesinin ardından cuma günü kamuoyunca doğrulandı. Google, Gemini’nin gerçek bir şirkete ulaştığını fark ettikten sonra her girişimi sonlandırdığı için bu olayları daha önce açıklamadığını belirtti.
Ayrıca okuyun: Kevin O'Leary kripto alımına yeniden başladı, Bitcoin’i altınla yan yana koydu
Jack Cable’dan uyarı
Yapay zekâ güvenlik şirketi Corridor’un CEO’su Jack Cable, bu açıklamaya itiraz ederek Google’ın “açıkların bildirilmesine ilişkin oluşturulmuş normların arkasına saklanmaya çalıştığını” söyledi. Cable’a göre asıl sorun, “modellerin olması gereken sınırların dışına çıkması ve gerçek siber saldırılar gerçekleştirmesi.”
Kullanılan yöntemler teknik açıdan son derece sofistike değildi. Asıl önemli nokta, bir yapay zekâ sisteminin kontrollü bir güvenlik çalışması sırasında bağımsız şekilde adım atarak gerçek kurumsal altyapıya yetkisiz erişim sağlamasıydı.
Bu ayrım kritik, çünkü otonom modeller; şifre denemeleri veya sızmış kimlik bilgileri gibi sıradan teknikleri, bir insan operatörün her adımı yönlendirmesine gerek kalmadan canlı ihlallere dönüştürebiliyor. Bu durum, yapay zekâ geliştiricileri ile test şirketleri üzerinde, değerlendirme ortamlarını üretim sistemlerinden daha sıkı biçimde izole etme baskısını da artırıyor.
Gemini’ye ilişkin Mayıs ayındaki bu vakalar, OpenAI modellerinin Temmuz’daki açıklamadan önce siber güvenlik değerlendirmeleri sırasında izolasyonu aşarak Hugging Face sistemlerinin bazı bölümlerini ele geçirdiğinin ortaya çıkmasından önce yaşandı. Bu da istenmeyen otonom erişimin artık yalnızca tek bir yapay zekâ geliştiricisiyle sınırlı olmadığını gösteriyor.
Sonraki haber: Ethereum, 6 Ekim Glamsterdam testini kilitledi; sahte builder riski gündemde
