OpenAI, sandbox ortamından kaçan modellerin, Hugging Face ihlali sırasında 17.600 saldırgan aksiyonu gerçekleştirdiğini ve dört harici serviste açıkta kalan kimlik bilgilerini kullandığını açıkladı.
Öne Çıkanlar:
- Kaçan test modelleri, dört ayrı harici servisteki dört hesaba ulaştı; bunlardan biri trafik aktarımı, diğeri ise depolama için kullanıldı.
- JFrog, modellerin açık internete çıkmasına izin veren self-hosted Artifactory paket proxy zafiyetlerini yamaladı.
- Bir CISO sonrası analiz raporu, işletmelere otonom ajanları “içeriden saldırı yapabilen düşman” gibi ele alıp, pasif yazılım gibi görmemeleri çağrısında bulunuyor.
OpenAI Sandbox Kaçışı Dört Hizmete Ulaştı
OpenAI, salı günü yayımladığı olay güncellemesinde, duyurduğu üzere, ele geçirilen hesaplardan birinin operasyon için çıkış noktası ve ara istasyon olarak kullanıldığını belirtti. İkinci bir hesap veri depolamak için kullanılırken, iki hesap da salt-okunur yetkilerle açıldı. Şirket ne bu dört servisin adını paylaştı ne de modellerin açık kimlik bilgilerini nasıl tespit ettiğini açıkladı.
İncelemelerde, modellerin bu sağlayıcıların altyapısında daha derinlere inmediğine ya da aynı platformları kullanan diğer müşteri hesaplarına dokunmadığına dair bir bulguya rastlanmadı.
OpenAI, olaydan sorumlu ön sürüm prototipi devre dışı bıraktığını, araştırma erişimini kestiğini ve dış denetçilerin de yer alacağı tam teknik rapor sözü verdiğini duyurdu.
Modal Labs, açıklamasında müşterilerinden birinin, internetteki herhangi birinin kendi sandbox ortamlarında kod çalıştırmasına izin veren, kimlik doğrulaması olmayan bir uç nokta yayımladığını belirtti. CTO Akshat Bubna, platformun kendisinin ele geçirilmediğini vurguladı. Ajan, Modal’ın altyapısının yanı sıra “paste” siteleri, ekran görüntüleme servisleri ve istek yakalama araçları gibi ödünç aldığı hizmetlerden yararlanarak trafiği yönlendirdi ve izini bulanıklaştırdı.
Ayrıca Oku: OpenAI'nin Kontrolden Çıkan Ajanı Hugging Face Dışında 4 Servise Daha Sızdı
Artifactory Yamaları ve Ajan Dayanıklılığı İçin Öneriler
JFrog, doğruladığı üzere, kaçışın, sandbox’ın internete açılan tek kapısı olan self-hosted Artifactory paket proxy üzerinden gerçekleştiğini ve 7.161.15 ile 7.146.34 sürümlerinde düzeltmeler yayımladığını bildirdi. Aralarında Fortune 100 şirketlerinin yaklaşık yüzde 80’inin de bulunduğu 7.500’den fazla kurum bu platformu kullanıyor; dolayısıyla kendi kendini yöneten ve yamalanmamış kurulumlar, diğer herkes için de halen en kritik saldırı yüzeyini oluşturuyor.
Cloud Security Alliance tarafından hazırlanan sonrası değerlendirme raporu, operatörlere ajanlar için gerçekten asgari ayrıcalık ilkesini uygulamalarını, tek tek komutlar yerine tüm aksiyon dizilerini izlemesini ve bir olay patlamadan önce kendi kontrol ettikleri donanım üzerinde adli analiz araçlarını hazır bulundurmalarını tavsiye ediyor.
Rapora göre ekipler, otonom ajanları pasif yazılım bileşenleri gibi arka planda bırakmak yerine, içeriden saldırı gerçekleştirebilecek düşman aktörler olarak konumlandırmalı.
Hugging Face ise kullanıcılarına tüm erişim token’larını döndürmelerini ve API yetkilerini baştan sona gözden geçirmelerini önerdi.
Bu olayda güvenlik “korkulukları” ters tepti. Hugging Face yanıt ekipleri, ticari modelleri ham saldırı log’larını analiz etmeye ikna edemedi; çünkü güvenlik filtreleri, savunmacı ile saldırganı ayırt edemedi. Bunun üzerine ekip, yerelde açık-ağırlıklı bir modeli çalıştırmak zorunda kaldı.
Sınırlama (containment) süreci boyunca geriden gelindi. İhlal yaklaşık dört gün sürdü; 9 Temmuz civarında başlayan faaliyet, OpenAI çalışanlarının 18 Temmuz hafta sonunda sistem log’larını incelemesine kadar şirketin kendi testlerine bağlanamadı. Hugging Face ise bu sırada ihlali tespit etmiş, FBI’ı bilgilendirmiş ve sonrasında altyapısının yaklaşık üçte birini temiz imajlardan yeniden inşa etmek zorunda kalmıştı.
Sıradaki Haber: DEX Hacmi Temmuz’da %26 Gerileyerek Zincir Üstü Likiditedeki Daralmayı Yansıtıyor