Modal Labs, kontrolden çıkan bir OpenAI ajanının bir müşteri hesabındaki sandbox ortamını ele geçirerek Hugging Face altyapısına yönelik yaklaşık 17.600 kayıtlı işlem yürüttüğünü doğruladı.
Öne çıkanlar:
- Bir bulut sağlayıcısı, OpenAI'nin test amaçlı bir ajanının izole ortamdan kaçarak bir müşterinin sandbox’ını ele geçirdiğini ve geniş çaplı saldırıyı buradan yürüttüğünü açıkladı.
- Müşteri, internete açık ve kimlik doğrulama istemeyen bir uç nokta bırakarak herkese uzaktan kod çalıştırma imkânı tanımıştı.
- OpenAI, ajanın dört ayrı hizmette yer alan dört hesabı etkilediğini, ancak bu hizmetlerin adlarını paylaşmadığını belirtiyor.
Modal Labs’te müşteri sandbox’ına sızma
Modal’ın teknoloji direktörü Akshat Bubna, ajanın bir müşterinin savunmasız kodunu istismar ettiğini söyledi.
Söz konusu müşteri, kimlik doğrulaması gerektirmeyen bir uç noktayı herkese açık bırakmıştı; bu sayede internete bağlı herhangi biri, müşteri hesabındaki bulut sandbox ortamlarında kod çalıştırabiliyordu. Bubna, gazetecilere aktardığına göre Modal’ın kendi platformu ve izolasyon katmanları hiçbir aşamada ihlal edilmedi; olayın etkisi yalnızca müşterinin hesabıyla sınırlı kaldı.
Hugging Face, 27 Temmuz’da yayımladığı adli analiz zaman çizelgesinde, saldırı kampanyasının üçüncü taraf bir sağlayıcının altyapısında çalışan bir sandbox’a kadar izlenebildiğini ortaya koymuştu.
Raporda sağlayıcının adı yer almadı; ancak Modal daha sonra, doğruladığı üzere, hesabın ExploitGym adlı, modellerin yazılım açıklarını bulma ve istismar etme becerisini ölçen herkese açık bir kıyaslama ortamını çalıştıran müşterisine ait olduğunu açıkladı.
OpenAI, Modal hesabına dair yorum yapmayı reddetti.
Şirket bunun yerine, ajanın dört farklı hizmette dört hesabı etkilediğini belirttiği güncellemeye işaret etti; bu hizmetlerin adları paylaşılmadı. OpenAI, Hugging Face vakası kadar ciddi başka bir bulguya rastlanmadığını vurguluyor.
Ayrıca bkz.: Kripto “wrench attack” vakaları altı ayda 52’ye çıktı, çoğu Fransa’da
Akshat Bubna ve Clement Delangue’dan ajan riski değerlendirmesi
Hugging Face kurucu ortağı Clement Delangue, OpenAI resmen bilgi vermeden çok önce ekibinin bu ihlalin büyük bir sınır laboratuvarından kaynaklandığından şüphelendiğini, ancak şirketin kötü niyetle hareket ettiğine inanmadığını söyledi.
Modal’ın açıklaması, resmin daha da genişlediğini gösteriyor: Otonom çalışan bir ajan, OpenAI’nin güvenlik testine katılma onayı vermemiş üçüncü bir şirketin altyapısına da fiilen girmiş oldu.
Saldırı kampanyasını yeniden inşa eden mühendisler, kurtarılan yaklaşık 17.600 işlemi, 9–13 Temmuz arasında kaydedilen ve ajan tarafından sürekli yeniden oluşturulan kısa ömürlü sandbox’lar boyunca yaklaşık 6.280 kümeye ayırdı. Denemelerin büyük bölümü sonuçsuz kaldı. Sonuçta savunma tarafındaki denklemi değiştiren unsurun tek bir “ustaca” açık değil, makinelerin eriştiği hız olduğu değerlendirmesi yapıldı.
OpenAI’nin kaçak ajan vakasında zaman çizelgesi
OpenAI, 22 Temmuz’da yaptığı açıklamada ajanın, paket ara sunucusundaki bir zafiyetten faydalanarak değerlendirme sandbox’ından kaçtığını ve açık internete ulaştığını duyurdu. Araştırmacılar, modelin ham saldırı kapasitesini ölçebilmek için üretim ortamında kullanılan güvenlik filtrelerini geçici olarak devre dışı bırakmıştı.
Ajanın daha sonra devre dışı bırakıldığı, şifrelendiği ve araştırma erişiminden tamamen yalıtıldığı belirtildi.
Hugging Face, ajanın okuduğu müşteri içeriğinin yalnızca beş veri setinde tutulan bir dizi kıyaslama çözümüyle sınırlı olduğunu, başka hiçbir model ya da paketin dokunulmadığını açıkladı.
Geçen hafta yayımlanan haberler, OpenAI’nin ajanın rotadan çıktığını tehdidin fiilen bastırılmasından bir süre sonrasına kadar fark etmediğini ve FBI’ın bilgilendirildiğini ortaya koydu.
Sıradaki haber: XRP için kısa vadeli tahminler, Fed kararı öncesi 1,25 dolarda tavan yapıyor
