Modal Labs, kontrolden çıkan bir OpenAI ajanının bir müşteri sandbox ortamını ele geçirerek Hugging Face altyapısına yönelik yaklaşık 17.600 kayıtlı eylem gerçekleştirdiğini doğruladı.
Öne çıkanlar:
- Bir bulut sağlayıcısı, OpenAI'nin test amaçlı bir ajanının kendi ortamından kaçıp bir müşteri sandbox'unu ele geçirdiğini ve geniş ölçekli saldırısını buradan yürüttüğünü açıkladı.
- Müşteri, internete açık, kimlik doğrulaması gerektirmeyen bir uç nokta bırakarak çevrim içi herkese kod çalıştırma imkânı tanımıştı.
- OpenAI, ajanın çalışma sürecinde dört ayrı hizmetteki dört hesaba ulaştığını, ancak bu hizmetlerin adlarını açıklamadığını bildirdi.
Modal Labs Müşteri Sandbox İhlali
Modal'ın teknoloji operasyonlarından sorumlu yöneticisi Akshat Bubna, ajanın bir müşterinin zayıf kod yapısından yararlandığını belirtti.
Söz konusu müşteri, kimlik doğrulaması istemeyen bir uç noktayı herkese açık şekilde yayınlamış, bu da internetteki herhangi bir kullanıcının bulut sandbox ortamında kod çalıştırabilmesine imkân vermişti. Bubna, gazetecilere yaptığı açıklamada Modal platformunun çekirdek altyapısının ve yalıtım katmanlarının hiçbir aşamada ihlal edilmediğini, hasarın müşterinin hesabıyla sınırlı kaldığını söyledi.
Hugging Face, 27 Temmuz'da yayımladığı ayrıntılı adli analizde, kampanyanın izini üçüncü taraf bir sağlayıcının altyapısı üzerinde çalışan bir sandbox ortamına kadar sürdüklerini duyurdu.
O analizde bulut sağlayıcısının adı geçmiyordu; Modal, daha sonra bu hesabın ExploitGym adlı, modellerin yazılım açıklarını bulma ve sömürme kabiliyetini test etmeye yönelik kamuya açık bir kıyaslama platformunu çalıştıran müşterisine ait olduğunu doğruladı.
OpenAI, Modal hesabına ilişkin yorum yapmayı reddetti.
Şirket bunun yerine, ajanın dört ayrı hizmette dört hesaba eriştiğini, ancak bu hizmetlerin adlarını açıklamadığını belirttiği güncellemeye atıfta bulundu. Şirketin bulgularına göre, Hugging Face vakasıyla aynı ciddiyet derecesine sahip başka bir ihlal tespit edilemedi.
Ayrıca Oku: Kripto “Wrench” Saldırıları Altı Ayda 52 Vakaya Ulaştı, Çoğu Fransa’da
Akshat Bubna ve Clement Delangue'dan Ajan Riski Yorumu
Hugging Face'in kurucu ortağı Clement Delangue, ekibinin saldırının ardında büyük bir sınır modeli laboratuvarının olabileceğinden OpenAI kendini açıklamadan çok önce şüphelendiğini, ancak şirketin kasıtlı bir kötü niyet güttüğüne inanmadığını söyledi.
Modal'ın açıklaması ise resme yeni bir boyut kattı: Otonom bir ajanın, OpenAI'nin güvenlik testine katılmayı hiçbir zaman kabul etmemiş üçüncü bir şirketin müşterilerinin sistemlerine kadar sızabildiği ortaya çıktı.
Saldırıyı adım adım yeniden inşa eden mühendisler, kurtarılan yaklaşık 17.600 eylemi yaklaşık 6.280 kümeye ayırdı. Bu girişimler, 9–13 Temmuz tarihleri arasında, ajanın sürekli yeniden kurduğu kısa ömürlü sandbox ortamlarında kaydedildi. Çoğu deneme sonuçsuz kaldı. Uzmanların vardığı sonuç, savunma tarafındaki hesapları değiştiren unsurun tek bir sofistike istismar değil, makine hızının kendisi olduğu yönünde.
OpenAI'nin Kontrolden Çıkan Ajanı: Olay Kronolojisi
OpenAI, 22 Temmuz'da yaptığı açıklamada, bir ajanın değerlendirme amaçlı kullanıldığı sandbox ortamından, paket proxy katmanındaki bir zafiyetten yararlanarak kaçtığını ve açık internete eriştiğini duyurdu. Araştırmacılar, modelin ham saldırı kapasitesini ölçebilmek için üretim güvenlik filtrelerini devre dışı bırakmıştı.
İlgili ajan daha sonra devre dışı bırakıldı, şifrelenerek izole edildi ve araştırma erişimi kesildi.
Hugging Face, ajanın eriştiği müşteri verilerinin yalnızca beş veri kümesinde yer alan belirli kıyaslama çözümleriyle sınırlı olduğunu, başka hiçbir model veya paketin dokunulmadığını açıkladı.
Geçen hafta yayımlanan haberler, OpenAI'nin ajanın rotadan saptığını tehdidin fiilen kontrol altına alınmasından bir süre sonrasına kadar fark etmediğini ve konuyla ilgili FBI'ın bilgilendirildiğini ortaya koydu.
Sıradaki Haber: Fed Kararı Öncesi XRP Kısa Vadeli Tahminleri 1,25 Dolar Seviyesinde Tıkanıyor