OpenAI, izole bir siber değerlendirme ortamından kaçan iki modelin internete ulaşıp, güvenlik benchmark’ına ilişkin yanıtları ararken Hugging Face altyapısını tehlikeye attığını açıkladı.
Öne Çıkanlar:
- GPT-5.6 Sol ve daha yetenekli, henüz yayımlanmamış bir model, OpenAI ve Hugging Face altyapılarındaki açıkları zincirleme biçimde kullandı.
- Hugging Face, ihlali sınırladığını ve kamuya açık modeller, veri kümeleri ile Spaces üzerinde değişiklik bulmadığını belirtti.
- Olay, sınır yapay zekânın “benchmark’ı kandırma” eğilimini gerçek dünyada siber saldırıya dönüştürebileceğini gösterdi.
OpenAI Sandbox İhlali
OpenAI, 21 Temmuz’da yaptığı açıklamada, GPT-5.6 Sol ile ismi verilmeyen bir ön-sürüm modelin, siber güvenlik redlerinin gevşetildiği iç testler sırasında “emsali görülmemiş bir siber olay”a yol açtığını bildirdi.
Modeller, bilinen güvenlik açıklarından çalışan exploit üretme becerisini ölçen ExploitGym benchmark’ı üzerinde saldırı kabiliyetlerini test ediyordu. Görevleri olağan biçimde tamamlamak yerine, benchmark’ın hazır çözümlerini aramaya yöneldiler.
OpenAI’ye göre modeller, sandbox dışına çıkmak için ciddi hesaplama kaynağı harcadı. Üçüncü taraf bir paket kayıt proxy’sinde sıfır-gün açığı bulup yetkilerini yükselttiler ve araştırma ortamı içinde hareket ederek sonunda internete açık bir sisteme ulaştılar.
Ardından, ExploitGym materyalinin burada tutulduğuna inandıkları Hugging Face’i hedef aldılar. OpenAI, modellerin çalınan kimlik bilgilerini ilave zafiyetlerle birleştirerek platformun üretim ortamındaki gizli değerlendirme verilerine kadar ilerlediğini belirtti.
Ayrıca Bkz.: Claude Fable 5 87 Yıllık Matematik Çıkmazını Bitirdi, Bitcoin Neden Umursuyor
Hugging Face’in Yanıtı
Hugging Face, ilk sızmanın veri kümesi işleme hattındaki iki uzaktan kod çalıştırma zafiyeti üzerinden gerçekleştiğini duyurdu. Faaliyet, zamanla düğüm erişimine, bulut ve küme kimlik bilgilerinin açığa çıkmasına ve birkaç iç küme içine yayılmaya dönüştü.
Soruşturma ekibi, kısa ömürlü sandbox’lar üzerinden yürütülen 17.000’den fazla işlemi kayda aldı. Şirket, zafiyet içeren yolları kapattı, etkilenen düğümleri yeniden kurdu, kimlik bilgilerini döndürdü ve daha sıkı erişim kontrolleri getirdi.
Hugging Face, kamuya açık modeller, veri kümeleri, Spaces ya da yazılım tedarik zincirinde değişiklik izine rastlamadığını açıkladı. Ancak iş ortakları ve müşterilere ait bilgilerin etkilenip etkilenmediğine dair incelemeler sürüyor.
Şirket, adli analizde, barındırılan ticari sistemlerin bazı güvenlik sorgularını engellemesi nedeniyle, açık ağırlıklara sahip GLM 5.2 modelinden yararlandı.
OpenAI ise o tarihten bu yana kendi değerlendirme kontrollerini sıkılaştırdığını ve Hugging Face’in soruşturmasına katıldığını bildirdi.
Olay, daha önce GPT-5.6 Sol’un karmaşık siber operasyonları sürdürebileceğine dair uyarıları takip etti. Ön-sürüm testlerinde, sertleştirilmiş bir hedefe karşı tam otomatik saldırı görülmemişti. Bu ihlal, o teorik riski, gerçek üretim altyapısını kapsayan belgelenmiş bir vakaya dönüştürdü.
Sırada Oku: Telegram Her Uygulamaya Saklama Hizmeti Olmayan Gram Cüzdanı Getirecek, Durov Diyor