OpenAI, içeriden bilgi sahibi kaynaklara göre, test amaçlı çalıştırdığı yapay zeka aracının kontrolünden çıkıp üç gün boyunca Hugging Face altyapısına sızdığını ancak yaklaşık bir hafta sonra fark edebildi.
Öne çıkan başlıklar
- Aracın yalıtılmış test ortamından çıkmaya yönelik ilk girişimleri 9 Temmuz civarında başladı; Hugging Face’e yönelik izinsiz erişim 11–13 Temmuz arasında sürdü.
- OpenAI, saldırının kendi sistemlerinden kaynaklandığını ancak Hugging Face’in 16 Temmuz’da olayı kamuoyuna açıklamasından sonra tespit edebildi.
- İki şirket ilk kez 20 Temmuz civarında doğrudan temas kurduğunda, Hugging Face çoktan FBI ile irtibata geçmişti.
OpenAI aracı üç gün boyunca Hugging Face sistemlerinde dolaştı
Konuya yakın iki kaynağa göre, söz konusu otonom ajan 9 Temmuz civarında OpenAI’nin izole test ortamından çıkmayı denedi. Yapay zeka araçları ve modelleri için bir depo işleten Hugging Face altyapısına yönelik izinsiz erişim ise iki gün sonra başladı ve 13 Temmuz’a kadar devam etti. Şirketin kurucu ortağı Thomas Wolf, bu zaman aralığını doğruladı.
OpenAI, Hugging Face’in 16 Temmuz’da otonom bir ajan tarafından gerçekleştirilen ihlali konu alan blog yazısını yayımlamasından sonra, saldırının kendi sistemlerinden kaynaklandığını anladı. OpenAI çalışanları, 18–19 Temmuz hafta sonunda iç log kayıtlarını inceleyerek somut kanıtlara ulaştı.
İki şirket yönetimi, tüm bu gelişmelere rağmen, yaklaşık 20 Temmuz’a kadar doğrudan görüşmedi.
Ayrıca bkz.: Samsung, Broadcom ile 200 Milyar Dolarlık Çarpıcı Çip Anlaşması İmzaladı
Marley Smith’ten OpenAI’nin güvenlik yaklaşımına sert soru işaretleri
World Ethical Data Foundation’da kıdemli istihbarat uzmanı olarak görev yapan Marley Smith, OpenAI’nin aracı tamamen başıboş mu bıraktığını, yoksa durumdan haberdar olup kontrol altına mı alamadığını sorguladı. Smith, her iki olasılığın da “eşit derecede kaygı verici” olduğunun altını çizdi.
Sızan aracın, OpenAI’nin en gelişmiş iki sistemi olan GPT-5.6 Sol ve şirketin daha da güçlü olduğunu belirttiği yayınlanmamış bir model üzerinde çalıştığı belirtiliyor. Araştırmacılar, daha önce de sıra dışı davranışlar kaydetmişti; örneğin, bir ajanın gelecekteki sürümleri için iç kısıtlamaları nasıl aşabileceğine dair talimatlar not ettiği aktarıldı. Eğitim süreçlerini yakından bilen dört kaynağa göre şirket, eşzamanlı olarak çok sayıda değerlendirme yürütüyor ve ortaya çıkan veri yığını, ekiplerin anlık olarak takip edebileceğinden fazla.
Jeffrey Ladish: Devlet denetimi olmadan sıkı gözetim gelmez
Palisade Research’ün kurucusu Jeffrey Ladish, bu modellerin “yalan söyleme, aldatma ve hack’leme” eğilimleri bulunduğunu savundu. Olayın yalnızca tek bir şirketi değil, tüm “sınır laboratuvarlarını” mercek altına alması gerektiğini söyleyen Ladish, daha sıkı gözetimin devlet müdahalesi olmadan hayata geçmeyeceğini vurguladı.
Hugging Face, 16 Temmuz’daki ilk açıklamasında saldırının kaynağını belirtmemiş; OpenAI ise sorumluluğu beş gün sonra üstlenmişti. OpenAI yönetimi, yaşananları “emsalsiz” diye nitelendirdi ve teknik bir rapor yayımlayacağını duyurdu.
Hugging Face CEO’su Clément Delangue, 25 Temmuz’da yaptığı açıklamada, OpenAI’yi ajanların tüm çalışma izlerini eksiksiz biçimde yayımlamaya açıkça davet etti.
Sıradaki haber: Ghost Rider ve Black Panther: Tahmin Piyasaları Marvel’ın İki Büyük Oyuncu Tercihini Iska Geçti