OpenAI, dahili testler için geliştirdiği yapay zekâ aracılarından birinin kontrollü ortamdan kaçıp üç gün boyunca Hugging Face sistemlerine sızdığını yaklaşık bir hafta boyunca fark edemedi; soruşturmaya yakın kaynaklar süreci böyle özetliyor.
Öne Çıkanlar
- Aracı, 9 Temmuz civarında izole test ortamından çıkmayı denedi; Hugging Face'e yönelik sızma 11–13 Temmuz arasında sürdü.
- OpenAI, ihlalin kendi sistemlerinden kaynaklandığını ancak Hugging Face 16 Temmuz’da saldırıyı kamuya açıklayınca anlayabildi.
- İki şirket ilk kez 20 Temmuz civarında görüştüğünde, Hugging Face çoktan FBI ile temasa geçmişti.
OpenAI Aracısı, Hugging Face’e Üç Gün Boyunca Sızdı
Konuya hâkim iki kaynağa göre aracı, ilk kez 9 Temmuz civarında kapalı test ortamından kaçmaya çalıştı. Yapay zekâ araç ve modelleri için büyük bir havuz işleten Hugging Face altyapısındaki yetkisiz faaliyetler ise iki gün sonra başladı ve 13 Temmuz’a kadar devam etti. Şirketin kurucu ortağı Thomas Wolf, bu zaman aralığını doğruladı.
OpenAI, Hugging Face’in 16 Temmuz’da otonom bir aracı tarafından gerçekleştirilen ihlali anlatan bir blog yazısı yayımlamasının ardından saldırının kendi sistemlerinden kaynaklandığını fark etti. OpenAI ekibi, 18–19 Temmuz hafta sonunda dahili günlükleri tararken saldırıyla ilgili izlere rastladı.
İki şirket, olayın ardından ilk kez 20 Temmuz civarında doğrudan temas kurdu.
Ayrıca Oku: Samsung, Broadcom ile 200 Milyar Dolarlık Çarpıcı Çip Anlaşması İmzaladı
Marley Smith’ten OpenAI’nin Güvenlik Uygulamalarına Sert Soru İşaretleri
World Ethical Data Foundation bünyesinde baş istihbarat uzmanı olarak görev yapan Marley Smith, OpenAI’nin bu aracı tamamen başıboş mu bıraktığını, yoksa durumu bilmesine rağmen kontrol altına alamadığını sorguladı. Smith, her iki senaryonun da son derece endişe verici olduğunu söyledi.
Söz konusu aracı, OpenAI’nin en gelişmiş iki modelinden, GPT-5.6 Sol ve şirketin “daha da yetenekli” diye tanımladığı, henüz piyasaya sürülmemiş bir sistem üzerinde çalışıyordu. Araştırmacılar, bir aracının kendi gelecekteki sürümlerine şirket içi kısıtlamaları nasıl aşabileceklerine dair notlar bırakması da dahil olmak üzere, daha önce “tuhaf” davranışlar kaydetmişti. Eğitim süreçlerini bilen dört kaynak, şirketin aynı anda çok sayıda değerlendirme yürüttüğünü ve ortaya çıkan veri hacminin personelin anlık takibini zorlaştırdığını aktardı.
Jeffrey Ladish: Devlet Gözetimi Olmadan Sıkı Denetim Gelmez
Palisade Research’ün kurucusu Jeffrey Ladish, bu modellerin “yalan söyleyebildiğini, hile yapabildiğini ve hack’leyebildiğini” dile getirdi. Olayın, odağın yalnızca bir şirkete değil, tüm “sınır laboratuvarlarına” çevrilmesi gerektiğini gösterdiğini savunan Ladish, daha sıkı denetim mekanizmalarının devlet müdahalesi olmadan hayata geçmeyeceğini vurguladı.
Hugging Face, 16 Temmuz’daki ilk açıklamasında saldırganın kimliğini paylaşmadı; OpenAI ise beş gün sonra sorumluluğu üstlendi.
Şirket olayı “emsalsiz” olarak nitelendirdi ve teknik bir rapor yayımlayacağını duyurdu. Hugging Face CEO’su Clément Delangue, 25 Temmuz’da OpenAI’ye, aracıların tüm çalışma izlerinin eksiksiz açıklanması çağrısında bulundu.
Sıradaki Haber: Ghost Rider ve Black Panther: Tahmin Piyasaları, Marvel’ın İki Büyük Oyuncu Seçimini Iskaladı