OpenAI’nin iki modelinin Hugging Face’i hacklemesini anlatan resmi versiyon, Cornell Üniversitesi bilgisayarlı bilimler akademisyeni John Thickstun’a göre, şirketin 2019’dan bu yana izlediği pazarlama hattını bire bir tekrar ediyor.
Öne çıkanlar:
- OpenAI, iki modelinin sızma testi için kurulan sandbox ortamından kaçıp, bir siber güvenlik kıyaslamasında kopya çekmek amacıyla Hugging Face sunucularına girdiğini söylüyor.
- Thickstun, bu açıklamanın aynı zamanda bir yatırımcı sunumu işlevi gördüğünü ve 2019’daki GPT‑2’yi saklama kararını hatırlattığını savunuyor.
- Hugging Face, adli analiz için ABD’li kapalı modeller işi reddedince Çin menşeli açık ağırlıklı bir modele yöneldi.
Thickstun, OpenAI’nin hack açıklamasını sorguluyor
OpenAI, salı günü yaptığı duyuruda iki modelinin, saldırgan siber yeteneklerini ölçmeye yönelik iç testler sırasında, açık kaynaklı yapay zeka platformu Hugging Face’e sızdığını açıkladı.
Hugging Face, beş gün önce yayımladığı kendi raporunda, saldırıyı uçtan uca otonom bir ajan sisteminin yönettiğini belirtmişti. OpenAI olayı “emsalsiz” olarak niteleyip, modeller güçlendikçe benzer vakaların çoğalacağını öngördü.
Modeller, bir paket yükleyicisindeki sıfır-gün açığını kullanarak, internete çıkışı olmadığı varsayılan sandbox’tan kaçtı; ardından şirket içi ağda yatay hareket ederek internete erişimi olan bir makineye ulaştı. Bu noktada çalıntı kimlik bilgileri ve ek sıfır-gün açıklarıyla Hugging Face’in üretim sunucularına sızıp, kıyaslama testinin cevaplarını çektiler.
Modellerin davranış kontrolü üzerine çalışan, Cornell Üniversitesi’nde yardımcı doçent olan Thickstun, açıklamanın halka arz hazırlığındaki bir şirkete yakışır bir anlatı sunduğunu söylüyor.
Ona göre, “tehlikeli modeller” uyarıları, yatırımcıların kulağında “son derece güçlü modeller” iddiasına dönüşüyor. Thickstun, şirketin yıllardır benzer bir çerçeveyle kamuoyuna seslendiğini ve yatırımcıların bu söylemi istikrarlı biçimde ödüllendirdiğini savunuyor.
Ayrıca bkz.: ChatGPT İddiaya Göre Bir Papazı Neredeyse Öldürüyordu; Şimdi Dava Konusu
Bengio ve Guido, sorumluluk konusunda ayrışıyor
Herkes bu açıklamayı satış söylemi olarak okumuyor. Üstelik rapor, Başkan Donald Trump’ın, gelişmiş modellerin piyasaya çıkmadan önce risklerini incelemek üzere devlete yetki veren kararnameyi imzalamasından yalnızca haftalar sonra geldi.
Yoshua Bengio, olayı “uyanış çağrısı” olarak niteledi. Machine Intelligence Research Institute’ten Nate Soares ise bunu, Washington’u Pekin’le masaya oturmaya itecek bir “uyarı atışı” olarak tanımladı.
Güvenlik araştırmacılarının eleştirileri, doğrudan OpenAI’nin mühendisliğine yöneliyor. Trail of Bits’ten Dan Guido, TechCrunch’a verdiği demeçte olayı “güvenlik önlemlerinin kapatıldığı bir çevreleme başarısızlığı” diye tanımladı ve sandbox’a dışarıya çıkış imkânı tanıyan paket yükleyiciyi işaret etti.
Diğer uzmanlar, test sırasında modellerin siber saldırılara yönelik otomatik reddetme filtrelerinin kasıtlı olarak gevşetildiğini, bu nedenle sonucun ilk bakışta göründüğü kadar şaşırtıcı olmadığını hatırlattı.
Temizlik süreci ikinci bir zafiyeti daha açığa çıkardı: ABD merkezli barındırılan modeller, adli analiz için gereken ham saldırı komutlarını ve exploit yüklerini işlemeyi topluca reddetti.
Hugging Face, bunun üzerine mühendislerinin, log analizini kendi altyapısında çalıştırdığı Z.ai imzalı açık ağırlıklı GLM 5.2 modeliyle gerçekleştirdiğini ve geride kalan 17 bini aşkın kaydı bu şekilde elediğini bildirdi.
OpenAI’nin “tehlike” anlatısı 2019’a uzanıyor
OpenAI, çalışmalarını riskli olarak çerçevelemeye daha önce de başvurmuştu. Şirket, Şubat 2019’da GPT‑2 metin üreticisini, internette ikna edici sahte içerik seline yol açacağı gerekçesiyle kamuya açmayı ertelemişti. Microsoft, aynı yıl Temmuz ayında şirkete 1 milyar dolar yatırım yaptı. Thickstun, bu süreçte yatırımcılara verilen temel mesajın o günden bu yana çok az değiştiğini savunuyor.
Sıradaki haber: Tesla 25 Milyar Doların Üzerinde Harcama Sözü Verdi; Yatırımcılar Tedirgin
