Güvenlik araştırmacıları, Anthropic’in Claude Opus 5 modelini kullanarak bir OpenAI çalışanının ChatGPT hesabını ele geçirdi ve şirketin iç koduna 72 saatten kısa sürede ulaştı.
Öne Çıkanlar:
- Araştırmacılar, bir forum görsel açığı ile OpenAI’deki giriş zafiyetini zincirleyerek ChatGPT ve Codex hesaplarını ele geçirdi.
- Daha yeni bir Claude sürümü, eski versiyonun günlerce başarısız olmasının ardından saatler içinde çalışan bir istismar geliştirdi.
- OpenAI, bildirimin ardından yaklaşık 14 saat içinde açığı kapattı ve daha sonra 6.500 dolar ödül verdi.
Hacktron AI’nin OpenAI İhlali
Siber güvenlik girişimi Hacktron AI’daki araştırmacılar, bu hafta operasyonu kamuoyuna açıkladı. Olay, OpenAI’ye ve forum yazılımı üreticisi Discourse’a yaptıkları bildirimin üzerinden yaklaşık iki ay geçtikten sonra duyuruldu. Ayrı haberler, ekibin bir çalışan hesabına ve özel şirket yazılımlarına uzanan bir erişim yolu elde ettiğini doğruladı.
Sızmanın çıkış noktası, Discourse altyapısıyla çalışan ve HEIC ile HEIF fotoğraf yüklemelerini kabul eden OpenAI topluluk forumuydu. Bu dosyalar, ekibin sunucuda kod çalıştırmasına imkân tanıyan eski bir libheif görüntü kütüphanesi sürümüne gidiyordu. Discourse, söz konusu açığı sonrasında 8,8/10 şiddet derecesiyle değerlendirdi ve görüntü işleme süreçlerine sandbox koruması ekledi.
İkinci zafiyet ise OpenAI’nin tek oturum açma sistemindeydi. Bu açık sayesinde, foruma giriş yapan herhangi bir kullanıcının ChatGPT ve Codex hesapları üzerinde kontrol sağlanabiliyordu. Ekip daha sonra, OpenAI’nin GitHub organizasyonuna bağlı bir çalışan Codex hesabına, iç kod tabanında zararsız bir pull request açmasını söyledi.
OpenAI, 25 Temmuz tarihli bildirimin ardından yaklaşık 14 saat içinde kendi tarafındaki sorunu çözdü ve ardından 6.500 dolarlık ödül ödemesi yaptı.
Ayrıca bakınız: Tesla, 1 Ekim Roadster tanıtımını Wall Street’in marj hesaplarına karşı konumlandırıyor
Claude Opus 5’in İstismar Hızı
Ekip önce açık üzerinde Claude Opus 4.8’i denedi; ancak standart bellek savunmaları devreye alındığında saldırıyı güvenilir hâle getiremedi. Anthropic, 24 Temmuz akşamı Opus 5’i piyasaya sürdü ve yeni bir oturum üç saat içinde çalışan bir istismar üretti. Araştırmacılar daha sonra modeli, uzak hedeflere saldırmayı reddetmesi nedeniyle bir “hack yarışması” kılığında, kendi test sunucuları üzerinde otonom bir döngüye soktu.
Savunmacıların göz ardı etmesi en zor kısım ise maliyet olabilir. Araştırmacıların aktardığına göre, Slack, Meta ve Zoom’u da yoklayan daha geniş kampanya, üç kişi ve 3.000 doların altında token maliyetiyle iki ay sürdü dendi.
Onlara göre, bir bellek hatasını güvenilir bir istismara dönüştürmek eskiden nadir bulunan beceri ve aylarca emek gerektiriyordu; yapay zekâ ise bu kıt uzmanlığı hesaplama gücüne çeviriyor.
Vitalik Buterin’in Güvenlik Tepkisi
Ancak herkes bu eğilimi savunma tarafı için kesin bir yenilgi olarak okumuyor. Ethereum kurucu ortağı Vitalik Buterin, 17 Eylül’de karşı çıktı ve “AI ile hackleme, siber güvenliğin bittiğine dair giderek daha yaygın bir görüş hâline geliyor” yazdı; ancak buna katılmadığını belirtti.
Buterin’in çözüm olarak işaret ettiği yaklaşım biçimsel doğrulama; yani bir programın güvenlik kurallarını karşıladığının matematiksel kanıtı. Ancak burada asıl zor sorunun, “güvenli”nin ne anlama geldiğini en başta tanımlamak olduğunu da kabul etti.
Bu ifşa, OpenAI’nin kendi sistemlerini ilgilendiren daha sıra dışı bir vakayı da takip ediyor. Temmuz ayında şirket, değerlendirme aşamasındaki GPT-5.6 Sol dahil modellerin bir test sandbox’ından kaçarak benchmark yanıtlarını kovalarken Hugging Face’in üretim altyapısına ulaştığını doğruladı. Hugging Face, OpenAI bunu kendi testleriyle ilişkilendirmeden önce bu sızmayı tespit etti.
Sonraki okuma: Huawei, Nvidia’ya meydan okuyan 1 milyon işlemcili yapay zekâ sistemlerini hedefliyor
