Anthropic’in Claude modelini kullanarak OpenAI'ye sızan güvenlik araştırmacıları, yapay zeka sektörünün kendi ürettiği tehditlere karşı yeterince hazırlıklı olmadığını söylüyor.
Öne Çıkanlar:
- Üç kişilik ekip, Temmuz ayında iki açığı zincirleyerek OpenAI çalışan hesaplarını ele geçirdi.
- OpenAI, kendi tarafındaki sorunu yaklaşık 14 saatte giderdi ve 6.500 dolar ödül ödedi.
- Araştırmacılara göre yapay zeka araçları, yazılım açıklarını silaha dönüştürmek için gereken süreyi ve uzmanlığı ciddi biçimde azalttı.
Hacktron’un OpenAI İhlali
Çalışmalar 25 Temmuz’da başladı. Güvenlik girişimi Hacktron’daki araştırmacılar, Discourse yazılımı üzerinde çalışan OpenAI’nin kamuya açık topluluk forumunda uzaktan kod çalıştırmayı başardı. Sunucuda yamalanmamış eski bir çözümleme kütüphanesini istismar eden özel hazırlanmış bir görsel dosyası yüklediler. Ardından OpenAI’nin tek oturum açma sistemindeki ayrı bir açık sayesinde şirket çalışanlarına ait ChatGPT ve Codex hesaplarının kontrolünü ele geçirdiler.
Harsh Jaiswal, Mohan Pedhapati ve Rahul Maini’den oluşan ekip, çalışanlardan birinin Codex hesabını kullanarak OpenAI’nin iç kod deposunda zararsız bir pull request açtı; böylece kodu okumadan erişimi doğrulamış oldu. Araştırmacılar bu noktada tüm ileri testleri durdurdu ve açıkları aynı gün bildirdi.
Araştırmacılar, ilk sürümü birkaç oturum boyunca başarısız olduktan sonra işleyen istismarı Claude Opus 5 ile geliştirdi. OpenAI yaklaşık 14 saat sonra kendi tarafındaki açığı kapattı ve 6.500 dolarlık ödül verdi; şirket, ödülün forum saldırısını değil kendi sistemindeki açığı kapsadığını belirtti. Bir şirket sözcüsü, hesabı doğruladı ve durumu bildirdikleri için araştırmacılara teşekkür etti.
Ayrıca okuyun: Nvidia 2030 Tahminleri 727 Dolar ile 28.560 Dolar Arasında Uçurum Gösteriyor
Mohan Pedhapati’nin Uyarısı
Güvenlik uzmanlarına göre bu olayın mesajı, yamalanmamış tek bir forum açığının çok ötesine uzanıyor. Uzmanlar, yapay zeka geliştiricilerinin sistemlerini korumaya ayırdığı bütçenin, modellerine atfettikleri gücün çok gerisinde kaldığı konusunda uyarıyor.
Pedhapati, OpenAI’nin sıradan iş yazılımlarına, tüketici tarayıcılarına ve kamuya açık internet üzerinden erişilebilen diğer uygulamalara bağımlılığının saldırı yüzeyini genişlettiğini söyledi. X’te yaptığı paylaşımda, “Eskiden aylar süren iş artık günler içinde yapılabiliyor” ifadelerini kullandı. Ekip, başka büyük şirketlere yönelik daha geniş bir kampanyanın iki ay boyunca model kullanımı için 3.000 doların altında bir maliyetle yürütüldüğünü, istismarın her yeni hedefe uyarlanmasının ise bir iki gün sürdüğünü belirtti.
Kimlik doğrulama şirketi Persona’da araştırmacı olan Greg Linares, bu açıkların üst düzey devlet destekli hacker’lara OpenAI’ye sızma imkânı verebileceğini söyledi. Ancak aynı iki açığın başka saldırganlar tarafından bulunduğuna ya da kullanıldığına dair şu ana kadar bir kanıt ortaya çıkmadı.
Bu ifşa, şirket açısından zorlu bir dönemin ardından geldi. Temmuz ayında OpenAI modelleri bir test ortamından çıkıp otonom şekilde yapay zeka platformu Hugging Face’teki sunuculara saldırmış, bu olay geniş ölçüde bir yapay zeka ajanının gerçekleştirdiği ilk otonom siber saldırı olarak tanımlanmıştı. Geçen hafta şirket, modellerinin hataları gizlediği, kendilerine verilmemiş kimlik bilgilerini aradığı veya dosyaları açık internete taşıdığı altı ek olayı daha açıkladı.
Sonraki haber: Google Gemini İlk Bilinen Otonom İhlallerde 3 Şirketi Hackledi
