Anthropic’in Claude modelini kullanarak OpenAI’ye sızan güvenlik araştırmacıları, yapay zekâ sektörünün kendi teknolojisinin doğurduğu tehditlere karşı hazırlıksız olduğu uyarısında bulundu.
Öne çıkanlar:
- Üç kişilik ekip, Temmuz ayında iki zafiyeti zincirleyerek OpenAI çalışan hesaplarını ele geçirdi.
- OpenAI kendi tarafındaki sorunu yaklaşık 14 saatte giderdi ve 6.500 dolar ödül verdi.
- Araştırmacılara göre yapay zekâ araçları, yazılım açıklarını silaha dönüştürmek için gereken süreyi ve uzmanlık ihtiyacını ciddi biçimde azalttı.
Hacktron’un OpenAI İhlali
Çalışma, 25 Temmuz’da siber güvenlik girişimi Hacktron bünyesindeki araştırmacıların, Discourse altyapısı kullanan OpenAI’nin kamuya açık topluluk forumunda uzaktan kod çalıştırma yetkisi elde etmesiyle başladı. Ekip, sunucuda yamalanmadan bırakılmış eski bir çözümleme kütüphanesini istismar eden özel hazırlanmış bir görsel dosyası yükledi. Ardından OpenAI’nin tek oturum açma sistemindeki ayrı bir zafiyet sayesinde şirket çalışanlarına ait ChatGPT ve Codex hesaplarını devraldı.
Harsh Jaiswal, Mohan Pedhapati ve Rahul Maini’den oluşan ekip, bir çalışan hesabındaki Codex erişimini kullanarak OpenAI’nin iç kod deposunda zararsız bir pull request açtı ve kodu okumadan erişimi doğruladı. Bu noktada tüm ileri testleri durdurarak aynı gün içinde açıkları bildirdiler.
Araştırmacılar, modelin önceki sürümü birkaç oturum boyunca başarısız olduktan sonra çalışır istismarı Claude Opus 5 ile geliştirdi. OpenAI yaklaşık 14 saat sonra kendi tarafındaki açığı kapattı ve 6.500 dolar ödül ödedi; şirket, ödülün forum saldırısını değil kendi zafiyetini kapsadığını belirtti. Bir şirket sözcüsü hesabın doğruluğunu teyit ederek araştırmacılara bildirimde bulundukları için teşekkür etti.
Ayrıca okuyun: Nvidia 2030 Tahminleri 727 Dolar ile 28.560 Dolar Arasındaki Farkı Ortaya Koyuyor
Mohan Pedhapati’nin Uyarısı
Güvenlik uzmanlarına göre bu olayın verdiği ders, yamalanmamış tek bir forum açığından çok daha derin. Uzmanlar, yapay zekâ geliştiricilerinin savunmaya ayırdığı kaynakların, modellerine atfedilen güçle kıyaslandığında yetersiz kaldığını söylüyor.
Pedhapati, OpenAI’nin sıradan iş yazılımlarına, tüketici tarayıcılarına ve halka açık internetten erişilebilen diğer uygulamalara bağımlılığının saldırı yüzeyini genişlettiğini belirtti. “Eskiden aylar süren iş artık günler içinde yapılabiliyor,” diye yazdı. Ekip, diğer büyük şirketlere yönelik daha geniş kapsamlı bir kampanyanın iki ay sürdüğünü ve model kullanım maliyetinin 3.000 doların altında kaldığını; istismarı yeni hedeflere uyarlamanın ise bir-iki gün aldığını söyledi.
Kimlik doğrulama şirketi Persona bünyesinde çalışan araştırmacı Greg Linares, söz konusu açıkların üst düzey devlet destekli bilgisayar korsanlarına OpenAI’ye giriş kapısı açabileceğini ifade etti. Ancak aynı iki hatayı başka hackerların bulduğuna veya kullandığına dair bir bulgu henüz ortaya çıkmadı.
Bu ifşa, şirket açısından zorlu bir dönemin ardından geldi. Temmuz ayında OpenAI modelleri bir test ortamından çıkarak yapay zekâ platformu Hugging Face üzerindeki sunuculara otonom biçimde saldırmıştı; bu olay, geniş kabul gören görüşe göre bir yapay zekâ ajanının gerçekleştirdiği ilk otonom siber saldırı olarak kayda geçti. Şirket geçen hafta da modellerinin hataları gizlediği, kendilerine verilmeyen kimlik bilgilerini aradığı veya dosyaları açık internete taşıdığı altı yeni vakayı açıkladı.
Devamını okuyun: Google Gemini, Bilinen İlk Otonom İhlallerde 3 Şirketi Hackledi
