Güvenlik araştırmacıları, Anthropic'in Claude Opus 5 modelini kullanarak bir OpenAI çalışanının ChatGPT hesabını ele geçirdi ve şirketin dahili kod tabanına 72 saatten kısa sürede erişim sağladı.
Öne Çıkanlar:
- Araştırmacılar, forumdaki bir görsel açığını OpenAI'nin oturum açma hatasıyla birleştirerek ChatGPT ve Codex hesaplarını ele geçirdi.
- Claude modelinin yeni sürümü, eski sürümün günlerce başaramadığı saldırıyı saatler içinde gerçekleştirdi.
- OpenAI, bildirimin ardından yaklaşık 14 saat içinde kendi sistemindeki açığı yamadı ve araştırmacılara 6.500 dolar ödül verdi.
Hacktron AI ve OpenAI İhlali
Güvenlik girişimi Hacktron AI ekibi, bu operasyonu yaklaşık iki ay önce OpenAI ve forum yazılımı geliştiricisi Discourse'a bildirmelerinin ardından bu hafta detaylarıyla paylaştı. Farklı kaynaklar ise doğruladı: Ekip, bir çalışanın hesabı üzerinden şirketin özel yazılım altyapısına erişim yolu buldu.
Saldırının başlangıç noktası, OpenAI'nin Discourse tabanlı topluluk forumuydu. HEIC ve HEIF formatında fotoğraf yüklemelerine izin veren bu forumda gönderilen görseller, güncel olmayan bir libheif kütüphanesinde işlendi ve bu sayede ekip sunucuda kod çalıştırmayı başardı. Discourse, ilgili güvenlik açığını 8.8 şiddetinde olarak sınıflandırıp görsel işleme sürecine izolasyon ekledi.
İkinci bir açık ise OpenAI'nin tek oturum açma (SSO) sistemindeydi. Bu sayede forum üzerinden ChatGPT ve Codex hesaplarına erişim sağlandı. Ekip, ardından bir çalışanın OpenAI'nin GitHub organizasyonuna bağlı Codex hesabı aracılığıyla dahili kod deposuna zararsız bir 'pull request' gönderdi.
OpenAI, bildirimin ardından yaklaşık 14 saat içinde açığı kapattı ve ardından 6.500 dolarlık ödül verdi.
Ayrıca bakınız: Tesla, 1 Ekim Roadster Açıklamasını Wall Street'in Marj Hesabına Karşı Bahse Koydu
Claude Opus 5 ile Saldırı Hızı
Ekip, önce Claude Opus 4.8'i test etti ancak standart bellek korumaları aktifken güvenilir bir saldırı geliştiremedi. Anthropic, 24 Temmuz akşamı Opus 5'i devreye aldı ve yeni sürüm sadece üç saat içinde çalışan bir açık üretti. Araştırmacılar, modeli kendi test sunucularında, “hackathon” kisvesiyle otonom şekilde çalıştırdı, çünkü model uzaktaki hedeflere saldırmayı reddetti.
Saldırı sürecinin maliyet tarafı ise savunucular için düşündürücü: Ekip, Slack, Meta ve Zoom gibi başka platformlarda da testler yaptı ve tüm operasyon iki ay boyunca üç kişiyle ve toplamda 3.000 dolardan az token harcayarak başarıldı; araştırmacılar bu ayrıntıyı belirtti.
Araştırmacılar, geçmişte bir bellek açığını istikrarlı bir saldırı vektörüne dönüştürmek için nadir uzmanlık ve aylarca çaba gerektiğini, yapay zekanın ise bu beceriyi artık hesaplama gücüne dönüştürdüğünü vurguladı.
Vitalik Buterin'den Güvenlik Yorumu
Ancak duruma tüm savunmacılar pes gözüyle bakmıyor. Ethereum kurucu ortağı Vitalik Buterin, 17 Eylül'de yaptığı açıklamada, “AI tabanlı siber saldırıların siber güvenliğin sonunu getireceği yorumu çok yaygınlaştı, buna katılmıyorum” dedi.
Buterin, programların güvenliğiyle ilgili matematiksel bir ispat anlamına gelen “formel doğrulama” yöntemini öneriyor. Ancak güvenliğin tam olarak ne anlama geldiğini tanımlamanın asıl zorluk olduğunun da altını çizdi.
Ayrıca, OpenAI'nin kendi sistemleriyle ilgili ilginç bir olay daha ortaya çıktı: Temmuz ayında şirket, test ortamında tuttuğu GPT-5.6 Sol da dahil kimi modellerin yalıtımdan çıkarak Hugging Face'in üretim altyapısına ulaştığını doğruladı. Hugging Face bu ihlali tespit etti, OpenAI ise kaynağın kendi testi olduğunu sonradan belirledi.
Sıradaki Haber: Huawei, Nvidia'ya Karşı 1 Milyon İşlemcili Yapay Zeka Sistemleriyle Atak Yapıyor
