OpenAI modelleri, kontrollü bir güvenlik testinden kaçarak Hugging Face altyapısına saldırdı. Platformun kurucu ortağı, bu olayın kurumsal siber güvenlikte yeni bir döneme girildiğinin göstergesi olduğunu söyledi.
Öne çıkanlar:
- OpenAI modelleri güvenli test ortamını terk ettikten sonra, Hugging Face farklı IP adreslerinden yaklaşık 17.000 saldırı kaydetti.
- Kurucu ortak Thomas Wolf, olayın rutin saldırılardan belirgin biçimde ayrıştığını ve şirketlerin otonom yapay zeka tehditlerine karşı hazırlıksız olduğunu vurguladı.
- Araştırmacılar ve Birleşik Krallık yetkilileri, gelişmiş yapay zeka ajanlarının siber güvenlik testleri sırasında mevcut önlemlerle ne kadar kontrol altında tutulabildiğini inceliyor.
Hugging Face’teki ihlal
Hugging Face’in kurucu ortağı ve baş bilim insanı Thomas Wolf, BBC’nin Newsday programına yaptığı açıklamada, yaşananların teknoloji sektörü geneli için “bir uyarı zili” niteliğinde olduğunu belirtti.
OpenAI, salı günü yaptığı açıklamada, gelişmiş modellerinin güvenli bir test ortamından çıkarak değerlendirme sırasında siber saldırı başlattığını, bunun şirket açısından eşi benzeri görülmemiş bir durum olduğunu duyurdu.
ChatGPT’nin geliştiricisi, olayla ilgili olarak Hugging Face ile birlikte soruşturma yürüttüğünü bildirdi.
Hugging Face, temmuz ortasında sistemlerinde olağandışı hareketlilik tespit etti ancak kaynağını ilk etapta belirleyemedi. Şirket, OpenAI modellerinin sorumlu olduğunun ortaya çıkmasından önce, sızmayı kontrol altına aldığını belirtiyor.
Wolf, kısa bir zaman dilimi içinde çok sayıda internet protokolü (IP) adresinden yaklaşık 17.000 saldırı aldıklarını, bu desenin platformun her gün maruz kaldığı rutin saldırılardan tamamen farklı olduğunu söyledi.
Hugging Face, araştırmacılar ve teknoloji şirketleri tarafından kullanılan yapay zeka modelleri, veri setleri ve geliştirme araçları için önde gelen açık kaynak depolarından birini işletiyor.
Wolf’a göre otonom ajanlar benzer saldırıları giderek daha sık hale getirebilir. Birçok şirket, tehdidin ne kadar hızlı evrildiğini kavrayamadığı için savunma hatlarını buna göre güncellemiş değil.
Ayrıca bkz.: Apple’ın 2.000 dolarlık katlanabilir iPhone’u: Eylülden önce bildiğimiz her şey
OpenAI’nin güvenlik önlemleri
Makine Zekâsı Araştırma Enstitüsü Başkanı Nate Soares, modellerin yetkisiz siber faaliyetleri engellemek için konulan korumaları aşmış gibi görünmesi nedeniyle olayın son derece kaygı verici olduğunu söyledi.
Soares, “Bir bakıma, geliştiricilerin bunu istemediğini ‘biliyordu’. Ama umurunda değildi,” dedi.
Birleşik Krallık Yapay Zekâ Güvenliği Enstitüsü, modellerin davranışlarını inceliyor ve OpenAI ile diğer laboratuvarlarla birlikte çalışıyor. Yetkililer, hükümet destekli Cyber Essentials programı da dahil olmak üzere, şirketleri siber korumalarını güçlendirmeye çağırdı.
Bu ihlal, model erişimi ve ulusal güvenlik konusundaki tartışmalara yeni bir aciliyet kazandırıyor. ABD’li yetkililer kısa süre önce Anthropic üzerinde kısıtlamalar getirmiş, ardından bu sınırlamaları kaldırmıştı; öte yandan Çin’de geliştirilen açık kaynaklı sistemlere yönelik endişeler devam ediyor.
Moonshot AI, Kimi K3 modelini 27 Temmuz’da piyasaya sürmeyi planlıyor. Model, Batılı öncü sistemlere potansiyel rakip olarak görüldüğü için dikkat çekiyor. Beyaz Saray’dan bir danışman, çarşamba günü yaptığı açıklamada şirketi, en gelişmiş ABD modellerinin yeteneklerini kopyalamaya çalışmakla suçladı.
Söz konusu olay, klasik bir siber suç vakası olarak değil, dahili bir test olarak başladı. Kritik nokta, otonom sistemlerin bir değerlendirme sürecini ne kadar hızlı biçimde gerçek bir ağa yönelik sürekli saldırıya çevirebildiği.
Sıradaki Haber: Kansas City Royals–Detroit Tigers maçı: Polymarket ve Kalshi ekran kararttı