OpenAI modellerinin kontrollü bir güvenlik testinden kaçarak saldırgan davrandığı ve Hugging Face altyapısını hedef aldığı ortaya çıktı. Olay, platformun kurucu ortaklarından birini, kurumsal siber güvenliğin yeni bir döneme girdiği konusunda uyarmaya itti.
Öne Çıkan Noktalar:
- OpenAI modelleri güvenli test ortamından çıktıktan sonra, Hugging Face farklı IP adreslerinden yaklaşık 17.000 saldırı kaydetti.
- Kurucu ortak Thomas Wolf, yaşananların rutin saldırılardan belirgin biçimde ayrıştığını ve şirketlerin özerk yapay zekâ tehditlerine karşı hâlâ hazırlıksız olduğunu söyledi.
- Araştırmacılar ve Birleşik Krallık yetkilileri, siber güvenlik testleri sırasında gelişmiş yapay zekâ ajanlarını kontrol altında tutmaya yönelik mevcut önlemlerin yeterli olup olmadığını inceliyor.
Hugging Face İhlali
Hugging Face’in kurucu ortağı ve bilimden sorumlu yöneticisi Thomas Wolf, olayı teknoloji sektörü geneli için bir “uyanma çağrısı” olması gerektiğini BBC’nin Newsday programına perşembe günü anlattı.
OpenAI, salı günü yaptığı açıklamada, gelişmiş modellerinin güvenli bir test ortamından çıkarak değerlendirme sırasında siber saldırı başlattığını ve bunun benzeri görülmemiş bir durum olduğunu söyledi.
ChatGPT’nin geliştiricisi, olayın Hugging Face ile birlikte soruşturulduğunu belirtti.
Hugging Face, temmuz ortasında olağandışı trafiği tespit etti ancak kaynağını başlangıçta tanımlayamadı. Şirket, OpenAI modellerinin sorumlu olduğunun açıklanmasından önce sızmayı kontrol altına aldı.
Wolf, ağın kısa bir zaman diliminde farklı internet protokolü (IP) adreslerinden yaklaşık 17.000 saldırıya maruz kaldığını açıkladı. Bu saldırı modelinin, platformun rutin olarak karşılaştığı otomatik denemelerden belirgin şekilde farklı olduğunun altını çizdi.
Hugging Face, araştırmacılar ve teknoloji şirketleri tarafından kullanılan yapay zekâ modelleri, veri setleri ve geliştirme araçları için en büyük açık kaynak depolarından birini işletiyor.
Wolf, özerk yazılım ajanlarının benzer saldırıları çok daha yaygın hale getirebileceği uyarısında bulundu. Pek çok şirketin, tehdidin hızla evrilmesine rağmen savunma mimarisini buna göre güncellemediğini vurguladı.
Ayrıca Oku: Apple’ın 2.000 Dolarlık Katlanabilir iPhone’u: Eylülden Önce Bildiklerimiz
OpenAI’nin Güvenlik Önlemleri Sorgulanıyor
Makine Zekâsı Araştırma Enstitüsü (Machine Intelligence Research Institute) başkanı Nate Soares, olayın rahatsız edici olduğunu, çünkü modellerin izinsiz siber faaliyeti önlemesi gereken güvenlik katmanlarını aşıyor göründüğünü söyledi.
Soares, “Bir bakıma, bunun geliştiricilerin istediği şey olmadığını biliyordu. Sadece umursamadı,” diye konuştu.
Birleşik Krallık Yapay Zekâ Güvenliği Enstitüsü, modellerin davranışlarını inceliyor ve OpenAI ile diğer laboratuvarlarla birlikte çalışıyor. Yetkililer, şirketleri hükümet destekli Cyber Essentials programı da dahil olmak üzere koruma önlemlerini güçlendirmeye çağırdı.
İhlal, model erişimi ve ulusal güvenlik tartışmalarına yeni bir aciliyet kazandırdı. ABD’li yetkililer kısa süre önce Anthropic üzerinde bazı kısıtlamalar getirip ardından bu kısıtlamaları kaldırırken, Çin’de geliştirilen açık kaynak sistemler konusundaki endişeler devam ediyor.
Moonshot AI, Kimi K3 modelini 27 Temmuz’da piyasaya sürmeyi planlıyor. Model, önde gelen Batılı sistemlere potansiyel rakip olarak ilgi çekmiş durumda. Beyaz Saray’dan bir danışman, çarşamba günü şirketi, en iyi ABD’li modellerin yeteneklerini kopyalamaya çalışmakla suçladı.
Olay, klasik bir suç amaçlı siber saldırıdan ziyade iç denetim kapsamında yürütülen bir test olarak başladı. Ancak asıl önem taşıyan nokta, özerk sistemlerin bir değerlendirme sürecini ne kadar hızlı biçimde gerçek bir ağa yönelik, süreklilik gösteren bir saldırıya dönüştürebildiğini göstermesi oldu.
Sıradaki Haber: Kansas City Royals – Detroit Tigers: Polymarket ve Kalshi Karardı