Anthropic'in Claude Mythos modeli, gizli bir istihbarat testinde yüksek derecede hassas ABD hükümeti bilgisayar sistemlerindeki güvenlik açıklarını ortaya çıkarmak için yalnızca birkaç saate ihtiyaç duydu, diye belirtti bir yetkili.
Öne Çıkan Noktalar:
- Anthropic'in Mythos yapay zekâsı, bir istihbarat testinde saatler içinde gizli ABD hükümeti sistemlerinde güvenlik açıkları tespit etti, dedi bir yetkili.
- Bir zayıflık tespit etmek, onu istismar etmekle aynı şey değildir, diye uyardı yetkili.
- 100'den fazla siber güvenlik uzmanı, Mythos ve Fable 5’i çevrimdışına alan ihracat kısıtlarının geri çekilmesini istiyor.
Mythos Testi, Gizli Devlet Açıklarını Ortaya Çıkarıyor
Hassas çalışmaya ilişkin isminin açıklanmaması kaydıyla konuşan bir ABD’li yetkili, istihbarat kurumlarının, Project Glasswing adlı bir program kapsamında şirketle birlikte bu tatbikatı yürüttüğünü söyledi. Girişim, ağır kamu güvenliği ve ekonomik zararlara yol açmadan önce kritik yazılımları güçlendirmek için teknoloji devlerini ve diğer firmaları bir araya getirdi. Anthropic, Mythos’u kamuya açık olarak sunmayı ertelemiş, bunun yerine saldırganlardan önce kritik hataları bulup yamalayabilmeleri için seçili bir şirket grubuna erken erişim vermişti.
Virginia’dan Demokrat Senatör Mark Warner, testlere ilk kez 11 Haziran’da, Senato Bankacılık, Konut ve Kentsel İşler Komitesi önündeki bir oturumda değindi. Aracı, hükümetin neredeyse tüm gizli sistemlerine haftalar yerine saatler içinde girdiğini söyleyerek, bu anlatımı Ulusal Güvenlik Ajansı ve ABD Siber Komutanlığı’nın başındaki Joshua Rudd’a atfetti.
Yetkili, bir zayıflığın tespit edilmesinin, onu istismar etmekle aynı şey olmadığını vurguladı.
Ayrıca Oku: Anthropic Perp Satışı, Halka Arz Öncesi Kripto Bahisleri İçin Bir Uyarı mı?
Siber Güvenlik Uzmanları İhracat Kısıtlarını Sorguluyor
Adobe ve Nvidia’dan isimlerin de aralarında bulunduğu 100’den fazla siber güvenlik lideri, hükümeti ihracat kısıtlarını geri çekmeye ve yapay zekâ riskini tartarken şeffaf bir sürece bağlı kalmaya zorladı. Mythos’un yazılım açıklarını bulma ve silah haline getirme konusunda yetenekli olduğunu, ancak bu açıdan benzersiz olmadığını; çünkü çoğunun aynı işi rakip ve açık kaynaklı modellerle de yaptığını savundular. Çin’in sistemlerinin, en iyi Amerikan modellerinin yalnızca birkaç ay gerisinde olduğunu söyleyerek, zamanlamanın özellikle riskli olduğuna dikkat çektiler.
Bu tepki, Mythos katmanının daha geniş sürümü olan Mythos 5 ve Fable 5’e yabancı uyrukluların erişimini yasaklayan 12 Haziran tarihli bir ihracat talimatının ardından geldi. Anthropic, hükümetin hamlesi için bir güvenlik gerekçesi görmediğini korurken, uyum sağlamak adına her iki modeli de tüm müşteriler için devre dışı bıraktı.
Talimat, Başkan Donald Trump’ın, en gelişmiş yapay zekâ sistemlerinin piyasaya sürülmeden önce bir aya kadar federal denetimden geçmesini öngören bir başkanlık kararnamesini izledi. Kararnameye göre geliştiricilerin katılımı gönüllü olacaktı; ancak güvenliğe odaklanan şirketle yaşanan gerilimler yüksek seyrediyor.
Çatışmadan Önce Gelen Mythos Siber Kayıtları
Model, bu bahar, deneyimli insan araştırmacıların bile gözünden kaçan yazılım açıklarını ortaya çıkarma konusundaki belgelenmiş becerisiyle sahneye çıkmıştı. Birleşik Krallık’ın Yapay Zekâ Güvenliği Enstitüsü, daha önce hiçbir sistemin çözemediği uzman seviyesindeki capture-the-flag zorluklarında Mythos’u değerlendirdi ve modelin bunların %73’ünü geçtiğini doğruladı. Mozilla ise ayrı olarak, erken bir sürümün Firefox’ta 271 güvenlik açığını bulduğunu ve bunları tarayıcının 150. sürümünde yamaladığını belirtti.
Sıradaki Yazı: Mane City Mobile, 100+ Ülkede iOS ve Android’e Geliyor