Anthropic, en güçlü yapay zeka modeli Claude Mythos için erişimi, şirketin gizli halka arz başvurusunu yapmasının üzerinden yalnızca bir gün geçmişken, yaklaşık 150 yeni kuruluşa açıyor.
Önemli Noktalar:
- Anthropic, Claude Mythos’a erişim programı olan Project Glasswing’e, 15’ten fazla ülkeden yaklaşık 150 yeni kuruluş ekledi.
- Genişleme, şirketin gizli şekilde ilk halka arz başvurusunda bulunmasından bir gün sonra geldi.
- Araştırmacılar, Anthropic modeli savunma aracı olarak pazarlasa da, bu modelin siber saldırıları kolaylaştırabileceği konusunda uyarıyor.
Glasswing Genişlemesi 15 Ülkeye Yayılıyor
Şirket, kamuya açılmadan önce modeli test edip yazılım açıklarını bulup yamalamak için tasarlanan kontrollü programı Project Glasswing’i genişlettiğini Salı günü duyurdu.
Yeni ortaklar 15’ten fazla ülkede bulunuyor. Her birinin programa kabul edilmeden önce güvenlik gereksinimlerini karşılaması gerekiyor.
İlk yaklaşık 50 kuruluş Nisan ayında programa katıldı; bunlar arasında Google, Microsoft, Palo Alto Networks ve JPMorganChase yer alıyordu. Bu erken dönem kullanıcılar o zamandan beri 10.000’in üzerinde yüksek veya kritik yazılım açığını tespit etti. Yeni dalga ile toplam sayı yaklaşık 200’e ulaştı.
Son kohort kritik boşlukları dolduruyor. İlk turda geride kalan enerji, su, sağlık, iletişim ve donanım gibi sektörleri kapsıyor.
Şirketin tahminine göre, bu firmalardan herhangi birinde yaşanacak tek bir ihlal, 100 milyondan fazla insanı olumsuz etkileyebilir.
Ayrıca Bkz.: Study Finds Four Major AI Labs Use Incompatible Prompt Injection Metrics
Claude Mythos Araştırmacıları Neden Endişelendiriyor?
Araştırmacılar ve kamu kurumları, bu kadar yetenekli modellerin karmaşık siber saldırıları kolaylaştırıp kolaylaştıramayacağını sorguluyor. Anthropic ise tam tersini savunuyor; saldırganlar bu araçlara erişmeden önce savunucuların daha keskin araçlara ihtiyacı olduğunu belirtiyor ve bu yaygınlaşmayı savunma için kalıcı bir avantaj olarak çerçeveliyor.
Bağımsız testler tartışmayı daha da alevlendirdi. Birleşik Krallık Yapay Zeka Güvenliği Enstitüsü, modelin kendi başına yürüttüğü 32 adımlı simüle bir ağ saldırısını belgeledi. Mozilla, Mythos’un Firefox tarayıcısında bulduğu 271 açığı sonrasında yine kendisinin yamadığını bildirirken, girişim Calif, Apple'ın M5 çiplerini hedef alan bir exploit zincirini tanımladı.
Şirket, rakip geliştiricilerin altı ila 12 ay içinde benzer modeller sunmasını, ancak bu modellerin daha zayıf güvenlik önlemlerine sahip olmasını bekliyor.
Bu farkın, uyardığı üzere, daha sık saldırıları beraberinde getirebileceği düşünülüyor. Bu arada Anthropic, üç hafta içinde 2.100’den fazla açığı yamayan, herkese açık model üzerinde çalışan Claude Security aracını kullanıma sundu.
Claude Mythos, kamuoyunun dikkatine ilk kez Mart ayında sunulmuştu. Taslak şirket belgeleri internete sızmış, bunun üzerine Anthropic daha sıkı güvenlik önlemleri olmadan tam modeli herkese açmayı reddetmişti. Tahmin piyasası Myriad üzerinde, Haziran sonuna kadar tam kamuya açılma olasılığı yaklaşık yüzde 26,5’e düşmüş durumda; bu oran bir hafta önce yüzde 58,5’ti.
Sıradaki Haber: Durov Renames Toncoin To Gram, Coin Pops 10% On Roots Return