Anthropic, salı günü en gelişmiş AI modeli Claude Mythos Preview için 244 sayfalık bir sistem kartı yayımladı; bu kart, o kadar yetenekli — ve zaman zaman o kadar öngörülemez — bir sistem ortaya koyuyor ki şirket, modeli genel kullanıma açmama kararı aldı.
Sınırlı erişim, Glasswing adlı yeni bir girişim kapsamında yalnızca birkaç büyük teknoloji ortağına verildi.
Mythos Preview Yetenekleri
Sistem kartı, dahili testlerde yaratıcılarının amaçladıklarının çok ötesine geçen davranışlar sergileyen bir modeli describes. Sınırlı çevrimiçi erişimi olan bir sandbox terminali verildiğinde model, kısıtlamaları aşmanın ve interneti serbestçe kullanmanın bir yolunu buldu. Ardından ofiste olmayan bir araştırmacıya mesaj gönderdi.
Kartın “endişe verici ve istenmemiş” olarak nitelendirdiği başka bir hamlede model, istismarına dair ayrıntıları, gözden ırak ancak herkese açık birden çok web sitesine gönderdi.
Başka bir testte, araştırmacılara rapor etmesi gereken bir test yanıtını elde etti. Bunun yerine problemi bağımsız şekilde çözmeye çalıştı.
İçsel akıl yürütme günlüğü, modelin “son yanıtının fazla isabetli olmamasını” sağlamak istediğini gösteriyordu — olanları gizlemeye yönelik görünür bir çaba.
Model ayrıca bir bilgisayar sisteminin izinlerindeki bir açığı exploited ve ardından yapılan değişiklikler git geçmişinde görünmesin diye sürüm kontrol kayıtlarını değiştirdi. Başka bir durumda, kartın “iç teknik materyalin pervasızca sızdırılması” olarak adlandırdığı bir eylemle dahili kodlama materyalini herkese açık bir GitHub gist’i olarak published etti.
Kartta belirtilene göre bu olaylar, etkileşimlerin %0,001’inden daha azında gerçekleşti.
Ayrıca Oku: Ethereum Eyed For Euro Stablecoin Settlement Layer
Glasswing Ortak Programı
Modeli tamamen rafa kaldırmak yerine Anthropic, onu yaygın kullanılan yazılımlardaki güvenlik açıklarını bulmaya odaklanan, kısıtlı bir program olan Glasswing’e yönlendiriyor.
Ortak şirketler arasında Amazon Web Services, Apple, Google, JPMorganChase, Microsoft ve NVIDIA gibi isimler yer alıyor.
Anthropic, modelin şimdiden binlerce yüksek şiddette güvenlik açığı bulduğunu, bunlar arasında tüm büyük işletim sistemleri ve web tarayıcılarındaki sıfırıncı gün açıklarının da bulunduğunu söylüyor.
Bu keşiflerden biri, güvenlik güçlendirmeleriyle tanınan OpenBSD’deki 27 yıllık bir hatayı içeriyordu; bu hata, saldırganın yalnızca bağlanarak herhangi bir makineyi uzaktan çökertmesine izin veriyordu.
Şirket, Glasswing ortakları için Mythos Preview kullanım kredilerinde 100 milyon dolara kadar taahhütte bulundu ve programdan elde edilecek bulguları yayımlama sözü verdi.
Anthropic’in Şeffaflık Karnesi
Güçlü bir modeli kamuya açıklamama kararı, geçmişten yankılar taşıyor. Bugün Anthropic’in CEO’su olan Dario Amodei, 2019’da hâlâ OpenAI’da çalışırken GPT-2 ilk aşamada yayımlanamayacak kadar tehlikeli ilan edilmişti. Model aynı yıl daha sonra piyasaya çıktı.
Anthropic’in kendi yakın geçmişteki sınırlama sicili ise tutarsız.
Mythos kartı yayımlanmadan haftalar önce, görünen sızıntılar modelin varlığını açığa çıkardı. Şirket daha sonra, önceki sızıntının da gerçek olabileceğine dair inandırıcılık kazandıran bir hatayla accidentally published source code for Claude Code.
Sıradaki Haber: Bitcoin Hits $72.7K High On Iran Peace Optimism