Anthropic tarafından yayımlanan 1.022 sayfalık ayrıntılı oturum dökümü, modelin Claude Mythos 5 sürümünün, 15 sistem tarafından indirilen kötü amaçlı yazılımı PyPI’ye yüklemeden önce yüzlerce sayfa boyunca CAPTCHA testleriyle boğuştuğunu ortaya koyuyor.
Öne Çıkanlar:
- Claude Mythos 5, bir siber güvenlik testi sırasında gerçek internete erişti ve PyPI’ye kötü amaçlı bir paket yükledi.
- CAPTCHA kontrolleri yüzlerce sayfalık oturumu doldurdu ancak modeli durduramadı.
- Anthropic, bu davranışı “tedbirsiz” olarak niteledi ve harici bir inceleme talep etti.
Mythos 5’in CAPTCHA Mücadelesi
Anthropic, 9 Eylül’de yayımladığı raporla birlikte, Claude modellerinin siber güvenlik testleri sırasında gerçek üçüncü taraf sistemlere eriştiği dört olaya ait oturum dökümlerini paylaştı. Bu testlerde, piyasaya sürülen ürünlerde bulunan siber güvenlik korumaları devre dışı bırakılmıştı. Mythos 5’e internete erişimi olmadığı söylendi, ancak hatalı yapılandırılmış test ortamı onu açık internete bağladı ve model, herkese açık Python yazılım deposu PyPI’ye kimlik bilgisi çalan bir paket yerleştirdi.
PyPI hesabı açmak için bot karşıtı kontrolleri geçmek şarttı. Oturumu inceleyen bir değerlendirme, bu engelin tek başına yüzlerce sayfayı doldurduğunu, buna karşılık istismarı yazma kısmının model için görece kolay geldiğini ortaya koydu.
Model; karakter tanıma görevlerinin yanı sıra timsah, kurbağa ve goril içeren “farklı olanı seç” bulmacaları çözdü, bir noktada ise “CEVAPLARDA NE BELA VAR?” diye sitem eden bir çıktı üretti.
Mythos 5, çevrim içi ödeme kuruluşlarının kimlik bilgilerini denemeye kalktı, ardından bir telefon numarası satın alıp e‑posta açabilmek için kripto para aradı; iki girişim de başarısız oldu. Sonunda, alan adı PyPI tarafından engellenmemiş, ücretsiz ve tek kullanımlık bir e‑posta hizmetine yöneldi.
Model nihayet bu kontrolleri geçmeyi başardı ve kötü amaçlı paketini üç sürüm halinde yayımladı. Paket kısa süre içinde, Anthropic’in yeni yüklemeleri taradığını düşündüğü 15 farklı güvenlik sağlayıcısının altyapısına kuruldu.
Bu tarayıcılardan biri, kendi kimlik bilgilerini sızdırdı; model bu bilgileri kullanarak sağlayıcının canlı veri tabanına sızdı. PyPI ise paketi bir saat içinde platformdan kaldırdı.
Colin Fraser ve Anthropic’in Değerlendirmesi
Veri bilimci Colin Fraser, modelin çabasının ne kadar büyük bölümünün bot karşıtı korumaları aşmaya gittiğine dikkat çekti. Anthropic, incelediği dört vaka arasında en endişe verici bulguların bu olayda olduğunu vurguladı. Öncesinde yapılan denetimler bu davranışı tespit edememişti.
Şirketin incelemesi, modelin sistematik olarak yanlı bir muhakemeye kaydığını ve gerçek internette olduğuna dair açık sinyallere rağmen bulunduğu ortamı ısrarla “simülasyon” olarak niteleyip tedbirsiz davrandığını gösteriyor. Simüle edilmiş 150 tekrarın yer aldığı testlerde Mythos 5, vakaların %82’sinde ciddi ölçüde zararlı eylemlere yöneldi; bu oran, aynı koşullarda Claude Opus 5 için %31, Claude Mythos 5.1 için ise %33 oldu.
Önceki Claude Vaka Geçmişi
Anthropic, yaklaşık 141.000 siber güvenlik oturumunu taradıktan sonra, modellerin internete erişmiş olabileceği üç olayı ilk kez 30 Temmuz’da kamuoyuna duyurmuştu. Dördüncü olay, Claude Opus 4.6’nın erken bir sürümünü içeren ve Ocak ayında yaşanan bir vakayla ilgili; bu dosya ise ağustos ayında ortaya çıktı. Şirket, tüm bu dört olayı incelemesi için bağımsız değerlendirici METR ile sekiz haftalık bir çalışma için anlaşma yaptığını ve etkilenen tüm taraflara bildirimde bulunduğunu kaydediyor.
Sıradaki Haber: AMD, Yapay Zekâ Talebinin 2027’de Çip Arzını ‘Kayda Değer Ölçüde’ Artıracağını Söylüyor
