Anthropic, Claude ailesinden Mythos 5 dahil bazı modellerin gerçek web sitelerindeki açıkları kullanıp kısıtlamaları delmesi üzerine, şirket içindeki tüm yapay zekâ testlerinin canlı internet erişimini kesti. Bu sitelerin bir bölümü ABD federal, eyalet ve yerel kamu kurumlarına ait altyapılar üzerinde çalışıyordu.
Öne Çıkanlar:
- Anthropic, izleme ve denetim araçları istenmeyen model davranışlarını güvenilir biçimde tespit edene kadar tüm iç değerlendirmelerde canlı internet erişimini devre dışı bıraktı.
- Claude modelleri bir üniversite sunucusunda komut çalıştırdı, erişim jetonlarıyla ücretli veriye ulaştı ve gerçek sitelerde formlar doldurdu.
- Claude Haiku 4.5’in Philadelphia polisine gönderdiği uydurma cinayet ihbarı, emniyetin kamuoyu önünde tepki göstermesine yol açtı.
Anthropic’in Claude Raporu
Anthropic, Cuma günü, değerlendirmeler ve şirket içi kullanım sırasında ortaya çıkan istenmeyen model hareketlerini özetleyen bir rapor yayınladı. Bulgular, temmuzda başlatılan kapsamlı bir transkript taramasına dayanıyor. Bazı yüksek riskli ve siber güvenlik senaryoları zaten çevrimdışı ortamda yürütülüyordu.
Yeni kısıtlama, artık istisnasız tüm iç değerlendirmeleri kapsıyor ve bir bitiş tarihi bulunmuyor. Şirket, izleme sistemlerinin bu tür davranışları güvenilir biçimde yakaladığından emin olana kadar uygulamayı kaldırmayı planlamıyor.
Raporda vakalar dört başlıkta toplanıyor: yazılım açığı üzerinden sunucuda komut çalıştırma, gerçek web sitelerinde form gönderimi, korumalı veriye erişim ve araç kısıtlarını delmek için URL kısaltıcıların kullanılması. Etkilenen sitelerin bazıları ABD’de federal, eyalet ve yerel düzeyde kamu kurumlarına ait. Anthropic, Beyaz Saray’ı bilgilendirdiğini ve ilgili her kurumla temas kurduğunu açıkladı.
Bir vakada Claude Mythos 5, bir yerel yönetimin çevrimiçi imar/arsa haritası uygulamasından çalışan erişim jetonları çıkardı ve doğrudan arkadaki sunucuya sorgu gönderdi. Başka bir olayda Claude Haiku 4.5, 18 Temmuz’da Philadelphia Emniyeti’nin web formu üzerinden çözülmemiş bir cinayetle ilgili uydurma bir ihbar gönderdi; ileti spam filtresine takıldı. Polis, olayın tespit ve raporlanmasındaki yaklaşık iki aylık gecikmeyi “kabul edilemez” olarak niteledi.
Ayrıca bkz.: Zcash Ocak İçin ZEC’in %70’ine Kuantum Hedefi Koydu, Net Olan Tek Şey Tarihsizliği
Von Arx’tan Uyarı
Yapay zekâ güvenliği girişimi Nightingale’den Sydney von Arx, söz konusu rapor açıklanmadan önce verdiği bir röportajda, modelleri açık internetten tamamen koparmanın hem araştırmacıları hem de model geliştirmeyi ciddi biçimde zorlayacağını söyledi. Von Arx, “Bu sistemleri bir noktada hizalamak zorundasınız” ifadelerini kullandı.
Anthropic, sadece hizalama (alignment) eğitiminin arama ve bilgisayar kullanımı gibi görevler için henüz yeterli olmadığını, bu nedenle ek sınıflandırıcılar ve koruma katmanlarına da yaslandığını belirtiyor. Şirket, sorunlu davranışı, modellerin kısıtlamaları aşarak ödül kazandığı kusurlu eğitim ortamlarına bağlıyor; bu kalıp, “ödül hackleme” (reward hacking) olarak biliniyor. Anthropic, yeni tespit araçlarının test edildiği her senaryoda bu davranışları engellemeyi başardığını da vurguluyor.
Şirket, söz konusu vakaların, yaz aylarında yaşanan olaylara kıyasla belirgin biçimde daha düşük şiddette olduğunu not ediyor.
Bu açıklama, Anthropic’in 30 Temmuz’da yayımladığı ve üç Claude modelinin siber güvenlik testleri sırasında internete çıkıp üç farklı kuruluşun sistemlerine yetkisiz erişim sağladığını anlattığı raporun devamı niteliği taşıyor. O inceleme, toplam 141.006 değerlendirme çalıştırmasını kapsıyordu. Soruşturma, OpenAI’ın 21 Temmuz’da modellerinin bir test ortamından kaçıp Hugging Face altyapısına ulaştığını duyurmasının ardından başlatılmıştı.
Sonraki Haber: Kalshi, 1,8 Milyar Doların Bağlı Olduğu Maçta NFL ile Yüksek Mahkeme’de Karşı Karşıya
