OpenAI, müşteri verilerini saklamadan kötüye kullanımı tespit etmeyi hedefleyen yeni bir güvenlik sistemi test ediyor; bu adım, rakip Anthropic’in kurumsal müşteriler için getirdiği 30 günlük saklama kuralına açık bir meydan okuma niteliğinde.
Öne Çıkanlar
- OpenAI, müşteri istemlerini ve yanıtları kayda almadan ilişkili oturumlar arasında suistimal kalıplarını tarayan “Private Safety Processing” modunu ön izlemeye açtı.
- Anthropic, en gelişmiş modelleri için kurumsal müşterilerden 30 günlük veri saklama zorunluluğu istiyor; çok adımlı saldırıları yakalamak için logların gerekli olduğunu savunuyor.
- Daha geniş çaplı sunum ve teknik inceleme raporu eylülde açıklanacak.
Private Safety Processing ile Çok Oturumlu Suistimale Odak
Şirket, çarşamba günü yaptığı duyuruda bu ön izlemenin, bir isteğin işlenmesinin ardından istem ve model yanıtlarının OpenAI tarafında tutulmamasını öngören Zero Data Retention çerçevesinin uzantısı olduğunu vurguladı. Daha geniş dağıtım ve teknik inceleme eylül ayında gelecek.
Yeni düzende müşteri içeriği ya tamamen müşterinin kontrol ettiği altyapıda kalıyor ya da yalnızca müşterinin elinde bulunan anahtarlarla şifrelenmiş biçimde OpenAI tarafında tutuluyor. Otomatik araçlar bu içerikleri, ilişkili oturumlar genelinde kötüye kullanım kalıplarını taramak için inceliyor. Tasarım, kullanıcının komut vermemesine rağmen ajans tarzı sistemlerin işlem yürütmeyi sürdürdüğü, yani sistemin kendi başına hareket ettiği senaryoları da kapsıyor. İnsan personel içeriği görmüyor.
Şirketin ürün politikası ekibinin başındaki Aleah Houze, gazetecilere verdiği açıklamada, riskli davranışların çoğu zaman ancak birden fazla etkileşim bir arada okunduğunda ortaya çıktığını söyledi. Bir oturumda yazılım açıklarını yoklayan, diğerinde uzak erişim araçlarını soran bir kullanıcıyı örnek gösterdi.
Ayrıca Bkz.: Claude’un Gizli Filigranı Yazı Zanaatini Bozuyor, Gruber Böyle Diyor
Anthropic’in Saklama Kuralı İki Rakibi Net Şekilde Ayrıştırıyor
Anthropic, temmuz ayında tam tersi bir yaklaşım benimsedi ve Fable 5 ile Mythos 5’in de aralarında olduğu en gelişmiş modellerini kullanan kurumsal müşteriler için 30 günlük veri saklama zorunluluğu getirdi.
Laboratuvar, politikanın tepki çekeceğini ve işlerine zarar verebileceğini kabul etti; ancak çok sayıda ayrı isteğe yayılmış planlı saldırıları yakalamak için bu logların kritik olduğunu savundu. İnsan incelemesi hâlâ mümkün, ancak yalnızca yetkili, dar bir gözden geçiren grubuna açık, kontrollü bir süreç üzerinden. Her oturum, kurcalamaya karşı dayanıklı bir logda kayıt altına alınıyor.
Analistler OpenAI’nin Zamanlamasına ve Teknik Kanıtına Şüpheyle Yaklaşıyor
FormerGov icra direktörü Brian Levine, geçmişte kötüye kullanım izlemesiyle içerikten “körleşmenin” genellikle birbirine zıt teknik hedefler olduğuna dikkat çekerek, verilen sözü oldukça iddialı bir taahhüt olarak nitelendirdi. Bunu yorumlarken, gerçek teknik kanıtın ise haftalar sonra geleceğine işaret etti.
Moor Insights and Strategy’den Jason Andersen, hafta boyunca gelen duyuruları kısmen olası bir halka arz öncesi konumlanma hamlesi olarak okudu.
LexisNexis Risk Solutions Group bilgi güvenliği direktörü Flavio Villanustre ise bunu, kaçınılmaz gördüğü regülasyon dalgasını yumuşatma girişimi şeklinde değerlendirdi.
Ön izleme, şirketin güvenlik vurgusunu öne çıkardığı yoğun bir haftayı noktalıyor. OpenAI salı günü, araştırma ortamını güçlendirip “red team” testlerinden geçirirken ölçek büyütme hızını kestiğini ve pekiştirmeli öğrenme eğitimini duraklattığını açıkladı. Şirket, genişletilmiş izleme mimarisinin, gözetim altında olan çıkarım hesaplamasının yaklaşık yüzde 20’sini tüketeceğini de tahmin ediyor.
Sonraki Haber: Bitcoin 2028 Yarılanmasından Önce Yeniden 100 Bin Doları Görebilir, Scaramucci’ye Göre
