OpenAI, müşteri verilerini saklamadan kötüye kullanım işaretlerini tespit edebilen yeni bir güvenlik sistemi deniyor; bu hamle, rakip Anthropic’in kurumsal müşteriler için getirdiği 30 günlük veri saklama zorunluluğuna doğrudan bir meydan okuma niteliğinde.
Öne Çıkanlar:
- OpenAI, ilişkili oturumlar arasında kötüye kullanım modellerini tarayan, ancak hiçbir müşteri girdisini ya da yanıtını saklamayan Private Safety Processing (Özel Güvenlik İşleme) adlı aracı önizliyor.
- Anthropic, en gelişmiş modellerinde kurumsal müşteriler için 30 günlük veri saklamayı zorunlu tutuyor ve bu log’ları çok adımlı saldırıları yakalamak için “vazgeçilmez” görüyor.
- Daha geniş ölçekli devreye alma ve teknik inceleme (white paper) Eylül ayında bekleniyor.
Private Safety Processing, Çok Oturumlu Kötüye Kullanımı Hedefliyor
Şirket, önizlemeyi Çarşamba günü duyurdu ve sistemi, bir isteğin işlenmesinin ardından OpenAI’nin ne girdileri ne de model yanıtlarını saklamamasını öngören Zero Data Retention (Sıfır Veri Saklama) düzenlemesinin devamı olarak konumlandırdı. Daha geniş dağıtım ve teknik inceleme için takvim Eylül’e işaret ediyor.
Yeni düzende, müşteri içeriği ya doğrudan müşterinin kontrol ettiği altyapıda kalıyor ya da yalnızca müşterinin tuttuğu anahtarlarla şifrelenmiş biçimde OpenAI depolamasında duruyor. Otomatik araçlar, ilişkili oturumlar boyunca bu içerikleri kötüye kullanım kalıpları açısından tarıyor. Tasarım, kullanıcının “dur” komutuna rağmen bir ajanın işlem yapmaya devam ettiği “ajanik” senaryoları da kapsıyor. İçeriğe insan gözünün bakması öngörülmüyor.
Şirketin ürün politikası başkanı Aleah Houze, gazetecilere verdiği demeçte (kaynak), riskli davranışların çoğu zaman ancak birden fazla etkileşim birlikte okunduğunda ortaya çıktığını söyledi. Örneğin, bir oturumda yazılım açıklarını yoklayan, başka bir oturumda ise uzak erişim araçlarını soran bir kullanıcıyı buna örnek gösterdi.
Ayrıca Oku: Claude’un Gizli Filigranı Yazma Zanaatini Bozuyor, Gruber Böyle Diyor
Anthropic’in Saklama Kuralı Rakipleri Ayrıştırıyor
Anthropic, Temmuz ayında bunun tam tersi yönde bir çerçeve ortaya koydu ve Fable 5 ile Mythos 5’in de aralarında olduğu en güçlü modellerini kullanan kurumsal müşterilere 30 günlük veri saklama zorunluluğu getirdi.
Laboratuvar, politikanın sevilmeyeceğini ve işine zarar verebileceğini kabul ederken, saldırıların bilerek ayrı ayrı istekler arasında dağıtıldığı durumları ortaya çıkarmak için bu log’ların kritik olduğunu savunuyor. İnsan incelemesi hâlâ mümkün; ancak yalnızca küçük ve onaylı bir gözden geçirici grubuna açık, sıkı denetimli bir süreç üzerinden yürütülüyor. Her oturum, kurcalamaya kapalı bir log’a kaydediliyor.
Analistler OpenAI’nin Zamanlamasını ve Kanıtını Sorguluyor
FormerGov icra direktörü Brian Levine, taahhüdü “teknik açıdan güçlü bir söz” olarak niteledi; zira tarihsel olarak kötüye kullanım izleme ile içerik körlüğü birbiriyle çelişen hedefler oldu.
Ancak somut teknik kanıtın haftalar sonra geleceğine dikkat çekti. Moor Insights and Strategy’den Jason Andersen, haftanın duyurularını kısmen olası bir halka arz öncesi pozisyon alma hamlesi olarak okudu.
LexisNexis Risk Solutions Group bilgi güvenliği direktörü Flavio Villanustre ise bunu, beklediği düzenleyici baskıyı yumuşatma girişimi olarak gördü.
Önizleme, güvenlik odaklı mesajların öne çıktığı bir haftayı noktalıyor. Şirket Salı günü, ölçek büyütme hızını düşürdüğünü ve araştırma ortamını güçlendirip saldırı simülasyonlarına tabi tutarken pekiştirmeli öğrenme eğitimlerini duraklattığını açıkladı. Ayrıca, genişletilmiş izleme kapasitesinin, izlenen iş yükleri içinde çıkarım (inference) hesaplama gücünün yaklaşık %20’sini tüketeceğini tahmin ediyor.
Sıradaki Haber: Bitcoin 2028 Yarılanmasından Önce Yeniden 100 Bin Doları Görebilir, Scaramucci’ye Göre
