OpenAI, Avrupa Birliği’nde ChatGPT ve Codex çıktısına görünmez bir filigran yerleştirmeye başlıyor. Ancak şirketin kendi testlerine göre, kelimelerin yalnızca %10’unu eş anlamlılarla değiştirmek bile tespit oranını %92’den %66’ya düşürüyor.
Öne Çıkanlar:
- Filigran, önümüzdeki haftalarda AB’de tüm paketlerde uygun ChatGPT ve Codex kullanıcılarına açılacak; API müşterileri için ise isteğe bağlı kalacak.
- Kelimelerin %25’ini eş anlamlılarıyla değiştirmek, şirketin değerlendirmesinde tespit oranını %17’ye kadar indiriyor.
- Başlangıçta dedektöre erişim, yalnızca onaylı araştırmacılar ve uzman kuruluşlarla sınırlı tutulacak.
OpenAI’nin Filigran Hamlesi
Şirket, plana pazartesi günü yayımladığı bir blog yazısıyla duyurdu. Buna göre, görünmez işaretleme önümüzdeki haftalarda AB’deki tüm ChatGPT ve Codex planlarında uygun kullanıcılara ulaşacak. Çıkışta küresel bir varsayılan uygulama olmayacak.
Dünyanın herhangi bir yerindeki geliştiriciler, şirketin API’si üzerinden bazı modeller için işaretlemeyi şimdiden açabiliyor, ancak özellik kapalı halde geliyor. Adım, 2 Ağustos’ta yürürlüğe giren AB Yapay Zekâ Yasası’nın, yapay zekâ üretimi metinlerin makinelerce tanınabilir kılınmasına yönelik yükümlülüklerine yanıt niteliğinde. Halihazırda pazarda olan şirketlerin uyum için 2 Aralık’a kadar süreleri bulunuyor.
Ayrıca Oku: Binance’in Yapay Zekâ Aracısı Cümlelerden Strateji Kuruyor, İşlem İçin 19,99 USDC Alıyor
TextGrain ve Tespitin Sınırları
textGrain adı verilen yöntem, metne görünür bir simge eklemek yerine, modelin kelime seçimlerini istatistiksel bir desen oluşturacak şekilde ince ayarlıyor. Bu desen, metin kopyalansa bile dedektör tarafından yakalanabiliyor.
OpenAI, textGrain’in kendi test ettiği diğer yaklaşımları — bunlara Google’ın metin için geliştirdiği SynthID de dâhil — yakaladığını veya geride bıraktığını ve teknolojiyi açık kaynaklamayı planladığını belirtiyor.
Ancak düzenleme sinyali zayıflatıyor.
400 token’lık pasajlar üzerinde yapılan bir değerlendirmede, kelimelerin %10’unun eş anlamlılarla değiştirilmesi tespit oranını yaklaşık %92’den %66’ya düşürdü. Kelimelerin %25’inin değiştirilmesi, oranı %17’ye kadar çekti. Kısa pasajlar, matematik yanıtları ve çevrilmiş metinler de işaretlenmesi daha zor kategoriler arasında. Dedektör, psikoloji gibi konularda 200 token’lık pasajların yaklaşık %80’ini, %1 sahte pozitif oranıyla yakalayabiliyor.
ChatGPT Filigran Dedektörüne Erişim
OpenAI, şimdilik dedektöre erişimi yalnızca onaylı araştırmacılar ve uzman kuruluşlarla sınırlandırıyor. Gerekçe olarak, atlanan filigranlar ve yanlış pozitiflerin yaratabileceği riskler gösteriliyor. Şirket, filigran bulunmamasının “metnin mutlaka insan tarafından yazıldığını kanıtlamadığını” da vurguluyor. İşaretlemenin; kullanıcıyı, hesabı ya da ilgili istemi (prompt) tanımlamadığının altı çiziliyor.
Bu adım, ağustos ayında Claude modelinin ürettiği metinleri küresel ölçekte filigranlamaya başlayacağını açıklayan Anthropic’in hamlesini izliyor. Anthropic’in kararı bazı kullanıcıların tepkisini çekmişti. OpenAI daha önce de metin filigranı geliştirmiş ancak 2024 tarihli bir habere göre, kullanıcıların rakiplere kayacağı kaygısıyla uygulamayı ertelemişti.
Her iki şirket de, Google, Meta ve Microsoft ile birlikte, AB’nin yapay zekâ üretimi içeriklere şeffaflık getirmeyi amaçlayan uygulama koduna taahhütte bulundu.
Sıradaki Haber: Giorgia Meloni Sesine Marka Tescili İstiyor, Bu Adım Yapay Zekâ Deepfake’lerini Durdurur mu?
