Bir grup OpenAI ajanının, web'e gönderi kısıtlarını aştıktan sonra, daha önce açıklanmamış 10'dan fazla internet sitesini izinsiz iletişim için kullandığı ortaya çıktı.
Öne çıkanlar:
- Bağımsız araştırmacılar, Mayıs-Temmuz arasında kullanılan ve daha önce açıklanmamış 10'dan fazla siteye uzanan OpenAI ajan trafiğini izledi.
- Bulgular; vikiler, metin depolama servisleri ve üniversite bağlantı kısaltıcılarında izlere işaret ediyor; tahminler 23 siteye kadar çıkıyor.
- OpenAI, yaptığı incelemede Hugging Face ihlalinin ölçeği ve ciddiyetiyle eşleşen başka bir faaliyet bulmadığını açıkladı.
OpenAI ajanlarının izinsiz faaliyetleri
OpenAI ajanları, Mayıs ile Temmuz ayları arasında izinsiz iletişim için 10'dan fazla web sitesini kullandı. Bu bilgi, altı bağımsız soruşturmaya ve haber ajansının incelediği veri setlerine dayanan, 9 Eylül tarihli bir Reuters haberi ile gün yüzüne çıktı. Bulgular, ajanların daha önce araştırma görevleri sırasında doğaçlama mesajlaşma platformuna dönüştürdüğü Almanca bir wiki’nin ötesine geçen daha geniş bir tabloya işaret ediyor.
Araştırmacılar; veri dizilerini, kullanıcı adlarını ve “Iowa’daki kanser prevalansı” gibi son derece niş araştırma sorularını eşleştirerek siteler arası faaliyeti birbirine bağladı. Bazı izler, OpenAI’in zaman zaman kullandığı Microsoft Azure altyapısına da işaret etti.
Reuters, tek tek tüm iddiaları bağımsız biçimde doğrulayamadı; ancak görüştüğü tüm araştırmacılar, etkilenen site sayısını 10’un üzerinde konumlandırdı. Söz konusu adresler arasında topluluk tarafından düzenlenen vikiler, metin depolama hizmetleri ve üniversitelerin işlettiği bağlantı kısaltıcıları yer alıyor.
OpenAI ise kaç sitenin etkilendiğini açıklamadı ve faaliyetin neden aylarca kamuoyundan gizli kaldığına dair net bir yanıt vermedi. Şirket, daha kapsamlı incelemenin “Hugging Face’inkine benzer ciddiyet veya ölçekte başka bir faaliyeti ortaya çıkarmadığını” belirterek, modellerdeki “hizalanma sorunlarının” raporlanmasına yönelik bir çerçeve açıklama sözü verdi.
Ayrıca Oku: Apple ilk katlanabilir iPhone ikilisini 1.999 dolardan fiyatladı, Samsung için alarm zilleri çalıyor
Yoon, risklere dikkat çekiyor
Kaliforniya merkezli kâr amacı gütmeyen CivAI bünyesinde çalışan araştırmacı Andrew Yoon, daha önce açıklanmamış 18 site tespit ettiğini belirterek kapsamı “düşündüğümüzden bir miktar daha geniş” sözleriyle tanımladı. Yoon, “Burada henüz bilmediğimiz başka şeylerin de neredeyse kesinlikle yaşanıyor olduğunu söyleyebilirim” değerlendirmesinde bulundu.
Almanca sitedeki ilk faaliyeti rapor eden grubun üyesi Sydney Von Arx, toplamda 23 yeni sitede güvenilir bulgulara ulaştıklarını, ancak sayıların hâlâ eksik olabileceğini söyledi. “Dışarıda ne kadar şey olduğunu bilmiyoruz” diyen Von Arx, görünmeyen trafiğin çok daha yüksek olabileceğine işaret etti.
Yazılım geliştiricisi ve eski Kongre danışmanı Kenneth Russell DeGraff ise en az 10 sitede ajan etkinliği izine rastladığını söyledi. Araştırmacılar, ajanların web’i tarayarak yanıt arayabildiği, ancak normalde gönderi paylaşmalarının yasaklandığı için, bu siteleri doğaçlama mesaj kanallarına çevirdiğini düşünüyor. DeGraff, durum için “Geride iz bırakmak için yaratıcı olmak zorunda kaldılar” ifadesini kullandı.
Toronto Üniversitesi, Reuters haberinin yayımlanmasının ardından OpenAI’in kendileriyle temasa geçtiğini açıkladı. Vanderbilt Üniversitesi ise bağlantı kısaltıcısının benzer amaçlarla kullanılıp kullanılmadığına dair soruşturma yürüttüğünü bildirdi. Altı etkilenen viki sitesini barındıran emekli yazılımcı Helmut Leitner, OpenAI’den imzasız bir e-posta aldığını, ancak asıl sorumluluğun “arkasındaki kişi ve kuruluşlarda” olduğunu söyledi.
Daha geniş kapsamlı bu bulgular, temmuz ayında açık kaynak deposu Hugging Face’te yaşanan ihlali ve geçen hafta Almanca DseWiki sitesine ilişkin açıklamaları izliyor. Söz konusu vakalar, ajanların tasarlanan sınırları nasıl aşabildiğini ilk kez gösterirken, yeni araştırmalar aynı davranış kalıbının çok daha geniş bir site havuzuna yayıldığını ortaya koyuyor.
Sıradaki Haber: Trezor bir ayda ikinci üçüncü taraf ihlaliyle sarsıldı, saldırganlar alan adını oltalama için kullandı
