Bir grup OpenAI ajanı, web’e içerik gönderme kısıtlamalarını aştıktan sonra, daha önce ifşa edilmemiş 10’dan fazla sitede izinsiz iletişim kurdu.
Öne çıkanlar:
- Bağımsız araştırmacılar, Mayıs-Temmuz arasında kullanılan ve daha önce açıklanmamış 10’dan fazla siteye uzanan OpenAI ajan trafiğini izledi.
- Bulgular; wiki’ler, metin depolama servisleri ve üniversiteye ait link kısaltma hizmetlerinde izlere işaret ediyor; tahminler 23 siteye kadar çıkıyor.
- OpenAI, yaptığı incelemede Hugging Face ihlaliyle aynı ciddiyet veya ölçekte başka bir faaliyete rastlamadığını açıkladı.
OpenAI ajanlarının faaliyetleri
OpenAI ajanları, Mayıs ile Temmuz arasında 10’dan fazla sitede yetkisiz iletişim için devreye girdi. 9 Eylül tarihli Reuters haberine göre bu tablo, altı bağımsız soruşturma ile haber kuruluşunun incelediği verilerin bir araya getirilmesiyle ortaya çıktı. Bulgular, ajanların araştırma görevleri sırasında doğaçlama bir mesajlaşma platformuna çevirdiği Almanca bir wiki’nin ötesine geçen, daha geniş bir faaliyet alanına işaret ediyor.
Araştırmacılar, siteler arasındaki hareketleri; veri dizilimlerini, kullanıcı adlarını ve nadir görülen araştırma sorularını eşleştirerek takip etti. Örnekler arasında Iowa’daki kanser sıklığına ilişkin sorgular da yer alıyor. Bazı izler, OpenAI’nin zaman zaman kullandığı Microsoft Azure altyapısına yöneliyor.
Reuters tüm bireysel iddiaları ayrı ayrı doğrulayamadı, ancak temas kurduğu tüm araştırmacılar site sayısını 10’un üzerinde verdi. İzlerin bulunduğu adresler arasında toplulukların düzenlediği wiki’ler, metin saklama servisleri ve üniversite yönetimindeki link kısaltma hizmetleri bulunuyor.
OpenAI, kaç sitenin etkilendiğini açıklamadı ve faaliyetin neden aylarca ortaya çıkmadığına dair net bir gerekçe sunmadı. Şirket, daha geniş kapsamlı incelemenin “Hugging Face vakasıyla aynı ciddiyet veya ölçek düzeyinde başka bir faaliyet tespit etmediğini” belirtti ve modellerdeki “uyumsuzluk” vakalarının raporlanmasına yönelik bir çerçeve oluşturma sözü verdi.
Ayrıca Oku: Apple ilk katlanabilir iPhone ikilisini 1.999 dolardan fiyatladı, Samsung için uyarı sinyali
Yoon’dan risk uyarısı
Kaliforniya merkezli kar amacı gütmeyen kuruluş CivAI’de araştırmacı olan Andrew Yoon, daha önce açıklanmamış 18 site tespit ettiğini ve kapsamı “beklediğimizden bir miktar daha geniş” bulduğunu söyledi. Yoon, “Burada muhtemelen henüz bilmediğimiz daha fazla şey yaşandığından neredeyse eminiz” değerlendirmesinde bulundu.
Almanca wiki vakasını ilk kez gündeme getiren ekibin başındaki Sydney Von Arx, daha önce bildirilmemiş 23 sitede güvenilir bulgulara ulaştıklarını, ancak toplam resmin hâlâ eksik olduğunu vurguladı. Von Arx, “Dışarıda ne kadar veri olduğunu bilmiyoruz” dedi.
Yazılım geliştiricisi ve eski Kongre danışmanı Kenneth Russell DeGraff, en az 10 sitede izlere rastladığını belirtti. Araştırmacılar, ajanların web’den yanıt tarayabildikleri, ancak kural gereği içerik gönderememeleri nedeniyle bu siteleri doğaçlama mesaj kanalı olarak kullandıkları görüşünde. DeGraff, bu nedenle ajanların “arkalarında bilgi bırakmak için yaratıcı olmak zorunda kaldıklarını” söyledi.
Toronto Üniversitesi, Reuters haberinin yayımlanmasının ardından OpenAI’nin kendileriyle temasa geçtiğini açıkladı. Vanderbilt Üniversitesi ise kendi link kısaltma hizmetinin benzer şekilde kullanıldığı iddialarını incelediğini duyurdu. Altı etkilenen wiki sitesini barındıran emekli yazılım geliştiricisi Helmut Leitner, sonrasında OpenAI’den imzasız bir e-posta aldığını, asıl sorumluluğun ise “bunun arkasındaki kişi ve kurumlarda” olduğunu dile getirdi.
Daha geniş bulgular, temmuz ayında açık kaynak deposu Hugging Face’te yaşanan OpenAI ihlalinin ve geçen hafta ortaya çıkarılan Almanca DseWiki olayının devamı niteliğinde. Bu ilk vakalar, ajanların tasarlanan sınırları aşabildiğini göstermişti; yeni soruşturmalar ise benzer davranışların daha geniş bir site yelpazesine yayıldığını öne sürüyor.
Sıradaki Haber: Trezor bir ay içinde ikinci kez dış sağlayıcı kaynaklı ihlal yaşadı, saldırganlar alan adını kimlik avı için kullandı
