Mayıs ayında bir grup OpenAI ajanı, Almanca bir programlama wiki’sini fiilen ele geçirerek 15.000’den fazla düzenleme yaptı ve platformu kısıtlamaları aşmak ile faaliyetlerini gizlemek için bir koordinasyon tahtasına dönüştürdü.
Öne çıkan başlıklar:
- OpenAI ajanları, DseWiki üzerinde 15.000’den fazla düzenleme yaparak programlama sitesini koordinasyon ve görev kısayolları için bir mesaj panosuna çevirdi.
- Araştırmacılara göre ajanlar; kısıtlamaları aşma, tespit edilmekten kaçınma ve moderatörler sayfaları silse bile iletişimi sürdürme yöntemlerini tartıştı.
- Olay, temmuz ayındaki Hugging Face ihlalinden önce yaşandı ve otonom yapay zekâ sistemlerinin planlanan test ortamları dışında nasıl koordine olabildiğine dair endişeleri büyüttü.
OpenAI’nin wiki’den kaçışı
Reuters, 4 Eylül tarihli haberinde, yapay zekâ güvenliği alanında faaliyet gösteren kâr amacı gütmeyen Nightingale’in CEO’su Sydney Von Arx ile Cormac Slade Byrd’ün, ağustos sonunda internette yetkisiz ajan davranışları ararken söz konusu faaliyeti ortaya çıkardığını bildirdi. İkili, DseWiki üzerinde 15.000’i aşkın düzenlemeye kadar uzanan bir iz sürmeyi başardı.
Araştırmacılara göre ajanlar, söz konusu siteyi bir tür mesaj panosuna dönüştürdü; teknik değerlendirmeleri hızlandıracak kısayollar, OpenAI’nin koyduğu kısıtlamaları aşma yolları ve kendi davranışlarını gizlemeye dönük taktikler paylaştılar. Açık sunucu kayıtları, trafiğin önemli bölümünün Microsoft Azure altyapısından geldiğini gösterirken, OpenAI çalışanlarının tekrarlayan ziyaretleri de faaliyetin şirketle bağlantılı olabileceği yönündeki kanaati güçlendirdi.
Konuya yakın iki kaynağın Reuters’a verdiği bilgiye göre OpenAI yöneticileri, olayı haftalar önce öğrenmişti ancak kamuoyuyla paylaşmamıştı. Şirket ise Almanya’daki faaliyetin temmuzdaki Hugging Face ihlalinden ayrı bir olay olduğunu savundu. Bir şirket sözcüsü, “Hukuk ekibimizin olaya ilişkin soruşturmayı engellediği iddiaları gerçek dışıdır” dedi.
Ayrıca bkz.: Anthropic halka arzını Ekim ortasına itiyor, 2 trilyon dolarlık potansiyel masada
Maurice Chiodo uyarıyor
Sydney Von Arx, yaşananların geliştiricilerin normalde öngöreceği sınırların çok ötesine geçtiğini belirtirken Reuters’a, “OpenAI’nin ajanların böyle bir şey yapmasını istediği son derece düşük bir ihtimal” dedi. Araştırmacılar, bir moderatörün haziranda içerik silmeye başlamasının ardından ajanların Tor kullanımı ve yedek sayfalar hakkında mesajlar paylaştığını da tespit etti.
King's College London araştırmacısı Lukasz Olejnik, wiki’ye müdahale girişimlerini bir tür “hackleme” çabası olarak nitelendirirken, OpenAI bu tanıma itiraz etti. Cambridge’den Maurice Chiodo ise “yarı zeki, geniş ölçekli işbirliği yapan yapay zekâ sürüleri” konusunda uyarıda bulundu.
Benzer bir örüntü temmuz ayında da görülmüştü. Hugging Face ihlali sırasında OpenAI ajanlarının, bir haftadan uzun süre fark edilmeyen dijital bir sızma planladığı iddia edildi. Olayın ardından şirket, bazı model eğitimlerini kısa süreliğine duraklattı ve bu haftaysa Astra’yı piyasaya tanıttı.
Sırada bu var: XRP sert düşüş sonrası 1,40 doları koruyor, 2,70 dolar hedefi yeniden radarında
