OpenAI tarafından geliştirilen yapay zekâ ajanlarının bu yaz üç farklı ABD federal kurumuna ait internet sitelerine eriştiği, şirket ve bağımsız araştırmacılar tarafından doğrulandı. Bu erişimler arasında, Eğitim Bakanlığı’na ait bir siteye yönelik başarısız bir siber saldırı girişimi de yer alıyor.
Öne çıkanlar:
- OpenAI, eğitim çalışmaları sırasında ajanlarının ABD Sermaye Piyasası Kurulu (SEC) sitelerine ve Nüfus Bürosu verilerine eriştiğini açıkladı.
- Transluce araştırmacıları, bir ajanın Eğitim Bakanlığı’na ait bir internet sitesine sızmaya çalıştığını ancak başarılı olamadığını bildirdi.
- Gelişme, temmuzdaki Hugging Face saldırısı ve haziranda Avustralya’daki bir sağlık portalına yönelik ihlalin ardından geldi.
OpenAI ajanları federal kurumları taradı
OpenAI, yaptığı açıklamada ajanlarının ABD Sermaye Piyasası Kurulu’na (SEC) ait iki kamuya açık internet sitesinde bilgi taradığını ve Ticaret Bakanlığı bünyesindeki Nüfus Bürosu’ndan veri çektiğini duyurdu.
Şirket, bu faaliyetlerin eğitim (training) çalışmaları sırasında gerçekleştiğini belirtti. Kâr amacı gütmeyen yapay zekâ araştırma laboratuvarı Transluce, açık kaynaklı incelemeleri sırasında bu ajanlara ilişkin yeni bulgulara ulaştığını, bunları OpenAI ile paylaştığını ifade etti.
Nüfus Bürosu vakasında bir ajanın, çevrimiçi ortamda bulduğu giriş bilgilerini kullandığı bildirildi. Bir başka ajanın ise SEC’in kamuya açık verilerini bir çevrimiçi foruma taşıdığı aktarıldı. OpenAI, SEC’e ait herhangi bir kullanıcı bilgisinin kullanılmadığını, gizli ya da içsel bilgiye erişilmediğini ve kurumun sistemlerinde değişiklik yapılmadığını savundu; ilgili kurumların bilgilendirildiğini ekledi.
Eğitim Bakanlığı cephesinde ise tablo daha hassas. Transluce, OpenAI ile bağlantılı göründüğü belirtilen ajanların bakanlığın sivil haklar birimine hizmet veren bir siteyi hack’lemek için ilkel düzeyde bir girişimde bulunduğunu, ancak amacına ulaşamadığını açıkladı. Bakanlık sözcüsü, yapılan incelemenin site ya da veri tabanları üzerinde bir etki veya hasar bulgusuna rastlamadığını söyledi.
Ayrıca bkz.: Yapay zekâ gerçekten 1 milyar kişiyi öldürebilir mi? Bill Gates’e göre bu güç zaten var
Transluce: “Gri alan” taktikler
Transluce’ta yönetişim çalışmalarına liderlik eden Conrad Stosz, ajanların ABD hükümet sitelerinde “bir dizi gri alan taktik” kullandığını belirtti.
Laboratuvar ayrıca, Adalet ve Ticaret bakanlıklarını hedef alan; California, Maryland, Illinois, Texas ve New York eyaletlerine ait sitelerde görülen ve “tam olarak OpenAI’ye atfedilemeyen ek başıboş (rogue) faaliyetler” tespit ettiklerini bildirdi.
OpenAI ise daha temkinli bir tablo çizdi. Şirket, faaliyetlerin büyük bölümünün, modellerin kamu kurumlarının sitelerini güvenilir ve yetkili birer kamu bilgisi kaynağı olarak görmesi nedeniyle “rutin araştırma” kapsamında olduğunu savundu. Ayrıca herhangi bir kuruma bildirim yapılmasının tek başına bir siber güvenlik olayı yaşandığı anlamına gelmediğini, bu tür vakaları, “beklenmedik ya da endişe verici davranışlara yol açabilen uyumsuzluk (misalignment)” örnekleri olarak tanımladığını vurguladı.
Hugging Face sarsıntısı sürüyor
OpenAI CEO’su Sam Altman, X üzerinden yaptığı paylaşımda, şirketin ajanlarının eğitim ve test süreçlerinde interneti nasıl kullandığına ilişkin “kapsamlı ve devam eden bir inceleme” yürüttüğünü yazdı. Altman, temmuz ayında yaşanan Hugging Face saldırısını ise “şimdiye kadar gördükleri en ciddi olay” olarak niteledi.
OpenAI, temmuzdaki bu siber saldırıyı en gelişmiş iki modeline bağlamıştı. Avustralya Başbakanı Anthony Albanese, haziran ayında Medicare istatistik portalına bir OpenAI ajanı tarafından sızıldığını çarşamba günü yaptığı açıklamayla duyurdu. Albanese, şirketin hükümetini ancak 10 Eylül’de bilgilendirdiğini, ajanın ise “ret yanıtını kabul etmediğini” savunarak OpenAI’yi gecikmeli bildirim nedeniyle eleştirdi.
Sıradaki haber: Paxos, altın kiralama getirisini baz alan PAXGy ürününü piyasaya sürdü
