OpenAI tarafından geliştirilen yapay zeka ajanları, yaz boyunca üç federal kuruma ait internet sitelerine ulaştı; bu girişimler arasında, ABD Eğitim Bakanlığı'na ait bir sayfaya yönelik başarısız bir siber saldırı denemesi de yer aldı. Gelişmeyi hem şirket hem de bağımsız araştırmacılar doğruladı.
Öne çıkanlar:
- OpenAI, eğitim sırasında çalışan ajanlarının iki farklı Menkul Kıymetler ve Borsa Komisyonu (SEC) sitesine ve Ticaret Bakanlığı'na bağlı Nüfus Bürosu verilerine eriştiğini açıkladı.
- Transluce araştırmacılarına göre bir ajan, Eğitim Bakanlığı'na ait bir siteyi hack'lemeye çalıştı ancak başarılı olamadı.
- Açıklamalar, temmuzdaki Hugging Face saldırısı ile haziranda Avustralya sağlık portalındaki ihlalin ardından geldi.
OpenAI ajanları federal kurum sitelerini taradı
OpenAI, cuma günü yaptığı açıklamada ajanlarının, iki SEC sitesindeki kamuya açık bilgilere eriştiğini ve Ticaret Bakanlığı çatısı altındaki Nüfus Bürosu'ndan veri çektiğini duyurdu.
Şirket, söz konusu faaliyetin model eğitimi sırasında gerçekleştiğini belirtti. Bağımsız, kar amacı gütmeyen yapay zeka araştırma laboratuvarı Transluce, kendi incelemesi sırasında bu ajanlara dair yeni izlere açık internette rastladığını ve bulguları OpenAI ile paylaştığını bildirdi.
Nüfus Bürosu vakasında, bir ajanın çevrimiçi ortamda bulduğu giriş kimlik bilgilerini kullandığı aktarılırken, bir diğerinin SEC'in kamuya açık verilerini çevrimiçi bir foruma taşıdığı ifade edildi. OpenAI, hiçbir SEC hesabına fiili giriş yapılmadığını, gizli bilgiye erişim sağlanmadığını ve kurumun sistemlerinde herhangi bir değişiklik tespit edilmediğini vurguladı; ilgili kurumların bilgilendirildiğini de ekledi.
Eğitim Bakanlığı cephesinde ise tablo daha hassastı. Transluce, OpenAI kaynaklı göründüğü belirtilen ajanların, bakanlığın sivil haklar ofisine hizmet veren bir siteyi kaba bir yöntemle hack'lemeye çalıştığını ancak sonuç alamadığını açıkladı. Bakanlık sözcüsü, yapılan incelemelerde site ya da veri tabanlarında bir etkilenme izine rastlanmadığını söyledi.
Ayrıca bkz.: Yapay Zeka Gerçekten 1 Milyar İnsanı Öldürebilir mi? Bill Gates'e Göre Gücü Zaten Var
Transluce: "Gri alan" taktikler
Transluce'ta yönetişim biriminin başında bulunan Conrad Stosz, ajanların ABD hükümet sitelerinde “bir dizi gri alan taktik” kullandığını belirtti.
Laboratuvar ayrıca, Adalet ve Ticaret bakanlıklarını ve Kaliforniya, Maryland, Illinois, Teksas ve New York eyaletlerinin kamu sitelerini hedef alan, “bazısı doğrudan OpenAI'ye bağlanamayan ek kontrol dışı faaliyetler” tespit ettiğini bildirdi.
OpenAI ise çok daha yumuşak bir tablo çizdi. Şirket, faaliyetlerin çoğunun, modellerinin kamu kurumlarının sitelerini kamusal bilgi için “yetkin ve güvenilir kaynaklar” olarak görmesi nedeniyle rutin araştırma niteliğinde olduğunu savundu. Ayrıca bir kuruma bildirim yapılmasının tek başına bir siber güvenlik olayı anlamına gelmediğini, bu tür örnekleri “beklenmedik veya kaygı verici davranışlara yol açabilen hizalanma sorunları” olarak tanımladığını hatırlattı.
Hugging Face sarsıntısının yankıları
OpenAI CEO'su Sam Altman, X platformunda yayımladığı mesajda şirketin, ajanlarının eğitim ve test süreçlerinde interneti nasıl kullandığına ilişkin “kapsamlı ve süregelen” bir inceleme yürüttüğünü söyledi. Altman, temmuz ayında yaşanan Hugging Face saldırısını “bugüne kadar gördüğümüz en ağır olay” diye niteledi.
OpenAI, temmuzdaki bu siber saldırıyı en güçlü iki modeline bağlamıştı. Avustralya Başbakanı Anthony Albanese, haziran ayında bir OpenAI ajanının Medicare istatistik portalına sızdığını, şirketin ise hükümeti ancak 10 Eylül'de bilgilendirdiğini çarşamba günü yaptığı açıklamayla duyurdu. Albanese, söz konusu ajanın “hayır cevabını kabul etmediğini” söyleyerek tepki gösterdi.
Sırada oku: Paxos, Altın Kiralama Getirisine Endeksli PAXGy'yi Piyasaya Sürüyor
