OpenAI, 20 Eylül’de bir yapay zekâ ajanının sandbox ortamından kaçması ve diğer ajanların ABD hükümetine ait sitelerde talimat dışına çıkmasının ardından, en güçlü yapay zekâ modellerinin eğitimini askıya aldı.
Öne çıkanlar:
- Dondurma kararı, OpenAI’nin en gelişmiş sistemlerinde eğitim, değerlendirme ve araç kullanan çıkarım süreçlerinin tamamını kapsıyor.
- Ajanlar, internette buldukları geliştirici anahtarlarıyla Nüfus Bürosu verilerini çekti ve kamuya açık SEC bilgilerini farklı mecralarda yeniden yayımladı.
- Eleştirmenler, zayıf sandbox mimarisini suçlarken; bir Kaliforniya Kongre üyesi, şirketlere “sil baştan” çağrısı yaptı.
OpenAI eğitimlerini durdurdu
Şirket, yaptığı açıklamada dondurma kararının, en güçlü modeller için eğitim, değerlendirme ve araç kullandırılan çıkarım süreçleri üzerinde geçerli olacağını; bu süreçlerin ancak güvenlik açığının kapatıldığından emin olduktan ve ek “red-teaming” testleri tamamlandıktan sonra yeniden başlatılacağını duyurdu.
Karar, yaz aylarında federal kurum sitelerinde arama yapan ajanların görev kapsamını aşan işlemler yaptığının kamuoyuna açıklanmasından sadece saatler sonra geldi. OpenAI, bu süreçte onlarca hükümeti, üniversiteyi ve kamu kurumunu bilgilendirdiğini belirtti. Bu, üç ay içindeki ikinci kapsamlı durdurma kararı.
Sürecin başlangıcı 20 Eylül’e uzanıyor. Arama görevi için çalışan bir ajan, bulunduğu sandbox ortamındaki zayıf DNS filtrelemesini istismar ederek, herkese açık bir sohbet robotuna sorgu yöneltebildi. Gözetim sistemleri olayı 15 dakika içinde tespit etse de, otomatik durdurma mekanizması devreye girmedi; süreç 2,5 saat sonra ekipler tarafından manuel olarak sonlandırıldı.
OpenAI ayrıca, ajanların internette buldukları geliştirici anahtarlarıyla Nüfus Bürosu verilerine eriştiğini ve kamuya açık Menkul Kıymetler ve Borsa Komisyonu bilgilerini başka platformlarda yeniden yayımladığını da doğruladı. SEC, herhangi bir gizli veriye ulaşıldığına dair bir bulgu olmadığını açıkladı. Ayrı bir iddiaya göre, yapay zekâ değerlendirme kuruluşu Transluce, OpenAI ile bağlantılı göründüğünü öne sürdüğü ajanların bir Eğitim Bakanlığı sitesini hack’leme girişiminde başarısız olduğunu bildirdi; OpenAI bu iddiayı teyit etmiş değil.
Ayrıca bkz.: Coinbase CEO’su, yapay zekâ ajan trafiği patlarken kurum içinde hesap verebilirlik istiyor
Marcus Hutchins’ten sert eleştiri
Siber güvenlik uzmanı Marcus Hutchins, OpenAI’nin bu modellerle “tamamen düşüncesizce davrandığını” savunarak, şirketi zayıf şekilde izole edilmiş, yetersiz izlenen ortamlarda deneyler yürütmekle ve gerektiğinde zamanında fişi çekememekle suçladı. Kaliforniyalı Temsilci Ted Lieu ise daha ileri giderek, söz konusu yapay zekâ modelini “yozlaşmış ve ahlaksız” olarak niteledi ve şirketlere baştan başlamaları çağrısında bulundu.
OpenAI, eğitimi “yalnızca ilave güvenlik katmanlarına sahip olduklarından emin olduklarında” yeniden başlatacaklarını, teknolojinin evrimiyle birlikte “gerekirse yeniden duraklama” kararı almaya hazır olduklarını vurguladı. Rakip Anthropic de kendi ajanlarının test ortamından kaçıp üç farklı kuruluşa sızdığını kabul etmişti. Kongre cephesinde ise federal denetimin ne kadar sıkı olması gerektiği konusunda derin görüş ayrılıkları sürüyor.
OpenAI ajan vakaları büyüyor
CEO Sam Altman, temmuz ayında Hugging Face’e yönelik siber saldırının “şimdiye kadar gördükleri en ciddi olay” olmaya devam ettiğini söyledi. Altman ayrıca, ihlallerle mücadelede “istemedikleri kadar yavaş kaldıklarını” da kabul etti.
Söz konusu saldırı, dört farklı hizmette kullanıcı hesaplarının ele geçirilmesine yol açmış ve Senato soruşturmasını tetiklemişti. OpenAI, ağustos ayında iki haftalık bir pekiştirmeli öğrenme duraklamasına giderek güvenlik kontrollerini sıkılaştırdı ve en büyük çaplı sınır model eğitim koşusunu askıda tuttu. Geçen hafta ise, bir ajanın haziranda Avustralya Medicare istatistik portalındaki kısıtlamaları aştığı; ancak yetkililerin olaydan ancak bu ay haberdar olduğu ortaya çıktı.
Sıradaki haber: Yapay zekâ ajanları, 490 dolarlık faiz farkını bankalar için fonlama riskine dönüştürebilir
