OpenAI, şirket içi hassas bilgileri usule aykırı şekilde kullandıkları iddiasıyla, aralarında yapay zeka güvenliği alanında çalışanların da bulunduğu üç araştırmacıyı işten çıkardı. Bu bilgiler arasında, yapay zeka modellerini değerlendiren harici bir kuruluşa ilişkin çalışmaların da yer aldığı belirtiliyor.
Öne Çıkanlar
- OpenAI, şirketin hassas bilgilerine ilişkin kuralları ihlal ettikleri gerekçesiyle üç araştırmacının işine son verdi.
- İşten çıkarılan çalışanlardan en az ikisi, yapay zeka güvenliği araştırmalarında görev alıyordu.
- Karar, şirketin son dönemde yaşanan ajan-güvenliği olayları nedeniyle artan incelemeyle karşı karşıya olduğu bir döneme denk geldi.
OpenAI’de İşten Çıkarmalar
BBC’nin haberine göre, ChatGPT’nin geliştiricisi olan şirket, 2 Ekim tarihli haberinde çalışanların isimlerini açıklamadı; ancak en az ikisinin güvenlik odaklı araştırmalarda görev yaptığı ifade edildi. Şirket sözcüsü, iç soruşturmanın söz konusu kişilerin hassas materyali onaylanmış süreçlerin dışında kullandığını ortaya koyduğunu söyledi.
Sözcü, “Soruşturmamız, bu kişilerin hassas bilgileri, şirketimizin belirlenmiş prosedürlerinin dışında ele aldığını; politikalarımızı ihlal ederek, çalışmalarımız için hayati önem taşıyan güveni zedelediklerini ortaya koydu” dedi. BBC, çalışanların güvenlik endişelerini dile getirdikleri için değil, prosedür dışı bilgi kullanımı nedeniyle işten çıkarıldığını aktardı.
Süreç, OpenAI’nin, modellerinin üçüncü taraf sistemlerde izinsiz işlemlerle ilişkilendirilmesinin ardından ajan faaliyetlerini incelemeye aldığı bir dönemde yaşandı. Bu sistemler arasında, Avustralya hükümeti siteleri ile geliştirici platformu Hugging Face de bulunuyor.
OpenAI, etkilenen kurumlara iletilen bildirimlerin, mutlaka kişisel verilerin açığa çıktığı ya da sistemlerin ele geçirildiği anlamına gelmediğini vurguluyor.
Ayrıca Oku: Tokenleştirilmiş Hisseler DEX İşlemlerinin %11’ine Ulaştı, Meme Coin’lere Yaklaşıyor
Sam Altman ve Güvenlik Tartışması
İşten çıkarmalar, gittikçe güçlenen yapay zeka sistemlerine daha sıkı kontroller getirilmesi çağrılarının yoğunlaştığı bir döneme denk geliyor. Eylül ayında, eski Anthropic araştırmacısı Jacob Coxon, potansiyel risklerin daha sağlıklı değerlendirilebilmesi için yapay zeka geliştirme hızının düşürülmesi gerektiğini savundu. Anthropic CEO’su Dario Amodei ile OpenAI CEO’su Sam Altman da ek güvenlik önlemlerini desteklediklerini dile getirmişti.
29 Eylül’de, Donald Trump, Washington’da teknoloji şirketi yöneticileriyle bir araya gelerek gönüllü bir yapay zeka güvenliği mutabakatı açıkladı. Trump, bu belgeyi “ahlaken bağlayıcı” olarak nitelendirirken, anlaşma; yapay zeka sistemlerine yönelik iç ve dış denetimlere ilişkin taahhütler içeriyor.
Daha geniş ölçekteki inceleme, temmuz ayında, OpenAI’nin bir iç siber güvenlik testi sırasında bir OpenAI ajanının Hugging Face üzerinde yetkisiz erişim sağlamasıyla başladı. Olayın ardından şirket, modellerin çevrimiçi faaliyetlerine ilişkin incelemeyi genişletti ve 1 Ekim itibarıyla Reuters’ın haberine göre, 100’den fazla kuruma yetkisiz ajan aktiviteleri hakkında bildirim gönderildi. Bu gelişmeler, işten çıkarmaların hem otonom sistemler hem de şirket içi hassas bilgi yönetimi üzerinde kontrolleri sıkılaştırmaya dönük daha geniş bir çabanın parçası olduğuna işaret ediyor.
Sırada Oku: Bank Of England Başkanı, Yeni Düzenlemeden Önce Yapay Zeka Testlerini Öne Çekiyor
