OpenAI, Temmuz sonunda Preparedness (Hazırlıklılık) ekibini dağıtarak, son yaklaşık iki yılda feshettiği üçüncü müstakil güvenlik birimini de ortadan kaldırdı.
Öne Çıkanlar:
- OpenAI, Temmuz sonunda Preparedness ekibini kapattı; biyoloji ve siber güvenlik riskleri mevcut ekiplere dağıtıldı.
- Değişiklik, şirket halka arza hazırlanırken üst düzey güvenlik ve etik yöneticilerinin ayrıldığı bir döneme denk geldi.
- OpenAI, Preparedness Framework ve Safety Advisory Group yapılarının aynı risk kategorileriyle kâğıt üzerinde yerinde durduğunu söylüyor.
Halka Arz Öncesi Preparedness Ekibi Tasfiye Edildi
Değişimi ilk olarak Financial Times duyurdu ve konuya yakın birden fazla kaynağa dayandırdı. Söz konusu birim, sınır (frontier) modellerin ağır ya da katastrofik zarara yol açıp açamayacağını [değerlendiriyor]((https://www.theverge.com/ai-artificial-intelligence/980817/openai-disbands-preparedness-team), ardından bu riskleri azaltmanın yollarını inceliyordu.
Yeniden yapılanmanın ardından şirket bu yetki alanını konu bazında bölerek, biyoloji ve siber güvenlik çalışmalarını mevcut ekipler içinde dağınık halde görev yapan kıdemli yöneticilere devretti.
Ortadan kalkan, şirketin tehlikeli model kabiliyetlerini nasıl tırmandırdığını belirleyen yazılı kurallar değil, raporlama hattı oldu. Preparedness Framework hâlâ kapsamına biyokimyasal tehditleri, siber yetenekleri ve kendi kendini geliştirebilen modelleri alıyor; içerdeki bir Safety Advisory Group tarafından denetleniyor.
Ayrıca Oku: Bitcoin, 90 Günlük Zayıf ABD Talebinin Ardından Daha Sert Satış Riskiyle Karşı Karşıya
Güvenlikten Ayrılıklar OpenAI Üzerindeki Baskıyı Artırıyor
Yeniden yapılanma, olağanüstü yoğun bir üst düzey ayrılık dalgasının ortasında geldi. Güvenlik sistemleri şefi Johannes Heidecke, etik lideri Chloé Bakalar ve baş gelecek bilimcisi Joshua Achiam, birkaç hafta arayla şirketten ayrıldı. Heidecke’nin ekibi, araştırma ve güvenlikten sorumlu başkan yardımcısı Mia Glaese’nin yönettiği araştırma organizasyonuna katıldı.
Kurucu ortak Greg Brockman, güvenlik fonksiyonunun model geliştirme ve ürün ekiplerinin içine yerleştirilmesinin, onu tek ve ayrı bir birimde izole etmekten daha güçlü bir yapı oluşturduğunu savunuyor. Üst yönetim aynı zamanda risk kontrollerinin, sistemleri fiilen inşa eden mühendislerin yanına, eğitim aşamasının daha erken safhalarına çekilmesini istediklerini dile getiriyor.
Şüpheciler ise tabloya bambaşka bakıyor. Artık şirket içinde, çıkış takvimi ve ticari baskılardan bağımsız biçimde riske tek başına sahip çıkan kimsenin kalmadığına dikkat çekiyorlar. 2024’te rakip Anthropic’e geçen Jan Leike, orada güvenliğin “parlak ürünlerin” gerisine itildiğini söylemişti.
Scandinaro Şubatta Anthropic’ten Transfer Edilmişti
Bu hamle, OpenAI’in yalnızca altı ay önce yaptığı bir tercihi fiilen geri sarıyor. Sonuçları, son yılların en büyük teknoloji halka arzlarından birine hazırlanan şirketin faaliyetlerinin tam ortasına düşmüş durumda.
OpenAI, Şubat ayında Anthropic’ten Dylan Scandinaro’yu, son derece güçlü modeller ufukta belirirken yapay zekâ güvenliğini yönetmesi için transfer etmişti. Sam Altman, o dönem Scandinaro’yu bu rol için “en iyi aday” olarak tanımladı. Scandinaro, o sırada “aşırı ve hatta geri döndürülemez zarar riskleri” konusunda uyarıda bulunmuştu. Bugün odağını, kendi kendini yinelemeli biçimde geliştiren sistemlere çevirmiş durumda; ancak onu bu göreve getirmek için kurulan ekip artık etrafında yok.
Sıradaki Haber: CZ, Binance Kurucusu Eğitim Odaklanırken 965 Bin Doları Giggle Academy’ye Aktardı
