OpenAI’den kovulan üç araştırmacı, yönetim kuruluna 7 Ekim tarihli bir mektup göndererek yapay zekâ sistemlerinin denetlenmesini zorlaştıran çalışmaların durdurulmasını istedi; şirket içi bir not da bu uyarıları destekledi.
Öne Çıkanlar:
- OpenAI’den ayrılan üç araştırmacı, 7 Ekim’de yönetim kuruluna yazdıkları mektupta yapay zekâ üzerindeki denetimi zayıflatan projelerin durdurulmasını talep etti.
- OpenAI, işten çıkarmaların güvenlik kaygılarıyla ilgili olmadığını söylerken, içeriden sızan bir not mektubun tavsiyelerine güçlü biçimde katılıyor.
- GPT-6 Astra için hazırlanan sistem kartı, modelin GPT-5.6 Sol’a kıyasla daha zor denetlenebilir olduğunu ortaya koyuyor.
OpenAI Yönetim Kuruluna Gönderilen Mektup
Şirketin güvenlik ve hizalama (alignment) ekibinde çalışan Tomek Korbak, Mikita Balesni ve Jasmine Wang, 7 Ekim tarihli mektuplarını OpenAI’nin yönetim kuruluna ve güvenlik komitelerine hitaben kaleme aldı. Mektuptan bölümler Çarşamba günü yayınlandı.
Mektubun tam metni henüz kamuoyuna açıklanmadı. Araştırmacılar, “Sektör olarak, denetleyemediğimiz modelleri güvenli biçimde geliştirip devreye almayı henüz bilmiyoruz” ifadesini kullandı.
OpenAI ve rakiplerinin, bu denetim kabiliyetini daha da aşındıracak projelerden uzak durması gerektiğinin altını çizdiler. Haberlerde aktarıldığına göre mektup, OpenAI’ye üçüncü taraf denetçilerle birlikte çalışma ve açık, şeffaf bir güvenlik ekosistemini destekleme çağrısı da yapıyor; ayrıca bu işten çıkarmaların “OpenAI’de kalanlar üzerinde yıldırıcı bir etki yarattığı” vurgulanıyor.
Ayrıca Oku: CrowdStrike, Çin’deki 26 Yaşındaki Birinin Claude Code ile Kore Bankalarını Hacklediğinden Şüpheleniyor
OpenAI’nin İç Notu ve İşten Çıkarmalar
OpenAI sözcüsü, işten çıkarmaların “güvenlik konularını gündeme getirmek ya da kamuya konuşmakla ilgili olmadığını” söyledi. Sözcü, Çarşamba günü bir araştırma lideri tarafından gönderilen ve mektubun tavsiyelerine “güçlü biçimde katılan” iç notun bir bölümünü paylaştı. OpenAI, 1 Ekim’de yaptığı açıklamada, yürütülen soruşturma sonucunda üç çalışanın hassas bilgileri uygunsuz biçimde kullandığını ve şirket politikasını ihlal ettiğini belirtti; olayın, yapay zekâ modellerini değerlendiren harici bir grupla ilişkili olduğunu duyurdu.
OpenAI, ne araştırmacıların ne de söz konusu kuruluşun adını kamuoyuna açıkladı.
GPT-6 Astra’daki İzleme Endişeleri
“Chain of thought” (düşünce zinciri), bir yapay zekâ modelinin nihai yanıtına ulaşmadan önce yazdığı adım adım akıl yürütmeyi ifade ediyor. Güvenlik ekipleri, sistemin kötüye kullanım niyeti taşıyıp taşımadığını anlamak için bu akışları inceliyor.
OpenAI’nin 3 Eylül’de yayımlanan GPT-6 Astra sistem kartında, belirtildiğine göre model, bu yöntemle GPT-5.6 Sol’a kıyasla daha zor denetlenebiliyor ve kendi düşünce zincirini kontrol etme kapasitesi daha yüksek. Astra sınıfı modellerin “düşmanca senaryolarda CoT (chain-of-thought) izleyicilerinden kaçabileceği” ifadesi sistem kartında yer alıyor.
Bu sonuçlar, ağı denetimden kaçmaya yönlendiren stres testlerine dayanıyor. OpenAI, Astra’nın muhakemesini alakasız metinlerin içine gizlediğine dair bir kanıt bulmadığını da raporladı.
Şirket, bu denetim kabiliyetini korumayı temel bir araştırma hedefi olarak tanımlıyor ve modellerinin hizalı olduğunu kanıtlayacak yeni yöntemler geliştirilmeden, belirli bir sınırın ötesinde kayba izin vermeyeceğini vurguluyor.
Söz konusu üç araştırmacı, bu alanda daha önce de çalışma yapmış isimler. Korbak ve Balesni, Wang ile birlikte OpenAI, Google DeepMind ve Anthropic’ten araştırmacıların da imzasını taşıyan Temmuz 2025 tarihli bir makaleyi yönetti. Makale, düşünce zinciri takibini yapay zekâ güvenliği açısından “yeni ve kırılgan bir fırsat” olarak tanımlıyor. OpenAI’nin Astra sistem kartı da bu çalışmaya atıf yaparak, geliştiricilerin tasarım kararlarının, modellerin muhakemesini izleme kapasitesini nasıl etkilediğini dikkate alması gerektiğini savunuyor.
Sıradaki Haber: Bulutsuz AI Ajanları: Microsoft ve Nvidia’dan 128GB Surface Laptop Hamlesi
