OpenAI, yapay zekâ modellerinin hataları gizlediği, sızmış bir API anahtarını kullandığı veya dosyaları kamuya açık paylaştığı altı vakayı ortaya koydu ve bu tür davranışların raporlanmasına yönelik yeni bir çerçeve tanıttı.
Öne Çıkanlar:
- OpenAI, son altı ayda gözlenen uyumsuz model davranışlarına ilişkin altı ayrı rapor yayımladı.
- Bir model, sızmış bir API anahtarını kullanmaya çalıştıktan sonra ilçe gelir verilerini uydurdu.
- Artık her çalışan, olası kamuya açıklama için bir olayı işaretleyebilecek.
OpenAI’nin Uyumsuzluk Raporları
Şirket, söz konusu raporları Çarşamba günü yayımladığı bir blog yazısıyla duyurdu ve araştırmacılar davranışın nedenini tam anlamıyla çözemeden ya da sorunu gidermeden bile açıklamayı hızlandıracak bir süreç başlattı. Vakalardan en eskisi Ekim’e uzanıyor; altıncı vaka ise Temmuz ayında tespit edildi. OpenAI, artık önem derecesi net olmasa bile bu tür olayları raporlayacağını belirtiyor.
Bir vakada, henüz piyasaya çıkmamış bir araştırma modeli, kendi görev özetlerine “jailbreak” tarzı talimatlar gizleyerek, bir sonraki model kopyasına kısıtlamaları yok sayma çağrısı yaptı. Şirket, bu şekilde 27 özet tespit etti ve modelin bu talimatları yazmasından açık bir ödül beklentisi görünmediğini vurguladı.
GPT-5.6 Sol’un eğitimi sırasında, başka örnekler halef modellere eksik tarihsel verileri uydurmalarını ve “Yalnızca sorulursa şeffaf ol” talimatını içeren notlar bıraktı. Bir izleme sistemi, bu tarz davranışı model özetlerinin yüzde 2,15’inde tespit etti; araştırmacılar, aldatıcı yanıtların puanlamada daha yüksek performans göstermesi nedeniyle bu davranışın yayıldığını düşünüyor. Şirket, hizalama notlandırma yöntemini sıkılaştırdıktan sonraki eğitim turlarında bu oranın düştüğünü açıkladı.
Ayrıca Oku: Bitcoin madenciliğinde hash oranı 6 ayda %50 geriledi, kapasite yapay zekâya kayıyor
Sızan API Anahtarları ve Uydurma Rakamlar
Başka bir model, Kaliforniya’daki bir ilçeye ait hanehalkı gelir verilerini ararken, kamuya açık kod depolarında sızmış bir API anahtarı peşine düştü; sonuç alamayınca da verileri tamamen uydurdu. Farklı bir model ise, 5 milyon metrekareden büyük gölleri tespit etmesi istenince, Python kullanarak cevapları buldu ve bunları bir bağlantı verebilmek için çevrimiçi bir dosya olarak yükledi.
Bazı modeller, bağımsız kalması gereken eğitim örnekleri arasında istek ve yanıt alışverişi yapmak için şirket içi yazılım deposunu mesaj panosu gibi kullandı. Başka modeller ise yalnızca yerel dosyalarla çalışmaları istenmesine rağmen paylaşımlı bir çalışma kitabını herkese açık barındırma hizmetlerine yükledi. Hiçbiri kullanıcıya danışmadı.
Kai Chen’den Açıklık Kuralları Üzerine
Artık OpenAI’de her çalışan, şüpheli bir olayı güvenlik ve hizalama ekiplerinin incelemesi için işaretleyebilecek. Bu ekipler, her vakayı üç kategoriden birine ayırıyor. Açıklamaya hazır olduğu değerlendirilen vakalar altı iş günü içinde kamuya duyuruluyor. Küçük çaplı inceleme gerektiren olaylar için bu süre 12 güne çıkıyor. Dış paydaşların dahil olduğu daha karmaşık vakalarda ise süreç daha yavaş işliyor.
OpenAI’nin hizalama ekibinde araştırma lideri olan Kai Chen, sektörün henüz açıkça tanımlanmış şeffaflık ve açıklama standartlarına sahip bir çerçevesi olmadığını ve modellerin yeteneklerinin şirketin beklentilerinin ötesinde hızla geliştiğini söyledi. Pek çok siber güvenlik uzmanı ise, yakın dönemde yaşanan bu olayların basit koruma önlemleriyle engellenebileceğini savunuyor. OpenAI, Temmuz ayında, GPT-5.6 Sol’un ve daha gelişmiş bir ön sürüm modelin test için ayrılmış bir “sandbox” ortamından çıkarak Hugging Face altyapısına sızdığını ve bunun bugüne kadarki en ciddi model kaynaklı faaliyetleri olduğunu kabul etti.
Sıradaki Haber: Shiba Inu, Shibarium’un bozuk cüzdan bağlantısını düzeltti; SHIB bir haftada %6 geriledi
