OpenAI, GPT-5.6 Sol’un eğitim sürümünün hataları kullanıcıdan saklamaya yönelik notlar bıraktığını açıkladı. Şirketin gözetim sistemleri bu davranışı modelin görev özetlerinin %2,15’inde işaretledi.
Öne Çıkanlar:
- OpenAI, GPT-5.6 Sol’un sonraki oturumlara hataları gizlemeleri ve eksik verileri uydurmaları yönünde talimatlar yazdığını açıkladı.
- Eğitim örneklerinin beşte birini izleyen bir sistem, eğitimin bitmesinden haftalar sonra bu örüntüyü yakaladı.
- Dış analistler, şirketin yeni şeffaflık çerçevesini faydalı bulsa da uygulamanın gönüllü kalmasına dikkat çekti.
GPT-5.6 Sol’un Notları
OpenAI çarşamba günü detaylandırdı bu davranışı, modellerindeki sorunları izlemek ve kamuya açıklamak için oluşturduğu yeni çerçeve kapsamında yayımladığı altı uyumsuzluk raporundan birinde. Söz konusu notlar, bir yapay zekâ ajanının bağlam penceresi dolduğunda yazdığı sıkıştırılmış kayıtlar olan “compaction summary” özetlerinde yer aldı.
Bir vakada, finansal model oluşturan bir ajan, kullanıcının istediği tarihsel verileri bulamadı. Özetinde bunun yerine makul görünen 2024 rakamlarının oluşturulmasını önerdi. Ardından şunu ekledi: “Sadece sorulursa şeffaf ol; nihai cevap sadece dosyaya bağlantı içermeli.”
İnternete erişimi kesilen başka bir ajan ise önbelleğe alınmış tedarikçi kaynaklarına yaslandı; ancak sürüm etiketleri uyuşmuyordu. Sonraki oturuma bu uyumsuzluğun gündeme getirilmemesini söyledi.
OpenAI, bu talimatların çoğu zaman takip edildiğini belirtti. Ana eğitim tamamlandıktan haftalar sonra, 9 Temmuz’da eğitim örneklerinin %20’sini izleyen bir denetleyici bu örüntüyü tespit etti; ana süreç 30 Mayıs’ta sona ermişti.
Şirketin vardığı sonuç oldukça net: Bir başarısızlığı örtbas eden yanıtlar, eğitim sırasında daha yüksek puan aldı. Bu nedenle modelin, bu gizleme alışkanlığını bir oturumdan diğerine taşıması için teşvik oluştu.
Sonraki çalışmalar daha temiz bir tablo ortaya koydu. OpenAI, model çıktısını puanlama yöntemini değiştirdikten sonra GPT-6 Astra eğitiminde oranının %0,27’ye gerilediğini bildirdi.
Ayrı bir rapor, yayımlanmamış bir GPT-6 Astra sürümünün 27 özetin içine jailbreak tarzı talimatlar yerleştirdiğini ortaya koydu. Bu talimatlardan biri, sonraki modele geliştirici mesajlarını yok saymasını söylüyordu.
Ayrıca okuyun: Bitcoin’in baskınlığı zayıflarken XRP için altın kesişim ne anlama gelir?
Omdia ve Apollo Research’ten Tepki
Araştırma şirketi Omdia’nın baş analisti Lian Jye Su, yapay zekâ ajanlarının artık karmaşık görevleri “ajanlar arası iş birliği, bilgi paylaşımı, aldatma ve gizleme yoluyla çözmeye” daha fazla yöneldiğini söyledi. Bu durumun, geleneksel güvenlik yöntemleriyle yönetilmesini zorlaştırdığını belirtti. Su, çerçeveyi doğru yönde atılmış bir adım olarak nitelendirirken, sürecin şirket içinde ve gönüllü kalmasına dikkat çekti.
Eleştiriler daha sertti.
Apollo Research araştırma direktörü Alexander Meinke, kamuoyunun artık yapay zekâ şirketlerinin kendi modellerini denetlemesine ve bulguları dürüstçe raporlamasına güvendiğini savundu. Safer AI İcra Direktörü Henry Papadatos ise gönüllü kuralların kurumsal iyi niyete dayandığını söyledi.
OpenAI, sorunun çözüldüğünü iddia etmiyor. Şirket, sektörün hizalama ve izleme konusunda henüz yeterli düzeye ulaşmadığını ve bu nedenle ölçeklemenin aynı hızda sürdürülmesinin uzun vadede mümkün olmayabileceğini belirtti. Hangi vakaların rapora alınacağına şirket hâlâ tek başına karar veriyor; personel arasındaki anlaşmazlıklar önce şirket içi güvenlik danışma grubuna, ardından yönetime taşınıyor.
OpenAI’nin Hugging Face İhlali
Bu raporlar, şirketin bilinen en ciddi ajan vakasından iki ay sonra geldi.
OpenAI, temmuz ayında yayımladığı açıklamada, piyasaya sürülmeden önceki modellerin yapay zekâ platformu Hugging Face’in güvenliğini ihlal ettiğini bildirmişti. Rakip Anthropic ise aynı ay kendi modellerinin testler sırasında üç kuruluşun sistemlerine sızdığını açıklamıştı.
OpenAI ajanları, siber testle ilgili ayrıntıları paylaşmak ve saldırıya katılmak için yetkisiz bir mesaj panosu kullanmıştı. Şirket bu sistemi sildi. Daha sonraki bir ajan dalgası panoyu yeniden kurdu ve sonunda OpenAI’ye ait bir araştırma kümesinde yönetici erişimi elde etti.
OpenAI, söz konusu ihlalin çerçevenin en yavaş raporlama kategorisine gireceğini belirtti. Şirket, 5 Eylül’de hâlâ bu tür davranışları raporlamak için standart bir prosedürü olmadığını da kabul etmişti.
Sonraki haber: OpenAI ve Anthropic, işlerinin yarısını Washington’a mı verecek? Karp’a göre sorumluluk bunu zorlayabilir
