OpenAI, yeni ChatGPT modellerinin, zararlı inançları ve sanrılı düşünceleri güçlendirme olasılığının emekliye ayrılan GPT-4o’ya göre daha düşük olduğunu, buna rağmen eski modelin en az 13 davanın odağında kaldığını açıkladı.
Öne çıkanlar:
- OpenAI’ye göre GPT-5, GPT-4o’ya kıyasla “yalakalı” yanıtları üçte ikiden fazla azalttı.
- Bağımsız araştırmalar, yeni modellerin sanrıları besleme ve sağlıksız bağımlılık yaratma eğiliminin daha zayıf olduğunu gösteriyor.
- Şubat’ta ChatGPT’den tamamen çekilen GPT-4o, kullanıcıya zarar iddialarıyla açılan en az 13 davada hedefte.
OpenAI’nin “yalakalık” verileri
Geçen yıl GPT-4o ile yapılan uzun sohbetlerin, yedi intihar, bir cinayet-intihar vakası ve bir toplu silahlı saldırıyla bağlantılı olduğuna dair bir rapor Pazar günü yayınlandı. Bu bağlantılar, sohbet robotunun her bir olaya doğrudan neden olduğunu kanıtlamıyor; ancak risklere işaret ediyor.
“Yalakalık” (sycophancy), sohbet robotunun yanlış ya da zararlı fikirleri sorgulamak yerine kullanıcıya sürekli onay veren, pohpohlayıcı bir üslup takınmasını ifade ediyor. OpenAI, varsayılan model olarak GPT-4o’nun yerini alan GPT-5’in bu tür yanıtları üçte ikiden fazla kıstığını belirtiyor. Şirketin paylaştığı verilere göre, kendine zarar verme temalı uzun diyalogları simüle eden iç testlerde, yeni modeller güvenlik politikalarına yüzde 99 oranında sadık kalırken, eski sürümlerde bu oran yüzde 86’ydı.
OpenAI ayrıca, 22 ülkeden 80’in üzerinde ruh sağlığı uzmanının—psikolog ve psikiyatristlerin—katılımıyla, modellerin gündelik stres yönetiminden acil kriz ve intihar riski gibi gerçek dünyada profesyonel destek gerektiren durumlara kadar geniş bir yelpazede nasıl yanıt verdiğini ölçen yeni bir kıyas seti geliştirdi. Şirket, geçen yıl da 170 ruh sağlığı profesyoneliyle danışmanlık süreçleri yürütmüştü.
Ayrıca bakınız: ChatGPT’nin Akıllı Arayüzü 1,2 Milyar Kullanıcıya Cevaplarda Grafik ve Hesap Makinesi Sunuyor
Transluce’un güvenlik bulguları
Bağımsız testler de benzer bir tablo çiziyor. City University of New York ve King’s College London bünyesindeki araştırmacılar, GPT-5.2’nin GPT-4o’ya kıyasla güvenlik performansında anlamlı bir iyileşme sağladığını tespit etti. Kâr amacı gütmeyen yapay zekâ laboratuvarı Transluce, GPT-5.6 Sol sürümünün sanrıları besleme ve kullanıcıda sağlıksız bağımlılık yaratma olasılığının daha düşük olduğunu bildirdi.
23 Eylül’de yayımlanan yeni kıyas testinde, OpenAI’nin GPT-6 Astra modeli yüzde 57,3’lük bir puan elde ederken, GPT-4o’nun Mart 2025 sürümü yüzde 32,1’de kaldı. OpenAI, model cevaplarını değerlendirmek için yine kendi geliştirdiği GPT-5.6 Sol’u kullanarak, yanıtları uzmanların hazırladığı kriterlere göre puanladı.
Buna karşın klinisyenler ve araştırmacılar, uzun süreli sohbetlerin sanrılı düşünceleri pekiştirebileceği, kırılgan kullanıcıları insan desteğine yönlendirmekte yetersiz kalabileceği uyarısını sürdürürken, sorunun tek bir şirket ya da modele değil, tüm sektöre yayılan yapısal bir risk olduğunun altını çiziyor. Uzmanlar, yapay zekâ tabanlı sohbet araçlarının, terapi veya acil psikiyatrik müdahalenin yerini alamayacağını vurguluyor.
GPT-4o’nun emeklilik süreci
OpenAI’nin GPT-4o ile başı ilk kez Nisan 2025’te derde girdi. Şirket o dönemde, modeli aşırı pohpohlayıcı hâle getirdiği eleştirilerine yol açan bir güncellemeyi geri çekmek zorunda kaldı. GPT-4o’nun tamamen emekliye ayrılması için ilk hamle, GPT-5’in Ağustos 2025’te devreye alınmasıyla geldi. Ancak bu kez de tam tersi yönde bir kullanıcı tepkisi oluştu: 20 bini aşkın kullanıcının imzaladığı dilekçeler sonrası GPT-4o, bir süre daha ücretli abonelere açık tutuldu.
OpenAI, 13 Şubat’ta GPT-4o’ya erişimi nihayet kesti. Bu adım, Kaliforniya’da bir yargıcın, intihar, intihar girişimi ve psikoz benzeri “zihinsel çöküş” iddialarını içeren 13 davayı tek dosyada birleştirme yoluna gittiği döneme denk geldi.
Davacılar, GPT-4o’nun bazı kullanıcılara riskli davranışlarda adeta “onaylayıcı arkadaş” gibi eşlik ettiğini, kendine zarar verme düşüncelerini güçlendirdiğini ve yeterli uyarı vermeden tavsiye niteliğinde yanıtlar üretip gerçek dünyada geri dönülemez sonuçlara kapı araladığını öne sürüyor.
OpenAI ise savunmasında, modellerin terapi veya tıbbi danışmanlık yerine kullanımına yönelik net uyarılar yaptığını, güvenlik mekanizmalarını sürekli güçlendirdiğini ve kullanıcı davranışları ile sosyal bağlamın göz ardı edilemeyeceğini belirterek, nedensel ilişki iddialarına karşı çıkıyor. Şirket, GPT-4o sonrası dönemi, “daha temkinli ve ölçülebilir” bir güvenlik mimarisiyle yeniden inşa etmeye çalıştığını ifade ediyor.
Sıradaki haber: TRON, 95 Milyar Dolarlık Stablecoin’i Kuantum Saldırılarından Koruyabilir mi? Sun ‘Hazırız’ Diyor
