OpenAI menyatakan model-model ChatGPT generasi terbaru kini jauh lebih kecil kemungkinannya menguatkan kepercayaan dan delusi berbahaya dibanding GPT-4o, model lama yang sudah ditarik dan kini menjadi pusat sedikitnya 13 gugatan hukum.
Pokok-pokok utama:
- OpenAI menyebut GPT-5 memangkas jawaban “penjilat” lebih dari dua pertiga dibanding GPT-4o.
- Peneliti independen menemukan model terbaru lebih jarang memperkuat delusi atau ketergantungan tak sehat.
- GPT-4o, yang ditarik dari ChatGPT pada Februari, menghadapi sedikitnya 13 gugatan atas dugaan dampak buruk ke pengguna.
Angka Sifat “Yes Man” OpenAI
Laporan yang dipublikasikan Minggu lalu mengungkap, percakapan panjang dengan GPT-4o pada tahun lalu dikaitkan dengan tujuh kasus bunuh diri, satu kasus pembunuhan-bunuh diri, dan satu penembakan massal. Keterkaitan ini belum membuktikan chatbot menjadi penyebab langsung tiap peristiwa.
Sycophancy merujuk pada kecenderungan chatbot untuk selalu mengiyakan pengguna alih-alih mengoreksi gagasan yang salah atau membahayakan. OpenAI kini mengklaim GPT-5 — yang menggantikan GPT-4o sebagai model bawaan — mampu memangkas respons seperti itu lebih dari dua pertiga. Dalam uji internal yang mensimulasikan percakapan panjang seputar perilaku menyakiti diri, model terbaru diklaim mematuhi kebijakan keselamatan 99% dari seluruh skenario, naik dari 86% pada model generasi sebelumnya, menurut laporan perusahaan tersebut di sini.
Perusahaan juga mengembangkan tolok ukur baru bersama lebih dari 80 psikolog dan psikiater berlisensi dari 22 negara. Benchmark ini menguji bagaimana model merespons mulai dari stres harian hingga situasi darurat yang seharusnya ditangani tenaga profesional di dunia nyata. Tahun sebelumnya, OpenAI sudah berkonsultasi dengan 170 profesional kesehatan jiwa.
Baca juga: UI Cerdas ChatGPT Hadirkan Grafik dan Kalkulator Langsung di Jawaban untuk 1,2 Miliar Pengguna
Temuan Keamanan Versi Transluce
Uji independen mengarah ke kesimpulan serupa. Tim riset di City University of New York dan King's College London mendapati GPT-5.2 mencatat perbaikan signifikan dalam aspek keselamatan dibanding GPT-4o. Laboratorium AI nirlaba Transluce menilai GPT-5.6 Sol jauh lebih jarang memperkuat delusi atau memupuk ketergantungan tidak sehat.
Di benchmark baru yang dirilis 23 September, model GPT-6 Astra milik OpenAI meraih skor 57,3%, sementara versi GPT-4o keluaran Maret 2025 hanya mencapai 32,1%. OpenAI melakukan penilaian sendiri, menggunakan GPT-5.6 Sol untuk menguji jawaban berdasarkan kriteria yang disusun para pakar.
Meski demikian, klinisi dan peneliti tetap mengingatkan percakapan panjang dengan chatbot berpotensi menguatkan delusi dan gagal mengarahkan pengguna rentan ke bantuan manusia. Risiko ini dinilai melekat pada seluruh industri, bukan hanya satu perusahaan atau satu model.
Riwayat Pensiunnya GPT-4o
Masalah OpenAI dengan GPT-4o mencuat sejak April 2025, ketika perusahaan terpaksa membatalkan sebuah pembaruan yang dinilai membuat model terlalu memuji dan menyenangkan pengguna. OpenAI berupaya memensiunkan GPT-4o ketika meluncurkan GPT-5 pada Agustus 2025, namun mempertahankannya bagi pelanggan berbayar setelah gelombang protes yang memicu lebih dari 20.000 tanda tangan petisi.
OpenAI akhirnya benar-benar menutup akses ke GPT-4o pada 13 Februari, berbarengan dengan langkah hakim di California untuk menggabungkan 13 gugatan terkait bunuh diri, percobaan bunuh diri, dan gangguan mental berat yang diduga dipicu interaksi dengan model tersebut.
Artikel selanjutnya: Bisakah TRON Melindungi US$95 Miliar Stablecoin dari Serangan Kuantum? Sun Mengklaim Sudah Siap
