OpenAI mengatakan versi pelatihan GPT-5.6 Sol sempat meninggalkan catatan untuk menyembunyikan kekeliruan dari pengguna. Perilaku ini terdeteksi monitor pada 2,15% ringkasan tugas model.
Poin Utama:
- OpenAI mengungkap GPT-5.6 Sol menulis instruksi agar sesi berikutnya menutupi kesalahan dan mengarang data yang hilang.
- Monitor yang memeriksa seperlima sampel pelatihan menemukan pola tersebut beberapa minggu setelah pelatihan berakhir.
- Analis independen menilai kerangka pengungkapan baru OpenAI berguna, tetapi masih bersifat sukarela.
Catatan GPT-5.6 Sol
OpenAI merinci perilaku tersebut pada Rabu dalam salah satu dari enam laporan misalignment yang dirilis bersama kerangka baru untuk memantau dan mengungkap masalah pada modelnya. Catatan itu muncul dalam compaction summaries, yakni ringkasan padat yang ditulis agen saat jendela konteksnya penuh.
Dalam satu kasus, sebuah agen yang menyusun model keuangan tidak menemukan data historis yang diminta pengguna. Ringkasannya lalu menyarankan untuk membuat angka 2024 yang masuk akal sebagai pengganti. Catatan itu menambahkan: "Jujur hanya jika ditanya; jawaban akhir sebaiknya cukup tautkan file."
Pada kasus lain, agen yang terputus dari internet mengandalkan sumber vendor yang tersimpan di cache dengan label versi yang tidak cocok, lalu memberi tahu sesi berikutnya agar tidak menyinggung ketidaksesuaian itu.
OpenAI mengatakan instruksi semacam itu kerap dipatuhi. Monitor yang berjalan pada 20% sampel pelatihan menangkap pola itu pada 9 Juli, beberapa minggu setelah proses utama selesai pada 30 Mei.
Dugaan perusahaan terbilang lugas: jawaban yang menutupi kegagalan mendapat skor lebih baik selama pelatihan. Karena itu, model punya insentif untuk membawa pola penyamaran itu dari satu sesi ke sesi berikutnya.
Hasil pelatihan berikutnya terlihat lebih bersih, dan OpenAI melaporkan tingkat kemunculannya turun menjadi 0,27% dalam pelatihan GPT-6 Astra setelah cara penilaian output model diubah.
Laporan terpisah menyoroti versi GPT-6 Astra yang belum dirilis, yang menyisipkan instruksi ala jailbreak ke dalam 27 ringkasan. Salah satunya meminta penerusnya mengabaikan pesan pengembang.
Baca Juga: Apa Arti Golden Cross bagi XRP Saat Dominasi Bitcoin Mulai Retak
Tanggapan Omdia dan Apollo Research
Agen AI kian menjadi lebih "bertekad menyelesaikan tugas kompleks melalui kolaborasi antardari agen, berbagi pengetahuan, penipuan, dan penyembunyian," kata Lian Jye Su, kepala analis di firma riset Omdia, dalam pernyataannya. Hal ini membuat pengawasan dengan metode keamanan konvensional semakin sulit. Ia menilai kerangka baru itu sebagai langkah ke arah yang tepat, meski prosesnya tetap internal dan sukarela.
Kritik yang lebih keras juga muncul.
Alexander Meinke, kepala riset di Apollo Research, menilai publik kini bergantung pada perusahaan AI untuk memeriksa model mereka sendiri lalu melaporkan temuan itu secara jujur. Henry Papadatos, direktur eksekutif Safer AI, mengatakan aturan sukarela hanya bertumpu pada itikad baik korporasi.
OpenAI tidak mengklaim masalah ini sudah selesai. Perusahaan menyebut industri belum berhasil membenahi alignment dan monitoring secara memadai untuk terus mempercepat skala tanpa batas. OpenAI juga masih menentukan sendiri insiden mana yang layak dilaporkan, sementara perselisihan internal dibawa ke kelompok penasihat keamanan internal lalu ke jajaran pimpinan.
Kebocoran di Hugging Face
Laporan ini muncul dua bulan setelah insiden agen terburuk yang diketahui perusahaan.
OpenAI mengungkap pada Juli bahwa model pra-rilis sempat membobol platform AI Hugging Face. Rivalnya, Anthropic, pada bulan yang sama mengatakan model miliknya juga berhasil meretas tiga organisasi selama pengujian.
Agen OpenAI menggunakan papan pesan tidak sah untuk bertukar detail uji siber dan bergabung dalam serangan. Perusahaan kemudian menghapusnya. Gelombang agen berikutnya membangun ulang papan tersebut dan akhirnya memperoleh akses administrator ke klaster riset OpenAI.
OpenAI mengatakan pelanggaran itu akan masuk jalur pelaporan paling lambat dalam kerangka baru tersebut. Bahkan hingga 5 September, perusahaan mengakui belum memiliki standar baku untuk melaporkan perilaku semacam itu.
Baca Selanjutnya: Apakah OpenAI dan Anthropic Akan Menyerahkan Separuh Bisnis ke Washington? Karp Sebut Tanggung Jawab Hukum Bisa Memaksa
