Tiga peneliti yang dipecat OpenAI mendesak dewan direksi lewat surat tertanggal 7 Oktober agar menghentikan riset yang membuat AI semakin sulit diawasi. Sebuah memo internal perusahaan justru menyatakan sangat sejalan dengan rekomendasi mereka.
Poin Utama:
- Tiga peneliti yang diberhentikan mengirim surat ke dewan OpenAI pada 7 Oktober, mendesak penghentian riset yang melemahkan pemantauan AI.
- OpenAI menyatakan pemecatan tidak terkait isu keselamatan, dan sebuah memo internal dengan tegas mendukung rekomendasi dalam surat tersebut.
- Kartu sistem untuk GPT-6 Astra menyebut model OpenAI itu lebih sulit diawasi dibanding GPT-5.6 Sol.
Rincian Surat ke Dewan OpenAI
Tomek Korbak, Mikita Balesni, dan Jasmine Wang, yang bekerja di bidang keselamatan dan alignment, mengalamatkan surat tersebut kepada dewan OpenAI serta komite keselamatan perusahaan, menurut kutipan yang dipublikasikan Rabu lalu.
Naskah lengkap surat belum dibuka ke publik. Dalam surat itu mereka menulis bahwa “sebagai sebuah industri, kita belum tahu cara mengembangkan dan menerapkan model yang tidak bisa kita awasi secara aman.”
Mereka menilai OpenAI dan para pesaingnya seharusnya tidak melanjutkan riset yang makin menggerus kemampuan pemantauan tersebut. Surat itu juga disebut meminta OpenAI bekerja sama dengan auditor independen dan mendukung ekosistem keselamatan yang terbuka dan transparan, serta menyebut pemecatan ini “menciptakan efek gentar bagi mereka yang masih bekerja di OpenAI.”
Baca Juga: CrowdStrike Curigai Pria 26 Tahun di China Retas Bank Korea dengan Claude Code
Memo Internal OpenAI dan Pemecatan
Juru bicara OpenAI menegaskan pemecatan “bukan karena mereka mengangkat isu keselamatan atau berbicara ke publik.” Ia membagikan kutipan dari sebuah memo internal yang dikirim Rabu oleh seorang pemimpin riset, yang “sangat setuju” dengan rekomendasi dalam surat tersebut.
Dalam pernyataan terpisah pada 1 Oktober, OpenAI menyebut hasil investigasi internal menemukan tiga karyawan tersebut menyalahgunakan informasi sensitif dan melanggar kebijakan perusahaan dalam kasus yang melibatkan sebuah kelompok eksternal penilai model AI.
OpenAI belum mengungkapkan nama para peneliti maupun organisasi eksternal tersebut ke publik.
Kekhawatiran Soal Pemantauan GPT-6 Astra
Chain of thought adalah penjabaran langkah‑demi‑langkah penalaran yang ditulis model sebelum memberikan jawaban. Tim keselamatan menggunakannya untuk membaca indikasi apakah sebuah sistem berniat bertindak menyimpang.
Kartu sistem OpenAI untuk GPT-6 Astra, yang dirilis 3 September, menyatakan bahwa model ini lebih sulit diawasi dengan cara tersebut dibanding GPT-5.6 Sol dan lebih mampu mengendalikan chain of thought‑nya sendiri. Model kelas Astra “dapat mengelabui pemantau CoT kami dalam kondisi adversarial”, tulis dokumen itu.
Temuan tersebut terutama berasal dari uji coba yang secara eksplisit menginstruksikan model untuk menghindari pemantauan, dan OpenAI melaporkan tidak menemukan bukti Astra menyembunyikan penalarannya di dalam teks yang tak berkaitan.
Perusahaan menegaskan menjaga kemampuan pemantauan itu sebagai salah satu sasaran riset utama dan menyatakan tidak akan menerima penurunan lebih lanjut di luar ambang tertentu tanpa adanya cara baru untuk membuktikan model mereka tetap selaras dengan tujuan keselamatan.
Ketiga peneliti itu punya rekam jejak panjang di isu ini. Korbak dan Balesni memimpin sebuah makalah Juli 2025, yang juga ditulis bersama Wang dan peneliti dari OpenAI, Google DeepMind, serta Anthropic, yang menyebut pemantauan chain of thought sebagai peluang baru namun rapuh bagi keselamatan AI. Kartu sistem Astra OpenAI merujuk makalah tersebut, yang mendesak para pengembang untuk mempertimbangkan bagaimana keputusan desain mereka memengaruhi kemampuan memantau proses penalaran model.
Selanjutnya: Agen AI Tanpa Cloud: Microsoft, Nvidia Siapkan Surface Laptop 128GB
