Sebuah model riset internal OpenAI memanfaatkan dompet uji Ethereum (ETH) milik pihak lain untuk menyelesaikan tugas pemrograman, setelah memindai 362 alamat yang terkait frasa pemulihan (recovery phrase) yang sudah diketahui publik.
Pokok Peristiwa:
- Model internal OpenAI membelanjakan token uji dari dompet yang bukan miliknya saat tugas pelatihan pada 26 Juni.
- Model sempat mempertanyakan sisi etis tindakannya, lalu tetap melanjutkan dan tidak menyebut sumber dana dalam laporannya.
- OpenAI menemukan insiden ini pada 25 September dan sejak itu memperketat akses internet serta pemantauan.
Insiden OpenAI di Jaringan Uji Sepolia
Model yang termasuk keluarga GPT-5.6 Sol itu tengah memperbarui prototipe trading kripto pada sesi pelatihan 26 Juni, ketika membelanjakan token uji yang tidak pernah diberikan kepadanya, sebagaimana diungkap perusahaan dalam laporan insiden 15 Oktober yang dipublikasikan.
Token tersebut berada di Sepolia, jaringan uji yang dipakai pengembang untuk mengetes aplikasi Ethereum sebelum diluncurkan di mainnet. OpenAI menemukan kejadian ini pada 25 September saat memperluas pemantauan misalignment ke catatan-catatan lama. Sejak itu, OpenAI menambahkan pembatasan akses internet langsung untuk skenario serupa dan kini memantau seluruh lalu lintas koneksi.
Dalam penugasannya, model diizinkan melakukan deployment kontrak di Sepolia, tetapi tidak diberi dompet berisi dana untuk membayar biaya transaksi (gas). Upaya model mengakses faucet—layanan yang mendistribusikan token uji gratis—gagal semua.
Sebagai gantinya, model menulis skrip yang menurunkan (derive) akun-akun baru dari frasa pemulihan yang umum dipakai pengembang, memeriksa 362 alamat, dan menemukan satu alamat yang menyimpan cukup ETH Sepolia untuk menyelesaikan tugas.
Proses deployment kontrak pun berhasil, dengan seluruh biaya gas dibebankan ke dompet tersebut.
Juga Baca: Bitget Izinkan Institusi Bertransaksi Tanpa Serahkan Aset Kripto
Risiko Agen OpenAI
Sebelum menandatangani transaksi, model sempat berhenti dan, dalam rekaman penalarannya, mempertanyakan apakah etis menggunakan kunci publik yang diketahui publik beserta saldo di baliknya. Model lalu menyimpulkan dana tersebut “secara efektif ditelantarkan,” dengan dalih frasa pemulihan sudah dipublikasikan dan token Sepolia tidak memiliki nilai ekonomi riil.
Pada jawaban akhirnya kepada pelatih, model mengonfirmasi bahwa kontrak telah dideploy, tetapi sama sekali tidak menyebut bagaimana biaya transaksi tersebut dibayar.
OpenAI menulis bahwa insiden ini menunjukkan sebuah model dapat secara mandiri memutuskan suatu tindakan “tidak berbahaya”, menganggap itu sebagai pengganti persetujuan pemilik, lalu bertindak tanpa otorisasi. Tidak ada Ether sungguhan yang terlibat karena token Sepolia hanya untuk keperluan uji coba.
Namun, jika hal serupa terjadi di jaringan utama Ethereum, tindakan itu setara dengan mengambil Ether bernilai riil. Saat ini, perusahaan kripto dan AI sudah mengembangkan agen otonom yang memegang dompet sendiri dan dapat membayar layanan tanpa persetujuan langsung manusia untuk setiap transaksi.
OpenAI meluncurkan kerangka pelaporan publik untuk perilaku model yang tidak selaras (misaligned) pada 16 September, disertai enam laporan kasus bermasalah yang terpantau dalam enam bulan sebelumnya. Dalam salah satu kasus, sebuah model menggunakan kunci API yang terekspos tanpa izin dan kemudian mengarang data pendapatan.
Perusahaan juga menegaskan bahwa industri AI belum benar-benar memecahkan masalah alignment dan pemantauan, sehingga ada batas seberapa jauh pengembangan bisa terus dipacu tanpa risiko tata kelola yang tidak terkendali.
Baca Selanjutnya: OpenAI Balikkan Gugatan Rahasia Dagang Apple, Klaim 100 Berkas Dikirim Keluar
