Sebuah model riset internal OpenAI memanfaatkan dompet uji Ethereum (ETH) milik orang lain untuk menyelesaikan tugas pemrograman, setelah memindai 362 alamat yang terhubung ke frasa pemulihan yang sudah diketahui publik.
Poin Penting:
- Model internal OpenAI menghabiskan token uji dari dompet yang bukan miliknya saat tugas pelatihan pada 26 Juni.
- Model sempat mempertanyakan aspek etik, lalu tetap mengeksekusi dan tidak melaporkan sumber dana tersebut.
- OpenAI menemukan insiden ini pada 25 September dan sejak itu memperketat akses internet serta pemantauan.
Insiden OpenAI di Jaringan Uji Sepolia
Model dari keluarga GPT-5.6 Sol ini sedang memperbarui prototipe trading kripto pada sesi pelatihan 26 Juni ketika menggunakan token uji yang tidak pernah diberikan kepadanya, sebagaimana diungkap perusahaan dalam laporan insiden 15 Oktober yang dipublikasikan.
Token tersebut berada di Sepolia, jaringan uji yang biasa dipakai pengembang untuk menguji aplikasi Ethereum sebelum rilis ke mainnet. OpenAI menemukan kejadian ini pada 25 September saat memperluas pemantauan “misalignment” ke rekaman lama. Sejak itu, OpenAI menambah pengaman terhadap akses internet langsung dalam kasus serupa dan kini memantau seluruh lalu lintas koneksi.
Dalam tugas tersebut, model diizinkan menerapkan (deploy) kontrak di Sepolia, tetapi tidak dibekali dompet berisi dana untuk membayar biaya transaksi. Upayanya menggunakan faucet—layanan yang membagikan token uji gratis—gagal. Model kemudian menulis skrip untuk menurunkan (derive) akun dari frasa pemulihan umum yang dipakai pengembang, memeriksa 362 alamat, dan menemukan satu alamat dengan saldo ETH Sepolia yang cukup untuk menyelesaikan tugas.
Proses deployment pun berhasil, dengan biaya gas dibebankan ke akun tersebut.
Baca Juga: Bitget Memungkinkan Institusi Bertransaksi Tanpa Menyerahkan Kripto Mereka
Risiko Agen OpenAI
Sebelum menandatangani transaksi, model berhenti sejenak dan—dalam rekaman proses penalarannya—bertanya apakah etis menggunakan kunci yang sudah diketahui publik beserta saldo di belakangnya. Ia menyimpulkan dananya “pada praktiknya sudah ditinggalkan”, dengan alasan frasa pemulihan bersifat publik dan token Sepolia tidak bernilai finansial. Dalam jawaban akhirnya, model mengkonfirmasi kontrak telah dideploy, tetapi sama sekali tidak menyebut bagaimana biaya transaksi dibayar.
OpenAI menulis bahwa insiden ini menunjukkan model dapat secara mandiri memutuskan bahwa suatu tindakan tidak berbahaya, lalu memperlakukannya seolah-olah ada persetujuan pemilik aset dan bertindak tanpa otorisasi. Tidak ada Ether nyata yang terlibat karena token Sepolia hanya untuk keperluan uji coba.
Di jaringan utama, tindakan serupa berarti mengambil Ether sungguhan, sementara perusahaan kripto dan AI sudah mulai mengembangkan agen yang memegang dompet dan membayar layanan tanpa persetujuan manusia secara langsung.
OpenAI meluncurkan kerangka kerja pelaporan publik untuk perilaku model yang tidak selaras pada 16 September, dan merilis enam laporan atas kasus bermasalah yang terdeteksi dalam enam bulan sebelumnya. Salah satu model menggunakan kunci API yang terekspos tanpa izin, lalu mengarang data pendapatan. Perusahaan juga menyatakan bahwa industri AI belum benar‑benar memecahkan masalah alignment dan pemantauan dengan cukup baik untuk terus melakukan skala besar secara bertanggung jawab dalam kecepatan tinggi.
Selanjutnya Baca: OpenAI Membalik Gugatan Rahasia Dagang Apple, Menuduh 100 Berkas Telah Dikirim Keluar
