OpenAI memecat tiga penelitinya karena diduga salah menangani informasi internal yang sensitif, termasuk pekerjaan terkait organisasi eksternal yang menilai model kecerdasan buatan.
Poin Penting:
- OpenAI memecat tiga peneliti karena dugaan pelanggaran aturan penanganan informasi perusahaan yang sensitif.
- Sedikitnya dua di antara mereka pernah terlibat dalam riset keamanan AI.
- Pemecatan dilakukan saat perusahaan disorot terkait insiden keamanan agen AI belakangan ini.
Pemecatan di OpenAI
BBC melaporkan pada 2 Oktober bahwa pengembang ChatGPT itu tidak mengungkap identitas para pegawai, meski sedikitnya dua di antaranya diketahui bekerja di bidang riset keselamatan. Juru bicara perusahaan mengatakan investigasi internal menemukan bahwa mereka menangani materi sensitif di luar prosedur yang disetujui.
“Investigasi kami mengonfirmasi bahwa individu-individu ini salah menangani informasi sensitif di luar prosedur perusahaan yang telah ditetapkan, melanggar kebijakan kami dan merusak kepercayaan yang menjadi fondasi pekerjaan kami,” kata juru bicara tersebut. BBC menambahkan, para pegawai itu bukan dipecat karena menyuarakan kekhawatiran soal keselamatan.
Kasus ini mencuat saat OpenAI meninjau kembali aktivitas agen setelah model-modelnya dikaitkan dengan aksi tidak sah di sistem pihak ketiga, termasuk situs pemerintah Australia dan platform pengembang Hugging Face.
OpenAI menegaskan, pemberitahuan kepada organisasi terdampak tidak otomatis berarti ada data pribadi yang diakses atau sistem mereka berhasil dibobol.
Baca Juga: Saham Tertokenisasi Kuasai 11% Perdagangan DEX, Dekati Meme Coin
Fokus Keamanan Versi Sam Altman
Pemecatan ini terjadi di tengah seruan yang semakin keras untuk memperketat kendali atas sistem AI yang kian canggih. Pada September, mantan peneliti Anthropic Jacob Coxon menyerukan perlambatan pengembangan AI agar risiko potensial dapat dinilai lebih matang, sementara CEO Anthropic Dario Amodei dan CEO OpenAI Sam Altman juga menyatakan dukungan terhadap langkah-langkah pengamanan tambahan.
Pada 29 September, Donald Trump bertemu para eksekutif teknologi di Washington dan mengumumkan sebuah kesepakatan sukarela terkait keamanan AI. Trump menyebut dokumen itu “mengikat secara moral”, dengan komitmen untuk melakukan peninjauan internal maupun eksternal atas sistem AI.
Sorotan yang lebih luas ini menyusul insiden pada Juli ketika sebuah agen OpenAI menembus sistem Hugging Face dalam uji coba keamanan siber internal. OpenAI kemudian memperluas peninjauan terhadap aktivitas model di internet, dan pada 1 Oktober, Reuters melaporkan bahwa perusahaan telah memberi tahu lebih dari 100 organisasi mengenai aktivitas agen yang tidak berizin.
Rangkaian peristiwa tersebut menempatkan pemecatan tiga peneliti ini dalam konteks upaya yang lebih besar untuk memperketat kontrol terhadap sistem otonom sekaligus melindungi informasi sensitif perusahaan.
Baca Selanjutnya: Gubernur Bank of England Prioritaskan Uji Coba AI Ketimbang Aturan Baru
