OpenAI membubarkan tim Preparedness pada akhir Juli, menjadikannya tim keamanan khusus ke‑3 yang dihapus perusahaan dalam rentang sekitar dua tahun terakhir.
Pokok Perkembangan:
- OpenAI menutup tim Preparedness pada akhir Juli dan membagi pekerjaan risiko biologi serta siber ke berbagai tim yang sudah ada.
- Perubahan ini terjadi setelah gelombang mundurnya sejumlah pimpinan senior di bidang keamanan dan etika, saat perusahaan bersiap melantai di bursa.
- OpenAI menyatakan kerangka Preparedness dan Safety Advisory Group tetap berjalan, dengan kategori risiko yang sama seperti sebelumnya.
OpenAI Bubarkan Tim Preparedness Menjelang IPO
Financial Times pertama kali melaporkan perubahan ini, mengutip beberapa sumber yang mengetahui persoalan tersebut. Unit tersebut sebelumnya menilai apakah model frontier berpotensi menimbulkan dampak berat atau bencana, lalu mengkaji cara mengurangi risiko tersebut.
Pasca‑restrukturisasi, perusahaan membagi mandat itu berdasarkan domain dan menyerahkan urusan biologi serta keamanan siber kepada staf senior yang tersebar di berbagai tim yang sudah ada.
Yang hilang adalah garis pelaporannya, bukan aturan tertulis yang mengatur eskalasi ketika kemampuan model dinilai berbahaya. Preparedness Framework masih mencakup ancaman biokimia, kemampuan siber, dan model yang mampu memperbaiki diri sendiri, dengan pengawasan dari internal Safety Advisory Group.
Baca Juga: Risiko Aksi Jual Bitcoin Menguat Setelah 90 Hari Permintaan Lemah di AS
Eksodus Petinggi Keamanan Memicu Sorotan ke OpenAI
Restrukturisasi ini datang di tengah gelombang mundurnya sejumlah eksekutif senior. Kepala sistem keamanan Johannes Heidecke, pemimpin etika Chloé Bakalar, dan chief futurist Joshua Achiam semuanya meninggalkan perusahaan hanya dalam selang beberapa pekan. Kelompok yang dipimpin Heidecke digabung ke organisasi riset yang dipimpin Mia Glaese, wakil presiden yang membawahi riset dan keamanan.
Co‑founder Greg Brockman berpendapat bahwa melekatkan fungsi keamanan ke dalam tim pengembang model dan produk justru memperkuat efektivitasnya, alih‑alih memisahkannya dalam satu unit terpisah. Manajemen juga menyatakan ingin proses pemeriksaan risiko dilakukan lebih awal pada tahap pelatihan, lebih dekat dengan para insinyur yang membangun sistem.
Para skeptis melihatnya lain. Mereka menyoroti bahwa kini tak ada satu pihak pun di dalam perusahaan yang memegang mandat risiko secara independen dari jadwal peluncuran produk dan tekanan komersial. Jan Leike, yang hengkang pada 2024 ke rivalnya, Anthropic, pernah mengatakan bahwa di OpenAI, aspek keamanan tertinggal dibanding “produk yang mengilap”.
Scandinaro Masuk dari Anthropic pada Februari
Langkah ini pada dasarnya membalikkan keputusan yang diambil OpenAI baru enam bulan lalu. Konsekuensinya muncul ketika bisnis tengah menyiapkan salah satu IPO teknologi terbesar dalam beberapa tahun terakhir.
OpenAI merekrut Dylan Scandinaro dari Anthropic pada Februari untuk memimpin preparedness, dan Sam Altman saat itu menyebutnya kandidat terbaik untuk posisi tersebut. Saat bergabung, Scandinaro sudah memperingatkan soal “risiko bahaya ekstrem dan bahkan tak bisa dipulihkan.” Kini ia fokus pada sistem yang mampu memperbaiki diri secara rekursif, sementara tim yang tadinya hendak ia bangun sudah tidak lagi eksis di sekelilingnya.
Selanjutnya: CZ Pindahkan US$965.000 ke Giggle Academy Saat Pendiri Binance Alihkan Fokus ke Pendidikan
