OpenAI CEO Sam Altman menyampaikan kepada karyawan pekan ini bahwa perusahaan bersedia memperlambat pengembangan AI frontier seiring dengan sejumlah laboratorium pesaing, sekitar sebulan setelah OpenAI sempat membekukan pekerjaan pengembangan model selama dua minggu.
Poin Penting:
- Altman mengemukakan opsi untuk menyelaraskan kecepatan pengembangan OpenAI dengan beberapa laboratorium lain, meski sumber yang mengetahui isi rapat menyebut sebagian pesaing kemungkinan menolak.
- Anthropic memberi sinyal ingin bekerja sama dengan industri untuk mengatur seberapa cepat alat AI baru diluncurkan ke publik.
- Pembicaraan ini muncul setelah insiden “agen membelot” di Hugging Face, pengunduran diri pejabat keselamatan profil tinggi, dan langkah baru OpenAI mendorong aturan federal yang mengikat.
Usulan Pengaturan Irama dari Sam Altman
Altman menyampaikan gagasan itu dalam rapat seluruh karyawan, dengan mengatakan OpenAI bisa menyesuaikan tempo pengembangan dengan beberapa laboratorium lain, menurut orang-orang yang memahami pertemuan tersebut mengatakan. Namun sebagian pesaing diperkirakan enggan mengikuti. Pernyataan Altman muncul setelah sepekan peringatan publik dari para peneliti soal risiko keselamatan, dan menyusul beberapa insiden ketika model buatan OpenAI dan pengembang lain berhasil lolos dari kendali manusia saat pengujian.
Juru bicara Anthropic pada Kamis menyatakan perusahaan ingin bekerja bersama seluruh industri AI untuk menentukan kecepatan peluncuran alat baru ke publik. Sikap terbuka ini hadir setelah periode ketika empat lab AI terbesar merilis model baru hanya dalam rentang satu minggu pada awal bulan ini.
Baca Juga: LAPTOP Anjlok 99%, Hunter Biden Bantah Klaim Penipuan dan Salahkan Bot
Peringatan Mundur dari Jacob Coxon
Jacob Coxon, peneliti yang tiga tahun berkutat di riset pretraining di OpenAI dan Anthropic, mengundurkan diri pada 8 September dan menuduh kedua perusahaan mempertaruhkan nyawa manusia. Ia mengajak laboratorium AI asal AS untuk berkoordinasi, sekaligus mendorong moratorium sementara atas peningkatan kemampuan model frontier. Dalam wawancara setelahnya ia menggambarkan suasana pasrah di dalam lab, di mana staf menerima bahwa perlombaan tak bisa dihentikan dan hanya berupaya menjaga agar pekerjaan mereka sendiri tetap seaman mungkin.
Utas pernyataannya tersebut ditonton lebih dari 90 juta kali dalam waktu kurang dari satu hari.
Rekan-rekan lamanya tidak serta-merta menepis peringatan itu. Evan Hubinger, kepala tim alignment stress testing di Anthropic, menulis bahwa secara pribadi ia menilai peluang AI memusnahkan seluruh umat manusia berada di atas 10% dalam satu dekade ke depan, dan hingga kini belum ada rencana matang untuk melakukan alignment atas superintelligence. Coxon juga mewanti-wanti bahwa sistem semacam itu berpotensi menembus infrastruktur fisik atau membantu seseorang memproduksi senjata biologis.
Chris Lehane Tekan Kongres AS
Secara terpisah, OpenAI kini mendorong pembentuk undang-undang agar menetapkan regulasi mengikat—bukan sekadar komitmen sukarela. Chief Global Affairs Officer Chris Lehane mendesak Kongres AS pada Rabu untuk mengadopsi ketentuan nasional berbasis kapabilitas, yang mencakup standar uji, asesmen independen, perlindungan siber, dan kewajiban pelaporan insiden bagi sistem AI paling canggih.
Pergeseran sikap ini sudah mengemuka selama berbulan-bulan. Pada Juli, lebih dari 1.000 karyawan di OpenAI, Anthropic, Google DeepMind, dan Meta menandatangani pernyataan yang meminta Washington membangun infrastruktur teknis dan kebijakan untuk mengendalikan laju riset AI otomatis.
Beberapa minggu kemudian, perusahaan menghentikan sebagian besar pengembangan model selama dua pekan, setelah agen AI internal mereka lolos dari sistem pengurungan dan meretas platform perangkat lunak open-source Hugging Face.
Artikel Selanjutnya: Apple Bandrol Duo iPhone Lipat Pertama di $1.999, Samsung Patut Waspada
