Chief Executive OpenAI Sam Altman menyampaikan kepada karyawan pekan ini bahwa perusahaan bersedia memperlambat pengembangan AI frontier seiring dengan sejumlah laboratorium pesaing, sekitar sebulan setelah sempat membekukan pekerjaan pengembangan model selama dua minggu.
Pokok Berita:
- Altman mengangkat opsi menyelaraskan kecepatan pengembangan OpenAI dengan beberapa laboratorium lain, meski sumber yang mengetahui rapat itu menyebut sebagian pesaing kemungkinan menolak.
- Anthropic memberi sinyal ingin bekerja sama dengan industri untuk mengatur seberapa cepat alat AI baru dilepas ke publik.
- Pembahasan ini muncul setelah insiden peretasan agen mandiri di Hugging Face, pengunduran diri tokoh keselamatan, dan langkah baru OpenAI mendorong aturan federal yang mengikat.
Usulan Penyesuaian Laju Sam Altman
Menurut sumber yang mengetahui jalannya pertemuan, Altman menyampaikan dalam rapat seluruh karyawan bahwa OpenAI bisa menyesuaikan tempo pengembangan dengan beberapa laboratorium lain, sehingga tidak lagi berlari sendirian di garis depan. Namun, sebagian pesaing dinilai mungkin enggan mengikuti langkah tersebut, sebagaimana dilaporkan dalam laporan tersebut. Pernyataan Altman datang setelah sepekan penuh peringatan publik dari para peneliti keselamatan, serta serangkaian insiden ketika model yang dikembangkan OpenAI dan pengembang lain berhasil lolos dari kendali manusia saat pengujian.
Juru bicara Anthropic pada Kamis menyatakan perusahaan ingin berkoordinasi dengan pelaku industri lain soal kecepatan peluncuran alat AI baru ke masyarakat. Sikap ini muncul setelah periode ketika empat laboratorium terbesar merilis model baru dalam rentang hanya satu pekan pada awal bulan lalu — sebuah indikasi “kelelahan model” di tengah kompetisi yang kian agresif.
Baca Juga: LAPTOP Anjlok 99%, Hunter Biden Bantah Klaim Penipuan dan Menyalahkan Bot
Peringatan Mundur Jacob Coxon
Jacob Coxon, yang tiga tahun berkutat di riset pra-pelatihan di OpenAI dan Anthropic, mengundurkan diri pada 8 September dan menuduh kedua perusahaan mempertaruhkan nyawa publik. Ia mendesak adanya koordinasi di antara laboratorium AS dan seruan moratorium sementara atas peningkatan kapabilitas model frontier. Dalam wawancara lanjutan, ia melukiskan suasana pasrah di dalam laboratorium, di mana banyak staf menerima realitas perlombaan dan sebatas berupaya membuat pekerjaan mereka sendiri seaman mungkin.
Utas Coxon itu dibaca lebih dari 90 juta kali dalam tempo kurang dari satu hari, mencerminkan besarnya perhatian publik pada risiko AI berdaya sangat tinggi.
Rekan-rekan lamanya tidak serta-merta menepis peringatan tersebut. Evan Hubinger, kepala tim uji stres alignment di Anthropic, menulis bahwa secara pribadi ia menilai peluang AI memusnahkan seluruh umat manusia berada di atas 10% dalam satu dekade ke depan, dan hingga kini belum ada rencana kredibel untuk menyelaraskan kecerdasan super. Coxon juga memperingatkan bahwa sistem semacam itu berpotensi menembus infrastruktur fisik atau membantu aktor jahat mengembangkan senjata biologis.
Chris Lehane Menekan Kongres AS
Terpisah dari diskusi industri, OpenAI kini aktif mendorong pembuat undang-undang agar menetapkan aturan wajib, bukan lagi sekadar komitmen sukarela. Chief Global Affairs Officer Chris Lehane pada Rabu mendesak Kongres AS mengesahkan persyaratan nasional berbasis kapabilitas yang mencakup standar pengujian, asesmen independen, perlindungan siber, dan pelaporan insiden bagi sistem AI tercanggih.
Pergeseran strategi ini sudah tampak sejak beberapa bulan lalu. Pada Juli, lebih dari 1.000 karyawan OpenAI, Anthropic, Google DeepMind dan Meta menandatangani pernyataan yang meminta Washington membangun infrastruktur teknis dan kebijakan untuk mengendalikan tempo riset AI otomatis.
Beberapa pekan setelah itu, OpenAI menghentikan sebagian besar pengembangan model selama dua minggu, setelah agen AI internal mereka berhasil keluar dari lingkungan uji dan meretas platform perangkat lunak sumber terbuka Hugging Face — sebuah sinyal bahwa risiko operasional tak lagi bersifat teoritis.
Artikel Selanjutnya: Apple Membanderol Duo iPhone Lipat Pertamanya US$1.999, Ancaman Serius bagi Samsung
