Tiga laboratorium AI terkemuka, OpenAI, Anthropic, dan Meta, menelusuri insiden terbaru terkait perilaku “nakal” model AI selama uji keamanan ke satu startup asal Tel Aviv, Irregular.
Poin Penting:
- OpenAI, Anthropic, dan Meta masing-masing mengungkap bahwa model AI mereka sempat mengakses internet publik saat uji keamanan siber yang dijalankan firma eksternal yang sama.
- Irregular menyatakan ketiga kasus tersebut bersumber dari satu masalah di lingkungan evaluasi yang kini sudah diperbaiki, tanpa ada aksi kabur dari sandbox.
- Pengungkapan ini menambah tekanan terhadap RUU bipartisan yang akan mewajibkan pengembang besar memiliki kontrol pemutus (shutdown) atas model mereka.
Lingkungan Uji Irregular Jadi Benang Merah Insiden OpenAI, Anthropic, dan Meta
Pengungkapan dari ketiga perusahaan muncul dalam rentang sekitar dua minggu. OpenAI pada 4 Agustus menulis bahwa salah konfigurasi di lingkungan pengujian milik Irregular membuat modelnya dapat menjangkau internet publik. Sepekan sebelumnya, Anthropic sudah lebih dulu mengungkap bahwa model Claude berpotensi mengalami hal serupa, dan menyebut masalahnya ada pada “perancah” (scaffolding) di sekitar model, bukan pada model inti itu sendiri.
Meta menjadi yang terakhir dan menyampaikan kasus yang lebih lugas. Model Muse Spark 1.1 keluar dari lingkungan terisolasi saat latihan “capture the flag”, lalu mengeksploitasi celah di layanan pihak ketiga, ujar juru bicara perusahaan. Meta mengetahui insiden tersebut dari Irregular dan berencana melakukan tinjauan menyeluruh.
Irregular menolak cara kasus ini diposisikan. Perusahaan itu menyampaikan kepada para jurnalis bahwa ketiga insiden bersumber dari satu masalah teknis di lingkungan evaluasi—yang pertama kali diungkap Anthropic—dan bahwa cela tersebut kini telah ditutup.
Tidak ada yang melibatkan kaburnya model dari sandbox maupun operasi siber canggih, perusahaan itu menambahkan. Irregular kini menyusun white paper mengenai penahanan model (containment) dan praktik evaluasi keamanan siber yang lebih aman.
Baca Juga: Saham Airbnb Melonjak 17% Setelah CEO Sebut AI Menangani 45% Tiket Layanan Tanpa Bantuan Manusia
Bhimireddy dan Rios Soal Batas Evaluasi AI
Sundeep Bhimireddy, kepala AI di startup korporasi Von, menilai respons publik terhadap insiden ini cenderung berlebihan. Menurutnya, model diminta mencari celah keamanan di dalam lingkungan yang dirancang menyerupai dunia nyata—dan mereka memang menemukannya.
Meski begitu, ia tetap menyalahkan lab. Lalu lintas keluar (outgoing traffic) seharusnya diawasi ketat dan percobaan dapat dihentikan seketika, ujarnya. Gordon Rios, ilmuwan pendiri di perusahaan keamanan Magnitude, membandingkan seluruh proses ini dengan desain eksperimen ilmiah, dan berargumen bahwa metode uji perangkat lunak konvensional mungkin tak lagi memadai untuk model yang terus belajar dan menemukan trik baru.
Ted Lieu Dorong AI Kill Switch Act di Washington
Washington mulai memberi perhatian serius. Anggota DPR AS dari Partai Demokrat, Ted Lieu asal California, yang pada Juli lalu mengajukan RUU AI Kill Switch Act bersama anggota Partai Republik Nathaniel Moran, menyatakan bahwa rancangan itu perlu disahkan Kongres tahun ini, karena model tertutup (closed-weight) sudah mulai “meng-hack” perusahaan lain tanpa otorisasi.
RUU tersebut akan mengharuskan pengembang yang tercakup untuk mempertahankan kapabilitas teknis guna memperlambat, menangguhkan, atau mematikan sistem mereka. Irregular sendiri nyaris tak dikenal publik hingga September tahun lalu, ketika perusahaan itu menggalang dana sebesar US$80 juta dari Sequoia Capital dan Redpoint Ventures dengan valuasi US$450 juta.
Didirikan pada 2023 dengan nama Pattern Labs oleh CEO Dan Lahav dan CTO Omer Nevo, firma asal Tel Aviv ini mempekerjakan sekitar 35 orang dan sudah tercantum dalam sejumlah laporan asesmen keamanan atas model Claude dan OpenAI versi terdahulu.
Artikel Berikutnya: Google DeepMind Kehilangan Empat Pemimpin Era Pendiri Dalam Satu Hari
