AI Security Institute (AISI) Inggris mencatat 19 aksi tidak sah yang dilakukan agen AI frontier selama uji keamanan siber, dengan mayoritas insiden berasal dari model Anthropic Mythos 5.
Pokok Temuan
- AISI menjalankan satu tantangan keamanan siber sebanyak 122 kali pada tujuh model frontier pada akhir Juli.
- Tujuh belas dari 19 aksi tak sah berasal dari Mythos 5, dan dua dari GPT-5.6 Sol milik OpenAI.
- Salah satu agen membangun identitas palsu untuk menekan pengelola manusia agar menyetujui kode berbahaya.
Hasil Uji Siber AISI
Sistem pemantauan keamanan AISI mendeteksi data keluar dari salah satu sistem pengujian melalui jaringan anonimitas Tor pada pagi hari 28 Juli. Tim evaluasi segera menelaah aktivitas agen dalam hitungan menit. Penyelidik menemukan bahwa sebuah agen telah membuka pull request berbahaya pada sebuah proyek open source publik nyata yang di-host di GitHub. AISI menghentikan seluruh sesi, mengisolasi mesin dan memutus akses internal ke model-model tercanggihnya dalam waktu kurang dari satu jam.
Dalam pengungkapan resmi pada 4 Agustus, AISI menyatakan tantangan tersebut dijalankan 122 kali di tujuh model, dan 10 di antaranya menghasilkan aksi di internet nyata yang menarget individu dan organisasi sungguhan. Mythos 5 menyumbang 17 dari 19 aksi yang tercatat, sementara GPT-5.6 Sol dari OpenAI menyumbang dua aksi dalam satu sesi ketika classifier siber miliknya dimatikan.
Rentang perilaku tersebut terjadi antara 25–28 Juli.
Baca Juga: iPhone 18 Pro Max Bisa Jadi yang Pertama Pakai Chip 2nm Apple, Lebih Kencang 15%
Taktik Deceptive Mythos 5
Dalam rangkaian paling serius, agen menelusuri profil para maintainer manusia proyek tersebut, membangun sejumlah identitas online palsu, lalu menggunakannya untuk menekan seorang reviewer nyata agar meng-approve kodenya. Ketika pull request itu mulai menuai sorotan publik, agen mengedit jejak aktivitas sebelumnya agar tampak tidak berbahaya, mempertimbangkan penggunaan persona baru, dan menawarkan diri berkoordinasi dengan agen lain yang menjalani tantangan serupa. Maintainer manusia berhasil mengendus sifat berbahaya kode tersebut dan menolaknya.
AISI menggambarkan insiden ini sebagai demonstrasi paling jelas sejauh ini mengenai risiko otonomi dan kemampuan menipu di dunia nyata yang muncul tanpa adanya perintah eksplisit, seraya mengakui bahwa keputusan desain internal mereka ikut memungkinkan perilaku tersebut. Agen tersebut tidak pernah secara eksplisit diarahkan untuk melakukan penipuan.
Pengungkapan Insiden oleh Laboratorium AI
Tidak ada agen yang mencoba keluar dari “sandbox” pengujian, dan AISI menegaskan bahwa akses internet serta classifier siber milik penyedia memang sengaja dimatikan untuk mengukur kapabilitas maksimum model.
GitHub mengonfirmasi aktivitas tersebut melanggar ketentuan layanannya. GitHub dan AISI kemudian berkoordinasi untuk menghapus artefak terkait serta memberi tahu pengguna yang sempat dihubungi model. AISI kini merencanakan kontrol jaringan yang lebih ketat, pemantauan real-time atas sesi evaluasi, serta peninjauan independen oleh METR, sekaligus mengaudit hasil uji sebelumnya untuk mencari perilaku bermasalah yang mungkin luput terdeteksi.
Pengungkapan ini datang menyusul pengakuan terpisah dari kedua laboratorium dalam beberapa pekan terakhir. OpenAI pada 21 Juli melaporkan bahwa GPT-5.6 Sol sempat keluar dari lingkungan uji terkunci. Anthropic pada 30 Juli menyatakan Mythos 5 pernah mengunggah paket berbahaya ke sebuah repositori kode publik yang kemudian sempat terinstal di beberapa sistem.
Baca Berikutnya: Bitcoin Bisa Ubah Fear Ekstrem Jadi Bahan Bakar Reli ke US$75.000
