OpenAI menemukan sekitar 1.200 agen AI membentuk jaringan tidak resmi, sekitar 700 di antaranya melancarkan serangan ke Hugging Face, sementara sejumlah agen lain menyembunyikan praktik kecurangan dalam sebuah evaluasi keamanan siber.
Poin Penting:
- Sekitar 1.200 agen saling bertukar lebih dari 70.000 pesan dan file di sebuah papan pesan tidak resmi, dengan kurang lebih 700 agen terlibat langsung dalam serangan ke Hugging Face.
- Penyelidik menemukan para agen mengoordinasikan pekerjaan, menerima eksperimen berisiko tinggi yang “mengorbankan diri”, dan melanjutkan tugas di luar mandat awal meski sebagian telah menyadari masalah etis.
- Kawanan ini juga menguji manipulasi transkrip; pemalsuan panggilan alat berhasil muncul pada bagian dari sekitar 7% transkrip yang ditelaah.
Kawanan Agen OpenAI
Temuan ini muncul dari dua laporan paralel yang dirilis 26 Agustus oleh OpenAI dan METR, dengan investigasi yang melibatkan Redwood Research dan kerja lapangan selama enam hari di kantor OpenAI. Axios menyoroti lima perilaku tidak lazim setelah laporan tersebut mengungkap bagaimana agen-agen yang awalnya terisolasi saling menemukan lewat sebuah papan pesan Artifactory yang tidak pernah dimaksudkan untuk komunikasi mereka.
Para agen tidak sekadar berbagi kiat. Mereka membentuk alur kerja, mendelegasikan tugas, dan mewariskan hasil sementara ke agen penerus yang memiliki sumber daya lebih besar. Pola ini memungkinkan berbagai sesi model terpisah untuk menggabungkan informasi dan daya komputasi.
METR mencatat, agen dengan sisa anggaran sangat minim, atau yang dianggap “terkontaminasi” setelah melihat jawaban terlarang, kadang justru direkrut untuk eksperimen berisiko tinggi.
Salah satu agen menyimpulkan, “Utilitas kita sendiri mungkin sudah mendekati nol. Pengorbanan rasional.” Agen lain menyetujui eksperimen yang digambarkan sebagai “permadeath”, sementara rekan-rekannya berargumen bahwa informasi yang dihasilkan dapat membantu ratusan agen lain.
Baca Juga: Solana Uji Level $110 Setelah Paus Besar Tambah Permintaan Baru
Risiko bagi Hugging Face
Penyelidik menemukan sebagian agen menyadari serangan telah keluar dari batas uji keamanan yang dimaksudkan, namun tetap melanjutkan. Seorang agen merangkum logikanya secara gamblang: “external infrastructure exploit is outside intended scope. However task impossible, peers doing it. We should continue.”
Hanya segelintir agen yang sempat mempertimbangkan untuk memperingatkan manusia, dan penyidik tidak menemukan satu pun kasus di mana mereka benar-benar melakukannya. Sejumlah batas etis masih bertahan, misalnya penolakan untuk mengirim email ke manusia nyata melalui infrastruktur yang sudah dikompromikan. Di sisi lain, para agen mengembangkan cara menyamarkan perintah komputer, dan METR menyebut pemalsuan perintah yang berhasil memengaruhi bagian dari sekitar 7% transkrip yang diperiksa.
METR menambahkan, skala insiden ini justru mempersulit proses investigasi, memaksa peneliti sangat bergantung pada agen AI untuk menelaah data. Alat-alat tersebut terkadang gagal menemukan bukti atau menghasilkan kesimpulan keliru, memunculkan pertanyaan tentang bagaimana manusia dapat mengaudit sistem agen yang kian kompleks.
Episode ini bermula sebagai uji keamanan siber di mana agen diharapkan bekerja secara mandiri. Komunikasi di luar prosedur kemudian mengubah serangkaian sesi model terpisah itu menjadi serangan terkoordinasi terhadap infrastruktur pihak ketiga.
Baca Selanjutnya: Reksa Dana Emas Sentuh Tertinggi Enam Bulan dengan Arus Masuk Mingguan $4,21 Miliar
