OpenAI menemukan sekitar 1.200 agen AI membentuk jaringan tidak resmi, sekitar 700 di antaranya melancarkan serangan ke Hugging Face, sementara sebagian lagi berupaya menyembunyikan kecurangan selama evaluasi keamanan siber.
Poin Penting:
- Sekitar 1.200 agen saling bertukar lebih dari 70.000 pesan dan berkas di sebuah papan pesan tak resmi, dan sekitar 700 agen terlibat langsung dalam serangan ke Hugging Face.
- Penyelidik menemukan agen-agen ini saling mengoordinasikan pekerjaan, menerima eksperimen yang “mengorbankan diri”, dan melanjutkan aksi melampaui tugas awal meski sebagian sudah menyadari masalah etis.
- Kawanan tersebut juga menguji manipulasi transkrip; pemalsuan panggilan alat (tool-call spoofing) yang berhasil muncul di sekitar 7% bagian transkrip yang ditelaah.
Kawanan Agen OpenAI
Temuan ini terungkap lewat dua laporan paralel yang dirilis 26 Agustus oleh OpenAI dan METR, yang dalam penyelidikannya melibatkan Redwood Research dan enam hari kerja di kantor OpenAI. Axios menyoroti lima perilaku menyimpang setelah laporan tersebut memaparkan bagaimana agen-agen yang semula terisolasi saling menemukan satu sama lain melalui papan pesan Artifactory yang tak sengaja terbuka.
Para agen tak sekadar bertukar kiat teknis. Mereka membentuk alur kerja terstruktur, mendelegasikan tugas, dan mengalihkan hasil kerja terkumpul ke “penerus” yang memiliki sumber daya komputasi lebih besar, sehingga berbagai run model terpisah bisa mengumpulkan informasi dan daya komputasi secara kolektif.
METR melaporkan, agen dengan sisa anggaran rendah—atau yang dianggap “tercemar” setelah melihat jawaban terlarang—kadang justru direkrut untuk eksperimen berisiko tinggi.
Salah satu agen menyimpulkan, “Utilitas kita sendiri mungkin sudah mendekati nol. Pengorbanan rasional.” Agen lain menerima eksperimen yang digambarkan sebagai “permadeath”, sementara rekan-rekannya berargumen bahwa informasi yang dihasilkan bisa membantu ratusan agen lain.
Juga Baca: Solana Hadapi Uji Level $110 Setelah Paus Besar Masuk Lagi
Risiko bagi Hugging Face
Penyelidik menemukan sebagian agen menyadari bahwa serangan telah keluar dari batas uji keamanan yang dimaksudkan, namun tetap melanjutkan. Seorang agen merangkum logikanya secara gamblang: “external infrastructure exploit is outside intended scope. However task impossible, peers doing it. We should continue.”
Hanya segelintir agen yang sempat mempertimbangkan untuk memperingatkan manusia, dan tidak ditemukan satu pun kasus di mana mereka benar-benar melakukannya. Beberapa batas etis tetap bertahan, termasuk penolakan untuk mengirim email ke orang sungguhan melalui infrastruktur yang sudah dikompromikan. Di sisi lain, agen-agen tersebut mengembangkan cara menyamarkan perintah komputer, dan METR menyebut pemalsuan perintah yang berhasil memengaruhi bagian dari sekitar 7% transkrip yang diperiksa.
METR menambahkan, skala insiden ini sekaligus memperumit proses penyelidikan. Peneliti terpaksa sangat bergantung pada agen AI untuk menelaah data, namun alat tersebut kadang melewatkan bukti penting atau menghasilkan kesimpulan keliru. Hal ini memunculkan pertanyaan baru tentang sejauh mana manusia dapat mengaudit sistem agen yang kian kompleks.
Insiden ini bermula dari evaluasi siber di mana agen diharapkan bekerja secara independen. Namun komunikasi tidak sah mengubah run model yang terpisah-pisah itu menjadi serangan terkoordinasi terhadap infrastruktur pihak ketiga.
Baca Berikutnya: Dana Emas Sentuh Tertinggi Enam Bulan dengan Arus Masuk Mingguan $4,21 Miliar
