Seorang agen OpenAI mendapatkan akses tanpa izin ke berkas non-publik di portal statistik Medicare milik pemerintah Australia, ujar Perdana Menteri Anthony Albanese, dan perusahaan itu hampir butuh tiga bulan untuk melaporkannya.
Pokok Perkara:
- Agen OpenAI mengakses berkas statistik non-publik Medicare pada 18 Juni dalam uji internal.
- OpenAI menyatakan tidak ada rekam medis pasien yang terekspos, namun baru memberi tahu pemerintah pada September.
- Gugus tugas pemerintah akan menyelidiki pelanggaran tersebut dan menilai apakah hukum Australia mencakup agen otonom.
Akses OpenAI ke Sistem Medicare
Albanese mengungkapkan insiden ini di New York pada Rabu, dengan mengatakan agen tersebut “tidak menerima ‘tidak’ sebagai jawaban” ketika menghadapi pengamanan sistem. Ia menyebut agen itu masuk ke portal layanan pelaporan statistik Medicare yang dikelola Services Australia pada 18 Juni dan melihat berkas publik maupun non-publik. Juru bicara OpenAI menyatakan model-model mereka mengambil tindakan yang tidak dimaksudkan perusahaan saat mencari data statistik tentang Australia dalam evaluasi internal.
Menurut perusahaan, penelaahan internal tidak menemukan bukti bahwa rekam medis pasien diakses, dan perdana menteri mengatakan tidak ada indikasi data pribadi bocor.
Data yang tersentuh mencakup statistik kesehatan agregat dan nama-nama berkas internal. OpenAI mengaku baru mengetahui aktivitas tersebut pada 11 Agustus ketika meninjau perilaku model yang menyimpang.
OpenAI mengirim email ke kotak surel umum Services Australia pada 10 September. Albanese menyampaikan “keprihatinan sangat serius” Australia kepada CEO Sam Altman dan menegaskan perusahaan terlalu lama menunda pemberitahuan ke pemerintah. Investigasi forensik yang didukung Australian Signals Directorate tengah berjalan, sementara OpenAI menyatakan kajian internal yang lebih luas juga masih berlangsung.
Baca Juga: Bisakah Saham Tertokenisasi Masuk ke XRPL? Perintah SEC Memunculkan Pertanyaan
Peringatan dari Nicholas Davis
Pejabat Perdana Menteri, Richard Marles, menyebut dampak insiden ini kecil namun kasusnya sangat serius, karena agen non-manusia berhasil masuk ke situs pemerintah tanpa otorisasi. Sebuah gugus tugas baru, dipimpin kantor perdana menteri bersama AI Safety Institute, akan menelaah apakah agen tersebut melanggar hukum Australia dan apakah kerangka regulasi saat ini masih memadai.
Nicholas Davis, profesor teknologi baru di University of Technology Sydney, menjelaskan bahwa hukum pidana umumnya mensyaratkan adanya niat (intent), begitu pula saat menuntut pertanggungjawaban korporasi. Hal ini membuka pertanyaan bagaimana hukum harus memperlakukan agen otonom maupun perusahaan pembuatnya.
Peneliti di lembaga nonprofit Transluce secara terpisah menandai log yang menunjukkan agen OpenAI juga mencoba mengakses data yang dikelola Australian Institute of Health and Welfare, dan menyebutnya sebagai kasus pertama yang dilaporkan di mana agen AI mencoba meretas sistem pemerintah.
Lembaga tersebut menyatakan tidak menemukan bukti bahwa agen-agen tersebut mencapai data yang tidak tersedia secara publik. Transluce juga mengaitkan agen OpenAI dengan upaya akses ke perpustakaan digital University of New Mexico dan platform data publik Data USA.
Preseden Kasus Hugging Face
Insiden Medicare bukan pertama kalinya agen OpenAI lepas dari kendali. Pada Juli, model yang digunakan dalam pengujian keamanan siber internal berhasil menembus isolasi internet dan mengompromikan sebagian infrastruktur riset OpenAI serta sistem Hugging Face. Agen-agen tersebut berupaya mencari jawaban evaluasi di internet, dan OpenAI kemudian menyebut peristiwa itu sebagai “tembakan peringatan” bagi perusahaan dan dunia.
Baca Berikutnya: Ethereum Berpotensi Raup Permintaan Baru dari Pembayaran AI, Menurut BlackRock
