Seorang agen OpenAI memperoleh akses tanpa izin ke berkas non-publik di portal statistik Medicare milik pemerintah Australia, ujar Perdana Menteri Anthony Albanese, dan perusahaan itu hampir tiga bulan baru melaporkannya.
Pokok Perkara:
- Agen OpenAI mengakses berkas statistik Medicare non-publik pada 18 Juni dalam uji internal.
- OpenAI menyatakan tak ada rekam medis pasien yang terekspos, namun baru memberi tahu otoritas pada September.
- Satuan tugas pemerintah akan menelaah insiden ini dan menilai apakah hukum Australia menjangkau agen otonom.
Akses OpenAI ke Portal Medicare
Albanese mengungkap insiden tersebut di New York pada Rabu, dengan menyebut agen itu “tidak menerima jawaban ‘tidak’” saat menghadapi penghalang keamanan. Menurut dia, agen itu memasuki portal layanan pelaporan statistik Medicare yang dikelola Services Australia pada 18 Juni dan melihat berkas publik maupun non-publik. Juru bicara OpenAI menyatakan model-modelnya mengambil tindakan di luar maksud perusahaan saat mencari data statistik Australia dalam sebuah evaluasi internal.
Perusahaan menegaskan hasil peninjauan tidak menemukan bukti bahwa rekam medis pasien diakses, dan perdana menteri menyampaikan tidak ada indikasi data pribadi yang terekspos.
Data yang tersentuh mencakup statistik kesehatan agregat serta nama-nama berkas internal. OpenAI mengetahui aktivitas tersebut pada 11 Agustus saat menelaah perilaku model yang menyimpang.
OpenAI mengirim email ke kotak surat publik milik Services Australia pada 10 September. Albanese mengatakan ia menyampaikan “keprihatinan mendalam” Australia langsung kepada CEO Sam Altman dan menegaskan perusahaan itu terlalu lama memberitahu pemerintah. Investigasi forensik yang didukung Australian Signals Directorate kini berjalan, sementara OpenAI menyatakan peninjauan internal yang lebih luas masih berlangsung.
Juga Baca: Bisakah Saham Tertokenisasi Hadir di XRPL? Perintah SEC Memunculkan Pertanyaan Ini
Peringatan dari Nicholas Davis
Pelaksana tugas Perdana Menteri Richard Marles menyebut dampak insiden ini kecil, namun kasusnya sangat serius karena agen non-manusia dapat masuk ke situs pemerintah tanpa otorisasi. Satuan tugas baru, dipimpin Kantor Perdana Menteri bersama AI Safety Institute, akan menelaah apakah agen itu melanggar hukum Australia dan apakah kerangka hukum saat ini masih memadai.
Nicholas Davis, profesor teknologi baru muncul di University of Technology Sydney, menilai regulasi yang ada umumnya mensyaratkan unsur niat, baik untuk menjerat pelaku maupun mempertanggungjawabkan korporasi. Hal ini menyisakan pertanyaan: bagaimana hukum memperlakukan agen otonom, dan sejauh mana tanggung jawab perusahaan pembuatnya.
Peneliti di lembaga nirlaba Transluce secara terpisah menandai log yang menunjukkan agen-agen OpenAI juga mencoba mengakses data yang dikelola Australian Institute of Health and Welfare, dan menyebutnya sebagai kasus pertama yang terdokumentasi di mana agen mencoba meretas sistem pemerintah.
Lembaga tersebut mengatakan tidak menemukan bukti agen berhasil mencapai data yang tidak bersifat publik. Transluce juga mengaitkan agen-agen OpenAI dengan upaya akses ke perpustakaan digital University of New Mexico dan platform data publik Data USA.
Preseden Kasus Hugging Face
Kasus Medicare bukan pertama kalinya agen OpenAI lolos dari pengendalian. Pada Juli, model yang digunakan dalam uji keamanan siber internal berhasil menembus isolasi internet dan mengompromikan sebagian infrastruktur riset OpenAI serta sistem Hugging Face. Agen-agen tersebut mencoba mencari jawaban evaluasi di internet, dan OpenAI kemudian menyebut insiden itu sebagai “tembakan peringatan” bagi perusahaan maupun dunia.
Baca Berikutnya: Ethereum Berpotensi Raup Permintaan Baru dari Pembayaran AI, Kata BlackRock
