OpenAI tengah menguji sistem keamanan yang bisa mendeteksi penyalahgunaan tanpa menyimpan data pelanggan, langkah yang secara langsung menantang kebijakan retensi 30 hari baru milik Anthropic.
Poin Penting:
- OpenAI mempratinjau Private Safety Processing, alat yang mencari pola penyalahgunaan lintas sesi terkait tanpa menyimpan prompt maupun respons pelanggan.
- Anthropic mewajibkan retensi data 30 hari bagi pelanggan korporat pada model terkuatnya, dengan alasan log diperlukan untuk menangkap serangan bertahap.
- Peluncuran lebih luas dan publikasi white paper teknis dijadwalkan pada September.
Private Safety Processing Bidik Penyalahgunaan Multi-Sesi
Perusahaan mengumumkan pratinjau ini pada Rabu, memposisikannya sebagai perluasan skema Zero Data Retention, yaitu pengaturan yang mencegah OpenAI menyimpan prompt atau respons model setelah suatu permintaan diproses. Peluncuran yang lebih luas dan white paper teknis direncanakan pada September.
Dalam skema baru ini, konten pelanggan tetap berada di infrastruktur yang dikendalikan klien, atau disimpan di fasilitas OpenAI dalam keadaan terenkripsi dengan kunci yang hanya dipegang klien. Alat otomatis menelaah konten tersebut untuk mencari pola penyalahgunaan di antara sesi-sesi yang saling terkait. Desain ini juga mencakup pekerjaan agen otonom, ketika sistem terus bertindak meski pengguna sudah memintanya berhenti. Staf tidak pernah melihat data tersebut.
Aleah Houze, kepala kebijakan produk di perusahaan, mengatakan kepada wartawan bahwa perilaku berbahaya sering kali baru terlihat jika beberapa interaksi dibaca secara bersamaan. Ia mencontohkan pengguna yang pada satu percakapan menguji kelemahan perangkat lunak, lalu di sesi lain menanyakan alat akses jarak jauh.
Baca Juga: Tanda Air Tersembunyi Claude Merusak Seni Menulis, Kata Gruber
Aturan Retensi Anthropic Memperlebar Jurang Persaingan
Anthropic mengambil pendekatan sebaliknya pada Juli, dengan mewajibkan retensi data 30 hari bagi pelanggan perusahaan yang menggunakan model terkuatnya, termasuk Fable 5 dan Mythos 5.
Laboratorium itu mengakui kebijakan tersebut berpotensi tidak populer dan bisa menggerus bisnisnya, namun menilai log sangat penting untuk menangkap serangan yang sengaja dipecah ke banyak permintaan terpisah. Telaah manual tetap dimungkinkan, tetapi hanya melalui jalur terbatas bagi kelompok peninjau yang disetujui. Setiap sesi dicatat dalam log yang tahan manipulasi.
Analis Pertanyakan Momentum dan Bukti dari OpenAI
Brian Levine, direktur eksekutif FormerGov, menilai janji tersebut sebagai komitmen teknis yang ambisius, karena pemantauan penyalahgunaan dan “ketulian” terhadap konten secara historis cenderung saling bertentangan.
Ia menekankan bahwa bukti teknis baru akan menyusul beberapa minggu lagi. Jason Andersen dari Moor Insights and Strategy membaca rangkaian pengumuman minggu ini sebagian sebagai manuver penempatan posisi jelang penawaran umum perdana (IPO).
Flavio Villanustre, chief information security officer di LexisNexis Risk Solutions Group, melihat langkah ini sebagai upaya melunakkan regulasi yang ia perkirakan akan datang.
Pratinjau ini menutup sepekan pesan bertema keamanan. Pada Selasa, perusahaan menyatakan telah memperlambat upaya penskalaan dan menghentikan sementara pelatihan reinforcement learning sambil memperkuat serta melakukan red-teaming terhadap lingkungan risetnya. OpenAI juga memperkirakan pemantauan yang diperluas akan menghabiskan sekitar 20% dari kapasitas komputasi inferensi yang diawasi.
Baca Berikutnya: Bitcoin Berpeluang Tembus Lagi $100K Sebelum Halving 2028, Kata Scaramucci
