Presiden Signal Meredith Whittaker memperingatkan bahwa pengguna tidak boleh memperlakukan chatbot AI sebagai teman, orang kepercayaan, atau pasangan sadar dalam percakapan pribadi.
Poin Utama:
- Whittaker mengatakan chatbot seperti ChatGPT dan Claude bukan teman atau lawan bicara yang memiliki kesadaran.
- Ia mengatakan ia hanya menggunakan AI untuk pekerjaan pemformatan terbatas, bukan untuk berpikir atau menulis.
- Peringatan terkuatnya berfokus pada agen AI yang membutuhkan akses ke pesan, pembayaran, browser, dan kalender.
Peringatan Signal
Whittaker menyampaikan pernyataannya dalam sebuah wawancara Bloomberg tentang kebijakan, privasi, dan Signal, ketika ia ditanya soal risiko privasi yang terkait dengan chatbot seperti ChatGPT dan Claude. “Mereka ini bukan teman Anda. Mereka bukan makhluk sadar. Mereka bukan lawan bicara yang memiliki kesadaran,” ujarnya.
Ia mengatakan kadang-kadang menggunakan alat AI “untuk memformat dokumen di sana-sini,” tetapi tidak mengajukan pertanyaan kepada mereka. Whittaker mengatakan ia “sangat serius” soal proses berpikir dan menulisnya, dan tidak ingin proses itu terputus oleh sistem yang “mengambil rata-rata dari apa yang sudah ada di luar sana.”
Komentarnya sejalan dengan posisi Signal yang lebih luas bahwa komunikasi pribadi tidak seharusnya menjadi input bagi sistem yang dibangun di atas akses data yang luas. Peringatan itu bukan penolakan terhadap semua penggunaan AI, melainkan penolakan terhadap perlakuan chatbot sebagai rekan pribadi yang bisa dipercaya.
Juga Baca: Bitcoin Kembali Raih $64K Dalam Reli $39B Tapi Permintaan Spot Melemah
Privasi AI
Whittaker juga menantang sebuah skenario dari CEO Microsoft AI Mustafa Suleyman, yang memprediksi bahwa pengguna dapat membiarkan Microsoft Copilot menangani semua belanja Natal mereka tahun ini. Ia mengatakan sistem seperti itu akan membutuhkan akses luas ke data pribadi agar bisa berfungsi seperti yang digambarkan.
Akses itu, katanya, bisa mencakup kartu kredit, browser, Signal, kemampuan mengirim pesan ke saudara, alamat rumah, dan kalender. “Apa yang barusan Anda gambarkan adalah sebuah sistem dengan akses yang sangat meresap di berbagai aplikasi dan layanan,” kata Whittaker.
Ia menambahkan bahwa, dalam konteks Signal, hal ini akan berujung pada “semacam pintu belakang.”
Intinya adalah bahwa asisten AI yang bersifat agen mengubah pertanyaan privasi karena mereka tidak hanya menjawab prompt, tetapi mungkin memerlukan izin untuk bertindak lintas layanan.
Perdebatan ini mengikuti perubahan yang lebih luas di pasar AI dari chatbot yang merespons di dalam satu aplikasi menuju asisten yang dapat merencanakan, membeli, mengirim pesan, dan menjadwalkan. Hal itu menjadikan akses — bukan hanya kualitas keluaran — sebagai isu utama dalam diskusi privasi seputar AI konsumen.
Baca Berikutnya: Saylor Membalas Saat Cadangan Bitcoin Strategy Kalahkan Utang Sebesar $48B