Signal Presiden Meredith Whittaker memperingatkan bahwa pengguna tidak boleh menganggap chatbot AI sebagai teman, orang kepercayaan, atau pasangan sadar dalam percakapan pribadi.
Poin Utama:
- Whittaker mengatakan chatbot seperti ChatGPT dan Claude bukanlah teman atau lawan bicara yang hidup.
- Ia mengatakan dirinya hanya memakai AI untuk pekerjaan pemformatan terbatas, bukan untuk berpikir atau menulis.
- Peringatan terkuatnya berfokus pada agen AI yang memerlukan akses ke pesan, pembayaran, peramban, dan kalender.
Peringatan Signal
Whittaker menyampaikan pernyataan itu dalam wawancara Bloomberg tentang kebijakan, privasi, dan Signal, ketika ia ditanya mengenai risiko privasi yang terkait dengan chatbot seperti ChatGPT dan Claude. “Ini bukan teman Anda. Ini bukan makhluk sadar. Ini bukan lawan bicara yang hidup,” katanya.
Ia mengatakan kadang-kadang menggunakan alat AI “untuk memformat dokumen di sana-sini,” tetapi tidak mengajukan pertanyaan kepada mereka. Whittaker mengatakan ia “sangat serius” dalam berpikir dan menulis, dan tidak ingin proses itu diputus oleh sistem yang “merata-ratakan apa yang sudah ada di luar sana.”
Komentarnya sejalan dengan posisi Signal yang lebih luas bahwa komunikasi pribadi seharusnya tidak menjadi masukan bagi sistem yang dibangun di atas akses data yang luas. Peringatan ini tidak dimaksudkan sebagai penolakan terhadap semua penggunaan AI, melainkan penolakan untuk memperlakukan chatbot sebagai rekan pribadi yang tepercaya.
Baca Juga: Bitcoin Merebut Kembali $64K Saat Reli $39B, Tetapi Permintaan Spot Melemah
Privasi AI
Whittaker juga menantang sebuah skenario dari CEO Microsoft AI Mustafa Suleyman, yang memprediksi bahwa pengguna dapat membiarkan Microsoft Copilot menangani semua belanja Natal mereka tahun ini. Ia mengatakan sistem seperti itu akan memerlukan akses luas ke data pribadi agar dapat bekerja seperti yang dijelaskan.
Akses itu, katanya, bisa mencakup kartu kredit, peramban, Signal, kemampuan mengirim pesan kepada saudara kandung, alamat rumah, dan kalender. “Apa yang baru saja Anda gambarkan adalah sebuah sistem dengan akses yang sangat luas di berbagai aplikasi dan layanan,” kata Whittaker.
Ia menambahkan bahwa, dalam konteks Signal, ini akan setara dengan “semacam pintu belakang.”
Maksudnya adalah bahwa asisten AI agenik mengubah pertanyaan privasi karena mereka tidak hanya menjawab perintah, tetapi juga dapat memerlukan izin untuk bertindak lintas layanan.
Perdebatan ini mengikuti pergeseran yang lebih luas di pasar AI dari chatbot yang merespons dalam satu aplikasi menuju asisten yang dapat merencanakan, membeli, mengirim pesan, dan menjadwalkan. Hal ini membuat akses, bukan hanya kualitas keluaran, menjadi isu utama dalam diskusi privasi seputar AI konsumen.
Baca Selanjutnya: Saylor Membalas Saat Cadangan Bitcoin Strategy Mengalahkan Utang Sebesar $48B