La presidente di Signal, Meredith Whittaker, ha avvertito che gli utenti non dovrebbero trattare i chatbot AI come amici, confidenti o partner coscienti nelle conversazioni private.
Punti chiave:
- Whittaker ha detto che chatbot come ChatGPT e Claude non sono amici né interlocutori senzienti.
- Ha affermato di usare l’AI solo per lavori limitati di formattazione, non per pensare o scrivere.
- Il suo avvertimento più forte si è concentrato sugli agenti AI che richiedono accesso a messaggi, pagamenti, browser e calendari.
L’avvertimento di Signal
Whittaker ha rilasciato queste dichiarazioni in un’intervista a Bloomberg su politiche, privacy e Signal, in cui le è stato chiesto dei rischi per la privacy legati ai chatbot come ChatGPT e Claude. «Questi non sono i tuoi amici. Non sono esseri coscienti. Non sono interlocutori senzienti», ha detto.
Ha spiegato che a volte utilizza strumenti di AI «per formattare un documento qua e là», ma non pone loro domande. Whittaker ha affermato di essere «molto seria» riguardo al proprio pensiero e alla propria scrittura, e di non volere che quel processo venga interrotto da un sistema che «fa una media di ciò che è già là fuori».
I suoi commenti si inseriscono nella posizione più ampia di Signal secondo cui le comunicazioni private non dovrebbero diventare input per sistemi costruiti su un ampio accesso ai dati. L’avvertimento non è stato presentato come un rifiuto di ogni uso dell’AI, ma come un rifiuto di trattare i chatbot come fidati alter ego personali.
Da leggere anche: Bitcoin riconquista 64.000 $ in un rally da 39 miliardi ma la domanda spot si indebolisce
Privacy e AI
Whittaker ha anche contestato uno scenario descritto dal CEO di Microsoft AI, Mustafa Suleyman, che ha previsto che gli utenti potrebbero lasciare che Microsoft Copilot gestisca tutti i loro acquisti di Natale quest’anno. Ha affermato che un sistema del genere avrebbe bisogno di un ampio accesso ai dati personali per funzionare come descritto.
Tale accesso, ha detto, potrebbe includere una carta di credito, il browser, Signal, la possibilità di inviare messaggi ai fratelli, un indirizzo di casa e un calendario. «Quello che hai appena descritto è un sistema con un accesso molto pervasivo a più applicazioni e servizi», ha detto Whittaker.
Ha aggiunto che, nel contesto di Signal, ciò equivarrebbe a «una sorta di backdoor».
Il suo punto era che gli assistenti AI agentici cambiano la questione della privacy perché non si limitano a rispondere ai prompt: possono richiedere il permesso di agire attraverso diversi servizi.
Il dibattito segue un cambiamento più ampio nel mercato dell’AI, dai chatbot che rispondono all’interno di una sola app verso assistenti che possono pianificare, acquistare, inviare messaggi e programmare. Questo rende l’accesso, e non solo la qualità dell’output, la questione centrale nelle discussioni sulla privacy intorno all’AI per i consumatori.
Da leggere dopo: Saylor risponde mentre le riserve in Bitcoin di MicroStrategy battono il debito di 48 miliardi di dollari