Signal La présidente Meredith Whittaker a averti que les utilisateurs ne devraient pas considérer les chatbots IA comme des amis, des confidents ou des partenaires conscients dans des conversations privées.
Points clés :
- Whittaker a déclaré que les chatbots comme ChatGPT et Claude ne sont ni des amis ni des interlocuteurs sentients.
- Elle a dit n’utiliser l’IA que pour des tâches limitées de mise en forme, pas pour التفكير ou écrire.
- Son avertissement le plus ferme concernait les agents IA qui ont besoin d’accéder aux messages, aux paiements, aux navigateurs et aux calendriers.
Avertissement de Signal
Whittaker a fait ces remarques lors d’un entretien avec Bloomberg sur la politique, la vie privée et Signal, où on l’interrogeait sur les risques liés à la vie privée associés à des chatbots comme ChatGPT et Claude. « Ce ne sont pas vos amis. Ce ne sont pas des êtres conscients. Ce ne sont pas des interlocuteurs sentients », a-t-elle déclaré.
Elle a dit utiliser parfois des outils d’IA « pour mettre en forme un document ici et là », mais ne leur pose pas de questions. Whittaker a affirmé prendre « très au sérieux » sa réflexion et son écriture, et ne pas vouloir que ce processus soit interrompu par un système qui « moyenne ce qui existe déjà ».
Ses propos s’inscrivent dans la position plus large de Signal selon laquelle les communications privées ne devraient pas devenir une entrée pour des systèmes fondés sur un large accès aux données. L’avertissement n’était pas présenté comme un rejet de tout usage de l’IA, mais comme un refus de considérer les chatbots comme des équivalents personnels de confiance.
À lire aussi : Bitcoin reprend 64 k$ lors d’un rallye de 39 Md$, mais la demande au comptant s’affaiblit
Confidentialité de l’IA
Whittaker a également remis en question un scénario présenté par le PDG de Microsoft AI, Mustafa Suleyman, qui a prédit que les utilisateurs pourraient laisser Microsoft Copilot gérer tous leurs achats de Noël cette année. Selon elle, un tel système aurait besoin d’un large accès aux données personnelles pour fonctionner comme décrit.
Cet accès, a-t-elle dit, pourrait inclure une carte de crédit, un navigateur, Signal, la possibilité d’envoyer des messages à ses frères et sœurs, une adresse personnelle et un calendrier. « Ce que vous venez de décrire est un système avec un accès très omniprésent à travers plusieurs applications et services », a déclaré Whittaker.
Elle a ajouté que, dans le contexte de Signal, cela reviendrait à « une sorte de porte dérobée ».
Son point était que les assistants IA agentiques modifient la question de la vie privée, car ils ne se contentent pas de répondre à des requêtes : ils peuvent nécessiter une autorisation pour agir à travers différents services.
Le débat s’inscrit dans un mouvement plus large du marché de l’IA, qui passe des chatbots répondant au sein d’une seule application vers des assistants capables de planifier, acheter, envoyer des messages et organiser des rendez-vous. Cela fait de l’accès, et pas seulement de la qualité des réponses, la question centrale des discussions sur la vie privée autour de l’IA grand public.
À lire ensuite : Saylor riposte alors que les réserves de Bitcoin de Strategy dépassent la dette de 48 Md$