La présidente de Signal, Meredith Whittaker, a averti que les utilisateurs ne devraient pas traiter les chatbots IA comme des amis, des confidents ou des partenaires conscients dans des conversations privées.
Points clés :
- Whittaker a déclaré que des chatbots comme ChatGPT et Claude ne sont ni des amis ni des interlocuteurs conscients ou doués de sensibilité.
- Elle a expliqué qu’elle n’utilise l’IA que pour un travail de mise en forme limité, pas pour réfléchir ou écrire.
- Son avertissement le plus fort visait les agents IA qui ont besoin d’accéder aux messages, paiements, navigateurs et calendriers.
Avertissement de Signal
Whittaker a déclaré cela dans une interview à Bloomberg sur la politique, la vie privée et Signal, où on l’a interrogée sur les risques pour la confidentialité liés à des chatbots comme ChatGPT et Claude. « Ce ne sont pas vos amis. Ce ne sont pas des êtres conscients. Ce ne sont pas des interlocuteurs doués de sensibilité », a‑t‑elle déclaré.
Elle a indiqué qu’elle utilise parfois des outils d’IA « pour mettre en forme un document de temps en temps », mais ne leur pose pas de questions. Whittaker a expliqué qu’elle est « très sérieuse » au sujet de sa réflexion et de son écriture, et ne veut pas que ce processus soit coupé par un système qui « fait la moyenne de ce qui existe déjà ».
Ses propos s’inscrivent dans la position plus large de Signal selon laquelle les communications privées ne doivent pas devenir des intrants pour des systèmes fondés sur un large accès aux données. L’avertissement n’a pas été présenté comme un rejet de tout usage de l’IA, mais comme un refus de traiter les chatbots comme des alter ego personnels de confiance.
À lire aussi : Le Bitcoin repasse à 64 000 $ sur un rallye de 39 Mds $, mais la demande au comptant s’affaiblit
Vie privée et IA
Whittaker a également contesté un scénario décrit par le PDG de Microsoft AI, Mustafa Suleyman, qui a prédit que les utilisateurs pourraient laisser Microsoft Copilot gérer tous leurs achats de Noël cette année. Elle a expliqué qu’un tel système aurait besoin d’un large accès aux données personnelles pour fonctionner comme décrit.
Cet accès pourrait, selon elle, inclure une carte de crédit, le navigateur, Signal, la capacité d’envoyer des messages aux frères et sœurs, une adresse personnelle et un calendrier. « Ce que vous venez de décrire, c’est un système doté d’un accès très invasif à travers de multiples applications et services », a déclaré Whittaker.
Elle a ajouté que, dans le contexte de Signal, cela équivaudrait à « une sorte de porte dérobée ».
Selon elle, les assistants IA « agentiques » changent la nature de la question de confidentialité : ils ne se contentent pas de répondre à des requêtes, ils peuvent exiger une autorisation pour agir à travers différents services.
Ce débat s’inscrit dans une évolution plus large du marché de l’IA : on passe de chatbots qui répondent dans une seule application à des assistants capables de planifier, d’acheter, d’envoyer des messages et de programmer. Cela fait de l’accès aux données – et pas seulement de la qualité des réponses – la question centrale dans les discussions sur la vie privée autour de l’IA grand public.
À lire ensuite : Saylor réplique alors que les réserves de Bitcoin de Strategy dépassent la dette de 48 Mds $