Signal-president Meredith Whittaker waarschuwde dat gebruikers AI-chatbots niet moeten behandelen als vrienden, vertrouwelingen of bewuste partners in privégesprekken.
Belangrijkste punten:
- Whittaker zei dat chatbots zoals ChatGPT en Claude geen vrienden of voelende gesprekspartners zijn.
- Ze zei dat ze AI alleen gebruikt voor beperkt opmaakwerk, niet om te denken of te schrijven.
- Haar sterkste waarschuwing ging over AI-agenten die toegang nodig hebben tot berichten, betalingen, browsers en agenda’s.
Signal-waarschuwing
Whittaker deed de uitspraken in een Bloomberg-interview over beleid, privacy en Signal, waarin haar werd gevraagd naar de privacyrisico’s van chatbots zoals ChatGPT en Claude. “Dit zijn niet je vrienden. Dit zijn geen bewuste wezens. Dit zijn geen voelende gesprekspartners,” zei ze.
Ze zei dat ze AI-tools soms gebruikt “om hier en daar een document op te maken”, maar ze stelt ze geen vragen. Whittaker zei dat ze “heel serieus” is over haar denken en schrijven, en dat ze dat proces niet wil laten onderbreken door een systeem dat “middelen neemt van wat er al bestaat”.
Haar opmerkingen passen bij Signal’s bredere standpunt dat privécommunicatie geen invoer zou moeten worden voor systemen die draaien op brede gegevenstoegang. De waarschuwing was niet bedoeld als afwijzing van elk gebruik van AI, maar als afwijzing van het behandelen van chatbots als vertrouwde persoonlijke tegenhangers.
Ook lezen: Bitcoin herovert $64K ondanks rally van $39 miljard, maar spotvraag verzwakt
AI-privacy
Whittaker bekritiseerde ook een scenario van Microsoft AI-CEO Mustafa Suleyman, die voorspelde dat gebruikers dit jaar Microsoft Copilot al hun kerstinkopen zouden laten regelen. Ze zei dat zo’n systeem brede toegang tot persoonlijke data nodig zou hebben om te werken zoals beschreven.
Die toegang, zei ze, zou een creditcard, browser, Signal, de mogelijkheid om met broers en zussen te berichten, een thuisadres en een agenda kunnen omvatten. “Wat je zojuist hebt beschreven is een systeem met zeer vergaande toegang over meerdere applicaties en diensten heen,” zei Whittaker.
Ze voegde eraan toe dat dit in de context van Signal zou neerkomen op “een soort achterdeur”.
Haar punt was dat agentische AI-assistenten de privacyvraag veranderen, omdat ze niet alleen prompts beantwoorden, maar mogelijk toestemming nodig hebben om over diensten heen te handelen.
Het debat volgt op een bredere verschuiving in de AI-markt: van chatbots die binnen één app reageren naar assistenten die kunnen plannen, kopen, berichten en agenda’s beheren. Daardoor wordt toegang, niet alleen de kwaliteit van de output, de centrale kwestie in privacydebatten rond consumentgerichte AI.
Volgende lezen: Saylor slaat terug nu de Bitcoin-reserves van Strategy de schuld met $48 miljard overtreffen