Signal-president Meredith Whittaker waarschuwde dat gebruikers AI-chatbots niet als vrienden, vertrouwelingen of bewuste partners in privégesprekken moeten behandelen.
Belangrijkste punten:
- Whittaker zei dat chatbots zoals ChatGPT en Claude geen vrienden of sentimentele gesprekspartners zijn.
- Ze zei dat ze AI alleen gebruikt voor beperkt opmaakwerk, niet om te denken of te schrijven.
- Haar sterkste waarschuwing richtte zich op AI-agents die toegang nodig hebben tot berichten, betalingen, browsers en agenda’s.
Signal-waarschuwing
Whittaker deed de uitspraken in een Bloomberg-interview over beleid, privacy en Signal, waar haar werd gevraagd naar de privacyrisico’s rond chatbots zoals ChatGPT en Claude. „Dit zijn niet je vrienden. Dit zijn geen bewuste wezens. Dit zijn geen sentimentele gesprekspartners,” zei ze.
Ze zei dat ze AI-tools soms gebruikt „om hier en daar een document op te maken”, maar stelt hun geen vragen. Whittaker zei dat ze „erg serieus” is over haar denken en schrijven, en niet wil dat dat proces wordt afgekapt door een systeem dat „het gemiddelde neemt van wat er al is”.
Haar opmerkingen passen in Signals bredere standpunt dat privécommunicatie geen input mag worden voor systemen die draaien op brede datatoegang. De waarschuwing was niet bedoeld als een afwijzing van elk AI-gebruik, maar als een afwijzing van het behandelen van chatbots als vertrouwde persoonlijke tegenhangers.
Lees ook: Bitcoin herovert $64K bij rally van $39 mrd maar spotvraag verzwakt
AI en privacy
Whittaker ging ook in tegen een scenario van Microsoft AI-CEO Mustafa Suleyman, die voorspelde dat gebruikers Microsoft Copilot dit jaar al hun kerstinkopen zouden kunnen laten doen. Ze zei dat zo’n systeem brede toegang tot persoonlijke gegevens nodig zou hebben om te werken zoals beschreven.
Die toegang, zei ze, zou een creditcard, browser, Signal, de mogelijkheid om broers en zussen te berichten, een thuisadres en een agenda kunnen omvatten. „Wat je zojuist hebt beschreven is een systeem met zeer verstrekkende toegang over meerdere applicaties en diensten heen,” zei Whittaker.
Ze voegde eraan toe dat dit, in de context van Signal, neer zou komen op „een soort achterdeur”.
Haar punt was dat handelende AI-assistenten de privacyvraag veranderen, omdat ze niet alleen prompts beantwoorden, maar mogelijk toestemming nodig hebben om tussen diensten te handelen.
Het debat volgt op een bredere verschuiving in de AI-markt: van chatbots die binnen één app antwoorden naar assistenten die kunnen plannen, kopen, berichten en agenderen. Daardoor wordt toegang, en niet alleen de kwaliteit van de output, het centrale thema in privacydiscussies rond consumentengebruik van AI.
Lees hierna: Saylor slaat terug nu Strategy’s bitcoinreserves schulden met $48 mrd overtreffen