Signal-Präsidentin Meredith Whittaker warnte, dass Nutzer KI-Chatbots nicht als Freunde, Vertraute oder bewusste Partner in privaten Gesprächen behandeln sollten.
Zentrale Punkte:
- Whittaker sagte, Chatbots wie ChatGPT und Claude seien keine Freunde oder fühlenden Gesprächspartner.
- Sie sagte, sie nutze KI nur für begrenzte Formatierungsarbeiten, nicht zum Denken oder Schreiben.
- Ihre deutlichste Warnung galt KI-Agenten, die Zugriff auf Nachrichten, Zahlungen, Browser und Kalender benötigen.
Signal-Warnung
Whittaker äußerte sich dazu in einem Bloomberg-Interview über Politik, Datenschutz und Signal, in dem sie nach den mit Chatbots wie ChatGPT und Claude verbundenen Datenschutzrisiken gefragt wurde. „Das sind nicht eure Freunde. Das sind keine bewussten Wesen. Das sind keine fühlenden Gesprächspartner“, sagte sie.
Sie erklärte, sie nutze KI-Tools gelegentlich „um hier und da ein Dokument zu formatieren“, stelle ihnen aber keine Fragen. Whittaker sagte, sie sei „sehr ernsthaft“ in Bezug auf ihr Denken und Schreiben und wolle diesen Prozess nicht von einem System abschneiden lassen, das nur „das mittelt, was es bereits gibt“.
Ihre Aussagen fügen sich in Signals grundsätzliche Haltung ein, dass private Kommunikation nicht zum Input für Systeme werden sollte, die auf breiten Datenzugriff ausgelegt sind. Die Warnung war nicht als pauschale Ablehnung jeder KI-Nutzung formuliert, sondern als Ablehnung der Vorstellung, Chatbots als vertrauenswürdige persönliche Gegenüber zu behandeln.
Auch lesen: Bitcoin erobert 64.000 $ bei Rallye über 39 Mrd. $, aber Spot-Nachfrage schwächt sich ab
KI und Privatsphäre
Whittaker stellte außerdem ein Szenario des Microsoft AI-CEO Mustafa Suleyman infrage, der vorhersagte, Nutzer könnten dieses Jahr Microsoft Copilot ihre gesamte Weihnachtseinkäufe erledigen lassen. Sie sagte, ein solches System bräuchte weitreichenden Zugriff auf persönliche Daten, um wie beschrieben zu funktionieren.
Dieser Zugriff könnte, so sagte sie, eine Kreditkarte, den Browser, Signal, die Möglichkeit, Geschwister anzuschreiben, eine Wohnadresse und einen Kalender umfassen. „Was Sie gerade beschrieben haben, ist ein System mit sehr umfassendem Zugriff über mehrere Anwendungen und Dienste hinweg“, sagte Whittaker.
Sie fügte hinzu, dass dies im Kontext von Signal „eine Art Hintertür“ darstellen würde.
Ihr Punkt war, dass agentische KI-Assistenten die Datenschutzfrage verändern, weil sie nicht nur auf Eingaben antworten, sondern möglicherweise Berechtigungen brauchen, um über verschiedene Dienste hinweg zu handeln.
Die Debatte folgt auf eine breitere Verschiebung im KI-Markt: weg von Chatbots, die innerhalb einer einzigen App antworten, hin zu Assistenten, die planen, einkaufen, Nachrichten senden und Termine erstellen können. Dadurch wird der Zugriff – nicht nur die Qualität der Antworten – zur zentralen Frage in Datenschutzdiskussionen rund um KI für Verbraucher.
Als Nächstes lesen: Saylor kontert, da MicroStrategy-Bitcoin-Reserven Schulden um 48 Mrd. $ übertreffen