Signal-Präsidentin Meredith Whittaker warnte, dass Nutzer KI-Chatbots in privaten Gesprächen nicht als Freunde, Vertraute oder bewusste Partner behandeln sollten.
Zentrale Punkte:
- Whittaker sagte, Chatbots wie ChatGPT und Claude seien keine Freunde oder fühlenden Gesprächspartner.
- Sie sagte, sie nutze KI nur für begrenzte Formatierungsarbeiten, nicht zum Denken oder Schreiben.
- Ihre stärkste Warnung richtete sich gegen KI-Agenten, die Zugriff auf Nachrichten, Zahlungen, Browser und Kalender benötigen.
Signal-Warnung
Whittaker äußerte sich in einem Bloomberg-Interview über Politik, Datenschutz und Signal, in dem sie zu den Datenschutzrisiken von Chatbots wie ChatGPT und Claude befragt wurde. „Das sind nicht deine Freunde. Das sind keine bewussten Wesen. Das sind keine fühlenden Gesprächspartner“, sagte sie.
Sie sagte, sie nutze KI-Werkzeuge manchmal „hier und da, um ein Dokument zu formatieren“, stelle ihnen aber keine Fragen. Whittaker sagte, sie nehme ihr Denken und Schreiben „sehr ernst“ und wolle nicht, dass dieser Prozess durch ein System unterbrochen werde, das „das zusammenfasst, was bereits draußen ist“.
Ihre Kommentare passen zu Signals breiterer Haltung, dass private Kommunikation nicht zu Eingaben für Systeme werden sollte, die auf umfangreichen Datenzugriff ausgelegt sind. Die Warnung war nicht als Ablehnung jeder KI-Nutzung gemeint, sondern als Zurückweisung der Vorstellung, Chatbots als vertrauenswürdige persönliche Gegenstücke zu betrachten.
KI-Datenschutz
Whittaker stellte sich auch gegen ein Szenario von Microsoft AI-CEO Mustafa Suleyman, der vorhergesagt hatte, dass Nutzer Microsoft Copilot in diesem Jahr alle ihre Weihnachtseinkäufe erledigen lassen könnten. Sie sagte, ein solches System bräuchte umfangreichen Zugriff auf persönliche Daten, um wie beschrieben zu funktionieren.
Zu diesem Zugriff könnten ihrer Ansicht nach eine Kreditkarte, ein Browser, Signal, die Möglichkeit, Geschwister zu kontaktieren, eine Privatadresse und ein Kalender gehören. „Was Sie gerade beschrieben haben, ist ein System mit sehr weitreichendem Zugriff über mehrere Anwendungen und Dienste hinweg“, sagte Whittaker.
Hinzu komme, dass dies im Kontext von Signal „eine Art Hintertür“ darstellen würde.
Ihr Punkt war, dass agentische KI-Assistenten die Datenschutzfrage verändern, weil sie nicht nur Eingaben beantworten, sondern womöglich Berechtigungen benötigen, um über verschiedene Dienste hinweg zu handeln.
Die Debatte folgt einem breiteren Wandel im KI-Markt: von Chatbots, die innerhalb einer einzelnen App reagieren, hin zu Assistenten, die planen, kaufen, Nachrichten senden und Termine organisieren können. Dadurch wird der Zugriff und nicht nur die Ausgabequalität zum zentralen Thema in Datenschutzdebatten rund um Verbraucher-KI.
Weiter lesen: Saylor schlägt zurück, da Strategy-Bitcoin-Reserven Schulden um 48 Milliarden US-Dollar übertreffen