Signal Президентка Мередіт Віттакер попередила, що користувачам не слід сприймати ШІ-чатботів як друзів, довірених осіб чи свідомих партнерів у приватних розмовах.
Ключові моменти:
- Віттакер сказала, що чатботи на кшталт ChatGPT і Claude — не друзі й не співрозмовники зі свідомістю.
- Вона зазначила, що використовує ШІ лише для обмеженого форматування, а не для мислення чи письма.
- Її найсильніше попередження стосувалося ШІ-агентів, яким потрібен доступ до повідомлень, платежів, браузерів і календарів.
Попередження Signal
Віттакер зробила ці зауваження в інтерв’ю Bloomberg про політику, приватність і Signal, де її запитали про ризики для конфіденційності, пов’язані з чатботами на кшталт ChatGPT і Claude. “Це не ваші друзі. Це не свідомі істоти. Це не співрозмовники зі свідомістю”, — сказала вона.
Вона зазначила, що інколи використовує інструменти ШІ “щоб тут і там відформатувати документ”, але не ставить їм запитань. Віттакер сказала, що дуже серйозно ставиться до свого мислення і письма та не хоче, щоб цей процес переривався системою, яка “усереднює все, що вже є в мережі”.
Її коментарі відповідають ширшій позиції Signal: приватні комунікації не повинні ставати вхідними даними для систем, побудованих на широкому доступі до даних. Попередження не було відмовою від усього використання ШІ, а радше відмовою сприймати чатботів як надійних особистих аналогів.
Також читайте: Bitcoin Reclaims $64K On $39B Rally But Spot Demand Weakens
Приватність у ШІ
Віттакер також поставила під сумнів сценарій, який описав CEO Microsoft AI Мустафа Сулейман, котрий припустив, що користувачі зможуть доручити Microsoft Copilot у цьому році повністю влаштувати їхні різдвяні покупки. Вона сказала, що така система для роботи в описаному вигляді потребуватиме широкого доступу до персональних даних.
Такий доступ, за її словами, може включати кредитну картку, браузер, Signal, можливість писати братам і сестрам, домашню адресу та календар. “Те, що ви щойно описали, — це система з дуже широким доступом до кількох застосунків і сервісів”, — сказала Віттакер.
Вона додала, що в контексті Signal це було б “своєрідним бекдором”.
Її думка полягає в тому, що агентні ШІ-асистенти змінюють питання приватності, бо вони не лише відповідають на запити, а й можуть потребувати дозволу діяти між сервісами.
Дискусія відбувається на тлі ширшого зсуву на ринку ШІ: від чатботів, які відповідають всередині одного застосунку, до асистентів, які можуть планувати, купувати, надсилати повідомлення й призначати зустрічі. Це робить саме доступ, а не лише якість відповідей, головним питанням у розмовах про приватність споживчого ШІ.
Читати далі: Saylor Fires Back As Strategy Bitcoin Reserves Beat Debt By $48B