Технообозреватель Джон Грубер резко раскритиковал решение Anthropic помечать водяным знаком каждый ответ Claude — меру, продиктованную кодексом ЕС, который уже поддержали порядка 190 организаций.
Ключевые моменты
- По словам Грубера, ради распознаваемости текста система жертвует точностью словоупотребления, что он называет «порчей самого письма».
- Anthropic утверждает, что использует подход, аналогичный SynthID-Text от Google DeepMind, и на реальном качестве текста это никак не сказывается.
- Часть платных пользователей уже отменяет подписку, а анонсированный сервис детектирования до сих пор не имеет даты запуска.
Грубер атакует водяной знак Claude
В своей воскресной публикации Грубер заявил, что новая система подрывает само ремесло письма. Его возмущает не цель — маркировать ИИ‑контент, — а конкретный механизм.
По его описанию, водяной знак подталкивает Claude к определённым словам в тех местах, где два‑три варианта одинаково уместны по смыслу. Но у любых синонимов различаются оттенки значения, и вмешательство в такие выборы, по мнению Грубера, искажает авторскую интонацию. Причём одинаковому вмешательству подвергаются и приватные чаты, и тексты, предназначенные для публикации.
Он также считает европейское требование бесполезным: любой, кто хочет скрыть следы, может пропустить текст через перефразировщик и размазать сигнатуру системы.
Итоговый приговор Грубера звучит однозначно: он называет происходящее «извращением письма».
Также по теме: Запуск iPhone Ultra грозит жёстким дефицитом после заказа на 10 млн устройств
Anthropic защищает метод SynthID
Anthropic заявила 14 августа, что её подход основан на SynthID-Text от Google DeepMind и меняет лишь источник случайности, который управляет выбором слов в «низкозначимых» позициях.
Компания утверждает, что эта техника «не оказывает практически никакого влияния на качество или содержание ответов Claude». Подталкивание блокируется в ситуациях, когда верен только один конкретный ответ, включая арифметику и работающий программный код. При этом комментарии внутри кода остаются «зоной», где водяной знак может проставляться.
Anthropic отдельно подчёркивает, что метка не содержит персональных данных и не позволяет идентифицировать человека, организацию или конкретный чат.
Проверка наличия водяного знака зависит от ключа, который есть только у Anthropic. Внешние стороны, соответственно, не могут ничего верифицировать до запуска обещанного сервиса по детектированию, а его дата до сих пор не объявлена. На коротких текстах надёжность распознавания снижается: слишком мало словесных «выборов», чтобы судить уверенно. Anthropic признаёт, что вычитка, суммаризация и перевод тоже могут оставить метку на материале, который изначально был написан человеком.
Десятки платных подписчиков уже начали отменять свои планы, называя водяной знак «аламским клеймом», которое нельзя до конца стереть лёгкой переработкой текста.
График внедрения водяного знака
Конфликт разворачивается уже около двух недель. Обязанности по прозрачности, закреплённые в статье 50 Акта ЕС об ИИ, вступили в силу 2 августа и предусматривают штрафы до 15 млн евро или 3% от мирового годового оборота.
Сначала Anthropic обновила страницы поддержки, а 14 августа опубликовала более развёрнутое техническое объяснение после критики в адрес первого, слишком «пустого» документа.
Эссе Грубера вышло двумя днями позже. Сообщения об отменах подписок появились уже на следующий день. Старые модели Claude пока работают без водяного знака, но компания заявляет, что распространит систему маркировки и на них в ближайшие месяцы.
Читайте далее: Быки по XRP ставят $2,16 млрд на отскок, несмотря на слабый институциональный спрос
