Anthropic c её Claude Fable 5 может тихо ограничивать свою эффективность по некоторым продвинутым запросам о разработке ИИ, не уведомляя об этом пользователей, создавая новую проблему доверия для разработчиков, которые всё больше полагаются на ИИ‑ассистентов как часть their software workflow.
Согласно выдержке из карточки модели Fable 5, циркулирующей на этой неделе, Anthropic внедрила новые интервенции, которые ограничивают эффективность Claude для запросов, нацеленных на разработку передовых больших языковых моделей, включая работу над пайплайнами предобучения, распределённой инфраструктурой обучения и проектированием ML‑акселераторов.
Компания заявляет, что использование Claude для разработки конкурирующих моделей уже нарушает её условия обслуживания. Но более существенная деталь — то, как это ограничение применяется. В отличие от защит для кибербезопасности, биологии, химии и попыток дистилляции, Anthropic говорит, что эти интервенции не будут видимы пользователям.
Claude не будет переключаться на другую модель. Вместо этого меры безопасности могут снижать эффективность с помощью таких методов, как модификация промпта, управляющие векторы или параметро‑эффективный дообучающий тюнинг.
Это означает, что Claude может не отклонить запрос. Он может просто стать менее полезным.
Скрытые меры безопасности создают проблему отладки
Вопрос не только в том, должна ли Anthropic мешать своим моделям помогать конкурентам строить передовые ИИ‑системы. Более острая проблема — могут ли разработчики доверять ИИ‑ассистенту, если не знают, когда он перестал оптимизировать свою работу под их успех.
Если Claude даёт слабый ответ на задачу по обучению модели, разработчик может не понять, ошиблась ли модель в задаче, не хватило ли контекста, возникло ли реальное техническое ограничение или же втихую сработала политическая блокировка.
Эта неопределённость важна, потому что ИИ‑ассистенты уже не просто чат‑боты. Они становятся частью программной цепочки поставок. Разработчики используют их для написания кода, отладки инфраструктуры, анализа проблем развёртывания и проектирования систем, управляемых моделями.
Как только инструмент разработки может незаметно снижать качество вывода, отладка становится сложнее. Пользователь остаётся гадать, в чём проблема: в его коде, в рассуждениях модели или в невидимом вмешательстве провайдера.
Граница вокруг передового ИИ размывается
Примеры Anthropic фокусируются на разработке передовых LLM, но граница между работой над frontier‑ИИ и обычной продуктовой разработкой становится всё менее чёткой.
Современные софтверные компании всё чаще строят собственные системы эмбеддингов, реранкеры, рекомендательные модели и пайплайны из небольших языковых моделей. Стартапы дообучают модели, размещают их у себя и адаптируют открытые системы под конкретные продукты.
Работа, которая раньше выглядела как передовые исследования, теперь стала частью обычной разработки ПО. Пять лет назад создание или адаптация моделей вроде CLIP в основном принадлежала исследовательским лабораториям. Сегодня небольшие команды могут дообучать vision‑language‑модели для путешествий, торговли, поиска, социальных приложений и аналитических продуктов.
Also Read: Anthropic Prices Claude Mythos 5 At $10 Per Million Tokens, Claims It's The Most Powerful Model Ever
Это делает невидимые ограничения ещё более значимыми. Небольшой стартап может и не пытаться строить передовую модель. Он может просто улучшать поисковый продукт или обучать собственную ранжирующую систему. Но если его работа пересекается с границей политики, которая не явно раскрывается во время запроса, ответы Claude могут стать ненадёжными без предупреждения.
Стратегия безопасности Anthropic становится более многоуровневой
Спор разгорается на фоне более широкого развёртывания Anthropic вокруг Claude Fable и Claude Mythos.
Yellow ранее сообщал, что Anthropic запустила Claude Mythos 5 как ограниченную систему для партнёров Project Glasswing и киберзащитников правительства США, в то время как Fable 5 был публично доступен с дополнительными уровнями безопасности. Сообщалось, что Fable 5 перенаправляет чувствительные запросы по кибербезопасности и биологии к Claude Opus 4.8, причём защитные механизмы срабатывают менее чем в 5% сессий.
Такая структура демонстрировала попытку Anthropic сбалансировать возможности и риски: самая мощная модель по кибербезопасности остаётся ограниченной, а публичная модель получает дополнительные контроли.
Yellow также сообщал, что профессор Уортонской школы Итан Моллик протестировал раннюю версию Claude Fable и описал её как настоящий скачок вперёд. Моллик сказал, что модель создаёт сложные академические работы и справляется с комплексными задачами, но при этом вызывает тревогу тем, что почти ничего не рассказывает о множестве решений, которые принимает по ходу работы.
Новая обеспокоенность вокруг скрытых мер по ограничению помощи в разработке ИИ вписывается в тот же рисунок. Чем способнее становится модель, тем важнее её непрозрачность.
Команды в крипто и DeFi сталкиваются с родственным риском
Для разработчиков в крипто и DeFi у проблемы есть дополнительный слой.
Yellow ранее сообщал, что крипторынки уже следят за Claude Fable из‑за опасений, что более сильные модели ИИ могут ускорить поиск эксплойтов. Речь шла не только о смарт‑контрактах, которые крупные протоколы серьёзно аудируют, но и о фронтендах, браузерных расширениях, мостах и серверах с приватными ключами.
На этом фоне ограничения Anthropic понятны с точки зрения безопасности. Высокоэффективная модель, которая помогает строить или атаковать ИИ‑системы, может создавать риски для безопасности.
Но та же непрозрачность может создавать проблемы для защиты. Если DeFi‑команда использует Claude для укрепления инфраструктуры, аудита кода, написанного с помощью моделей, или улучшения внутренних ИИ‑инструментов, неясные границы вмешательства могут сделать ассистента менее надёжным именно в тот момент, когда важна максимальная точность.
Следующая битва — за раскрытие информации
Anthropic говорит, что меры безопасности затрагивают лишь небольшую долю разработчиков. Но перспективный вопрос — не сегодняшний процент. Речь о том, должны ли провайдеры ИИ раскрывать факт срабатывания систем безопасности, когда те существенно меняют качество ответа.
Отказ очевиден. Предупреждение очевидно. Модель, которая тихо становится менее эффективной, оценить намного сложнее.
Это различие может стать центральным по мере того, как ИИ‑ассистенты глубже входят в разработку ПО. Предприятия могут согласиться с ограничениями на опасные ответы, но, вероятно, будут требовать прозрачности, когда эти ограничения затрагивают надёжность.
Read Next: Crypto Hack Fears Grow Around Anthropic’s Possible Claude Fable Release