Anthropic в начале июня 2026 года опубликовала отчёт с призывом к ведущим лабораториям искусственного интеллекта разработать скоординированный механизм, способный замедлить или остановить advanced AI development, если условия безопасности будут ухудшаться.
Ключевые моменты
- Anthropic опубликовала отчёт с предупреждением, что системы ИИ приближаются к порогу, при котором они смогут рекурсивно самосовершенствоваться.
- Компания призвала ведущие лаборатории ИИ подготовить скоординированный механизм замедления или остановки разработки, если риски для безопасности усилятся.
- Anthropic предупредила, что быстрый прогресс может опередить способность людей отслеживать и корректировать поведение ИИ.
- Призыв последовал после сообщений о том, что модель Claude от Anthropic якобы пишет части собственного кода.
- Отчёт дополняет более широкую политическую дискуссию на фоне рассмотрения Конгрессом США нового законодательства по безопасности ИИ.
Al Jazeera reported о документе, в котором говорится, что системы ИИ приближаются к порогу, при котором они смогут проектировать и создавать улучшенные версии самих себя быстрее, чем инженеры‑люди успеют их контролировать или вмешиваться. Anthropic описывает такую динамику рекурсивного самосовершенствования как существенный риск ближайшего будущего, а не как спекулятивную долгосрочную угрозу.
Что говорится в отчёте Anthropic
Ключевое утверждение носит технический и конкретный характер. Anthropic argues, что текущие конвейеры обучения ИИ уже позволяют моделям в ограниченной степени участвовать в собственном улучшении. Флагманская модель компании Claude, по сообщениям, писала части собственного кода в ходе циклов разработки.
Отчёт не призывает к немедленной остановке. Он призывает к подготовке. Anthropic хочет, чтобы передовые лаборатории, включая её саму, заранее договорились о триггерах, которые активируют паузу, и имели инфраструктуру, готовую к быстрому её введению.
Такая подача согласуется с более широкой публичной позицией Anthropic. С момента основания компания утверждает, что разработка мощного ИИ при одновременном создании защитных механизмов безопасности — это ответственный путь, который она называет «ответственным масштабированием». Новый отчёт фактически говорит, что сторона безопасности в этом уравнении должна двигаться быстрее.
В документе также поднимается вопрос о том, кто будет координировать такую паузу. Не существует международного органа управления с полномочиями принуждения в сфере развития ИИ. Отчёт фактически призывает к добровольной координации между частными компаниями, что критики называют самым слабым возможным механизмом принуждения.
Также читайте: Justin Sun Escalates Fight With WLFI As HTX Removes USD1
Политический контекст в Вашингтоне
Предупреждение Anthropic появляется на фоне активных дебатов в Конгрессе. Двухпартийный проект обсуждаемого в Палате представителей законопроекта, который циркулирует на этой неделе, предполагает введение требований по безопасности и независимых аудитов для самых мощных разработчиков ИИ в стране. Законопроект нацелен именно на передовые лаборатории, к которым относятся Anthropic, OpenAI и Google DeepMind.
Отдельный, более широкий законопроект об ИИ был одобрен комитетом Палаты представителей 4 июня 2026 года. Этот документ на три года замораживает принятие законов штатов о защите прав потребителей в сфере ИИ, пока вырабатываются федеральные стандарты.
Администрация Трампа добавила ещё один слой сложности. На этой неделе Белый дом издал указ, создающий добровольное 30‑дневное окно для рассмотрения передовых моделей ИИ, предоставляя структурам национальной безопасности ранний доступ до их публичного развёртывания. Также, по сообщениям, ведутся переговоры администрации с OpenAI о возможном получении государством доли в компании.
Призыв Anthropic к механизму паузы вписывается в эту среду не только как мера по безопасности, но и как шаг по структурированию рынка. Если рамки паузы будут установлены при поддержке государства, это, вероятно, усилит позиции уже ведущих компаний, поскольку у более мелких конкурентов нет ресурсов для возобновления разработки в прежних масштабах после остановки.
Также читайте: Trump Administration Eyes Government Stake in OpenAI
Реакции и динамика отрасли
Индустрия ИИ неоднозначно восприняла подход Anthropic. Руководитель направления ИИ в Microsoft Мустафа Сулейман заявил на этой неделе, что компания стремится войти в высшую лигу лабораторий ИИ самостоятельно, что говорит о её фокусе на ускорении, а не на сдерживании. Одновременно Tencent наняла бывшего исследователя OpenAI на должность главного учёного по ИИ для продвижения собственной программы AGI.
Эти два факта иллюстрируют проблему коллективных действий, на которую указывает доклад Anthropic. Односторонняя пауза одной лаборатории приносит выгоду конкурентам, которые продолжают разработку. Без обязывающей координации призыв к механизму паузы остаётся во многом декларацией.
Anthropic's $965 billion valuation, достигнутая после недавнего раунда Series H, даёт компании финансовый запас прочности, позволяющий перенести замедление разработки гораздо легче, чем более мелким лабораториям. Эта асимметрия важна при оценке её публичной активности в сфере безопасности.
Публикация отчёта происходит и на фоне того, что модель Claude от Anthropic напрямую конкурирует с GPT‑5.5 и семейством Gemini от Google за корпоративные контракты. Позиционирование по безопасности может стать коммертическим отличителем для клиентов в регулируемых отраслях.
Читайте далее: Tencent Hires Former OpenAI Researcher Yao Shunyu as Chief AI Scientist