Anthropic на початку червня 2026 року опублікувала звіт, у якому закликала провідні лабораторії зі штучного інтелекту розробити скоординований механізм, здатний уповільнювати або зупиняти advanced AI development, якщо умови безпеки погіршаться.
Ключові тези
- Anthropic опублікувала звіт, у якому попереджає, що системи ШІ наближаються до порогу, за яким вони зможуть рекурсивно самовдосконалюватися.
- Компанія закликала провідні лабораторії ШІ підготувати скоординований механізм для уповільнення або зупинки розвитку, якщо ризики для безпеки зростатимуть.
- Anthropic попереджає, що швидкий прогрес може випередити здатність людей контролювати й коригувати поведінку ШІ.
- Заклик з’явився після повідомлень, що модель Claude від Anthropic нібито написала частину власного коду.
- Звіт підсилює ширшу політичну дискусію, оскільки Конгрес США розглядає нове законодавство щодо безпеки ШІ.
Al Jazeera reported про документ, у якому попереджається, що системи ШІ наближаються до порогу, коли вони зможуть проєктувати й створювати покращені версії самих себе швидше, ніж інженери-люди встигатимуть їх відстежувати або втручатися. Anthropic описує цю динаміку рекурсивного самовдосконалення як реальний ризик найближчого майбутнього, а не як спекулятивну довгострокову загрозу.
Що стверджується у звіті Anthropic
Основне твердження є технічним і конкретним. Anthropic argues, що поточні конвеєри навчання ШІ вже дозволяють моделям у певних межах робити внесок у власне вдосконалення. За повідомленнями, Claude, флагманська модель компанії, під час циклів розробки написала частину свого ж коду.
Звіт не закликає до негайної зупинки. Він закликає до підготовки. Anthropic хоче, щоб передові лабораторії, включно з нею самою, заздалегідь домовилися про тригери, які активують паузу, і мали інфраструктуру, готову швидко її реалізувати.
Таке формулювання узгоджується з ширшою публічною позицією Anthropic. З часу заснування компанія стверджує, що розробка потужного ШІ паралельно зі створенням запобіжників безпеки є відповідальним шляхом, який вона називає «відповідальне масштабування». Новий звіт фактично стверджує, що компонент безпеки в цьому рівнянні має рухатися швидше.
Документ також порушує питання, хто координуватиме таку паузу. Жодного міжнародного органу управління з повноваженнями примусового контролю за розвитком ШІ не існує. Звіт імпліцитно закликає до добровільної координації між приватними компаніями, що, як зауважують критики, є найслабшою можливою моделлю примусу.
Also Read: Justin Sun Escalates Fight With WLFI As HTX Removes USD1
Політичний контекст у Вашингтоні
Попередження Anthropic з’являється в розпал активних дебатів у Конгресі. Двопартійний робочий проєкт Палати представників, який циркулює цього тижня, передбачає вимоги до безпеки та незалежний аудит для найпотужніших американських розробників ШІ. Законопроєкт націлений саме на передові лабораторії, до яких належать Anthropic, OpenAI та Google DeepMind.
Окремий, ширший законопроєкт щодо ШІ був ухвалений комітетом Палати представників 4 червня 2026 року. Цей акт призупиняє дію законів штатів щодо захисту прав споживачів у сфері ШІ на три роки, доки розроблятимуться федеральні стандарти.
Адміністрація Трампа додала ще один шар складності. Цього тижня Білий дім видав указ, який створює добровільне 30-денне «вікно перегляду» для передових моделей ШІ, надаючи спецслужбам з питань нацбезпеки ранній доступ до їхніх можливостей ще до публічного розгортання. Також повідомляється про переговори адміністрації з OpenAI щодо можливої частки держави в компанії.
Заклик Anthropic до механізму паузи вписується в це середовище так само як ринкоформувальний крок, як і крок із міркувань безпеки. Якщо рамка для паузи буде створена за участі уряду, це, імовірно, зіграє на користь компаній, які вже перебувають на технологічному фронтирі, оскільки менші конкуренти не матимуть ресурсів, щоб відновити роботу в масштабі після зупинки.
Also Read: Trump Administration Eyes Government Stake in OpenAI
Реакції та динаміка в індустрії
Індустрія ШІ не сприйняла одностайно підхід Anthropic. Керівник напрямку ШІ в Microsoft Мустафа Сулейман заявив цього тижня, що Microsoft прагне самостійно приєднатися до елітного кола лабораторій ШІ, що свідчить про фокус компанії на прискоренні, а не на стримуванні. Тим часом Tencent найняла колишнього дослідника OpenAI на посаду головного науковця з ШІ для просування власних зусиль зі створення AGI.
Ці два приклади ілюструють проблему колективної дії, яку окреслює звіт Anthropic. Одностороння пауза з боку однієї лабораторії приносить вигоду суперникам, що продовжують розробку. Без обов’язкової координації заклик до механізму паузи лишається радше побажанням.
Anthropic's $965 billion valuation, досягнута після нещодавнього раунду Series H, дає компанії фінансовий запас міцності, який дозволяє їй легше пережити уповільнення розробки, ніж меншим лабораторіям. Ця асиметрія важлива для оцінки її адвокації безпеки.
Публікація звіту також збігається з тим, що модель Claude від Anthropic безпосередньо конкурує з GPT-5.5 і сімейством Gemini від Google за корпоративні контракти. Позиціонування щодо безпеки може стати комерційною перевагою для клієнтів у регульованих галузях.
Read Next: Tencent Hires Former OpenAI Researcher Yao Shunyu as Chief AI Scientist