Anthropic на початку червня 2026 року опублікувала звіт, у якому закликала провідні лабораторії штучного інтелекту розробити скоординований механізм, здатний уповільнити або зупинити advanced AI development, якщо умови безпеки погіршаться.
Основні тези
- Anthropic опублікувала звіт, у якому попереджає, що системи ШІ наближаються до порогу, за яким вони зможуть рекурсивно самовдосконалюватися.
- Компанія закликала провідні лабораторії ШІ підготувати скоординований механізм для уповільнення або зупинки розробки, якщо ризики безпеки зростатимуть.
- Anthropic попереджає, що швидкий прогрес може випередити здатність людей відстежувати та коригувати поведінку ШІ.
- Заклик пролунал після того, як модель Claude від Anthropic, за повідомленнями, написала частину власного коду.
- Звіт підсилює ширшу політичну дискусію, тоді як Конгрес США розглядає нове законодавство щодо безпеки ШІ.
Al Jazeera reported про документ, у якому попереджається, що системи ШІ наближаються до порогу, після якого вони зможуть проєктувати й створювати покращені версії самих себе швидше, ніж інженери-люди встигатимуть за ними стежити чи втручатися. Anthropic описує цю динаміку рекурсивного самовдосконалення як суттєвий ризик у найближчій перспективі, а не як віддалену гіпотетичну загрозу.
Що стверджується у звіті Anthropic
Основне твердження має технічний і конкретний характер. Anthropic argues, що поточні пайплайни тренування ШІ вже дозволяють моделям у певних межах сприяти власному вдосконаленню. За повідомленнями, флагманська модель компанії Claude під час циклів розробки писала частину власного коду.
У звіті не йдеться про негайне припинення розробки. Йдеться про підготовку. Anthropic хоче, щоб передові лабораторії, включно з нею самою, заздалегідь домовилися про тригери, які активуватимуть паузу, а також мали інфраструктуру для швидкої її реалізації.
Такий підхід відповідає ширшому публічному позиціонуванню Anthropic. З моменту заснування компанія наполягає, що відповідальний шлях — це паралельна розробка потужного ШІ та захисних механізмів безпеки, підхід, який вона називає «відповідальним масштабуванням». Новий звіт фактично стверджує, що компонент безпеки в цьому рівнянні повинен рухатися швидше.
Документ також ставить питання, хто координуватиме таку паузу. Наразі не існує міжнародного органу врядування з повноваженнями примусового нагляду за розробкою ШІ. Звіт імпліцитно закликає до добровільної координації між приватними компаніями, що критики називають найслабшою можливою моделлю примусу.
Also Read: Justin Sun Escalates Fight With WLFI As HTX Removes USD1
Політичний контекст у Вашингтоні
Попередження Anthropic пролунало на тлі активних дебатів у Конгресі. Двопартійний робочий проєкт, який цього тижня циркулює в Палаті представників, передбачає обов’язкові вимоги з безпеки та незалежні аудити для найпотужніших розробників ШІ у країні. Законопроєкт націлено саме на передові лабораторії — до цієї категорії належать Anthropic, OpenAI та Google DeepMind.
Окремий, ширший законопроєкт про ШІ пройшов голосування в комітеті Палати 4 червня 2026 року. Це законодавство заморожує на три роки прийняття нових законів про захист прав споживачів щодо ШІ на рівні штатів, доки розроблятимуться федеральні стандарти.
Адміністрація Трампа додала ще один шар складності. Біллий дім цього тижня видав указ, що створює добровільне 30-денне вікно для перегляду передових моделей ШІ, надаючи органам нацбезпеки ранній доступ до них до публічного запуску. Також, за повідомленнями, адміністрація веде переговори з OpenAI про можливе отримання державної частки в компанії.
Заклик Anthropic до механізму паузи вписується в це середовище не лише як крок із безпеки, а й як інструмент структурування ринку. Якщо рамки паузи будуть встановлені за участі уряду, це, ймовірно, зіграє на користь компаній, які вже перебувають на технологічному фронтирі, оскільки менші конкуренти не мають ресурсів, щоб після зупинки швидко відновити розробку у великих масштабах.
Also Read: Trump Administration Eyes Government Stake in OpenAI
Реакції та динаміка індустрії
Індустрія ШІ неоднозначно сприйняла підхід Anthropic. Глава підрозділу ШІ в Microsoft, Мустафа Сулейман, цього тижня заявив, що Microsoft прагне самостійно увійти до елітного кола лабораторій ШІ, що свідчить про орієнтацію компанії радше на прискорення, ніж на стримування. Тим часом Tencent найняла колишнього дослідника OpenAI на посаду головного науковця з ШІ, щоб посилити власні зусилля в напрямку AGI.
Ці два приклади ілюструють проблему колективних дій, на яку вказує звіт Anthropic. Одностороння пауза в одній лабораторії приносить вигоду конкурентам, які продовжують розробку. Без обов’язкової координації заклик до механізму паузи залишається радше декларацією.
Anthropic's $965 billion valuation, досягнута після недавнього раунду Series H, забезпечує компанії фінансовий запас міцності, який дозволяє легше пережити уповільнення розробки, ніж це можуть собі дозволити менші лабораторії. Ця асиметрія має значення під час оцінки її адвокації в сфері безпеки.
Публікація звіту також відбувається на тлі того, що модель Claude від Anthropic безпосередньо конкурує з GPT-5.5 і сімейством Gemini від Google за корпоративні контракти. Позиціонування в сфері безпеки може стати комерційною перевагою для клієнтів із високорегульованих галузей.
Read Next: Tencent Hires Former OpenAI Researcher Yao Shunyu as Chief AI Scientist