Гендиректор Anthropic Дарио Амодеи призвал замедлить развитие ИИ в рамках трёхступенчатой системы надзора. Его инициативу поддержали конкуренты, но вокруг неё сразу возникли вопросы — от того, кто будет следить за исполнением, до влияния на конкуренцию и экономику отрасли.
Основное:
- Амодеи предложил независимый мониторинг моделей, отраслевые правила и глобальное регулирование.
- Сэм Альтман и Илон Маск поддержали идею замедления, но критики считают, что в плане нет реальных механизмов принуждения.
- Соперничество США и Китая и зависимость экономик от инвестиций в ИИ делают любой скоординированный «перерыв» крайне малореалистичным.
Инициатива Амодеи по замедлению ИИ
Амодеи выступил 12 сентября с призывом сбавить темпы разработки ИИ. Публично его поддержали глава OpenAI Сэм Альтман и Илон Маск. Бывший исследователь Anthropic Джейкоб Коксон заявил BBC, что люди, создающие передовые системы, «всерьёз напуганы» тем, что ждёт человечество.
В своём плане Амодеи настаивает на независимом мониторинге моделей на этапе разработки, внедрении общеотраслевых правил и создании глобального регуляторного контура. Предложение закрывает вопрос формального надзора, но не отвечает, кто именно будет вводить ограничения в действие и каким образом конкурирующим компаниям и государствам помешают продолжать гонку.
Глобальное противостояние — главный блокирующий фактор: США стремятся опережать Китай, а компании опасаются, что односторонняя пауза мгновенно отбросит их назад. 13 сентября президент Дональд Трамп заявил, что США опережают Китай в ИИ. «Кто выиграет ИИ, тот выиграет всё», — сказал он.
Читайте также: Биткоин держится около $77 000, но сигнал бычьего рынка всё ещё не подтверждён
Скепсис Эда Зитрона по поводу контроля
Глава EZ Primary Research Эд Зитрон считает план слишком расплывчатым, чтобы его всерьёз оценивать. «Никто так и не дал внятного объяснения, что именно означает “замедление”», — отметил он, добавив, что заморозка обучения моделей позволит китайским лабораториям догнать лидеров и копировать продукты тех, кто притормозил.
По словам Зитрона, ослабление темпов разработки может изменить ценовую модель и ударить по уже шаткой экономике ИИ. «Это может лопнуть пузырь», — предупредил он, указывая, что у индустрии до сих пор нет рабочей, операциональной дефиниции термина «замедление».
Неопределённость выходит далеко за рамки политики в области безопасности. Представитель Synthesia Александр Войка заявил, что регуляторы до сих пор не понимают, как именно будут использоваться всё более мощные системы, и предостерёг, что поспешное регулирование «может дать обратный эффект». Основательница Sustainable AI Саша Луччони добавила, что её больше тревожат корпоративные стимулы, чем абстрактные экзистенциальные риски.
В Великобритании ИИ активно продвигается в здравоохранении, на рынке труда и в экономической политике, так что любое широкое замедление становится не только вопросом безопасности, но и вопросом роста. Учёная-компьютерщик Венди Холл заявила, что именно компании должны отвечать за сдерживание своих систем, сравнив ситуацию с фермером, который не смог удержать буйного быка.
Скепсис звучит и с противоположной стороны: исследователь Capital Research Centre Паркер Тейер говорит уже о политическом проекте по тому, чтобы «зарегулировать ИИ до полного удушения» — утверждении, которое BBC охарактеризовала как крайнее и ничем не подтверждённое. В результате дискуссия захватывает всё: безопасность, технологическую гонку, инвестиции и корпоративную ответственность — но при этом у сторон по-прежнему нет общего механизма, который бы определял, насколько именно нужно замедлить развитие.
Сдвиг в риторике заметен на фоне первого глобального саммита по безопасности ИИ, прошедшего в Блетчли-парке в ноябре 2023 года: тогда дискуссия была сосредоточена в основном на крайних, отдалённых рисках. Спустя три года сами лидеры рынка открыто обсуждают необходимость замедления, но ключевые вопросы — о рабочих местах, регуляции и контроле над системами — так и остаются без ответа.
Читайте далее: DeepSeek и Moonshot выдавали ответы Claude за свои, заявляет Anthropic
