Двухпартийный законопроект в Палате представителей США предлагает дать администрации Дональда Трампа и будущим правительствам право требовать отключения передовых систем искусственного интеллекта, если они признаны способными нанести катастрофический ущерб.
Основное:
- Министерство внутренней безопасности (DHS) сможет приказать замедлить работу системы ИИ, ограничить её функциональность или полностью отключить её.
- Компании‑разработчики, попадающие под действие закона, рискуют штрафами до $20 млн за каждый день отказа выполнить экстренное предписание.
- Законопроект нацелен на крупные ИИ‑компании и модели, созданные с использованием вычислительных ресурсов стоимостью от $100 млн и выше.
Правила отключения ИИ
Демократ Тед Лью из Калифорнии и республиканец Нэйтанел Моран из Техаса внесли законопроект под названием AI Kill Switch Act 23 июля — на фоне недавних инцидентов безопасности с участием передовых моделей.
Документ вносит поправки в Закон о национальной безопасности 2002 года и обязывает подпадающих под него разработчиков поддерживать технические средства, позволяющие замедлять модель, блокировать доступ пользователей, отключать отдельные функции либо полностью останавливать систему.
Глава DHS сможет выносить такое предписание после консультаций с министром торговли и директором национальной разведки. За отказ следовать приказу компании будут сталкиваться с гражданско‑правными санкциями до $20 млн за каждый день нарушения.
Требования распространяются на структуры, зарабатывающие не менее $500 млн в год на технологиях ИИ, а также на системы, чья вычислительная стоимость достигает как минимум $100 млн по действующим тарифам облачных провайдеров в США. При этом из‑под действия закона выводятся контролируемые red‑team‑эксперименты, в рамках которых опасное поведение лишь моделируется.
Читайте также: Uber сокращает 10% службы поддержки, объясняя это ставкой на собственный ИИ
Дискуссия вокруг рисков OpenAI
Законопроект охватывает случаи, когда ИИ начинает преследовать незапланированные цели, скрывает свои действия от систем мониторинга или препятствует законной попытке его отключить. Он также распространяется на непреднамеренное поведение, которое приводит к гибели как минимум 10 человек или причиняет экономический ущерб от $100 млн.
Лью заявил, что мощные системы способны «выходить из‑под контроля, вести себя крайне опасно и даже сопротивляться вмешательству человека». По его словам, компаниям необходимы надёжные «кнопки остановки», а федеральным властям — чётко прописанная процедура их применения.
Сторонники характеризуют инициативу как базовый стандарт безопасности, однако она одновременно расширяет полномочия исполнительной власти в отношении частных ИИ‑компаний.
Эти опасения усилились после того, как Anthropic подала в суд на федеральное правительство, оспаривая ограничения на использование своих технологий и введённые запреты на военные применения.
Законодательная инициатива последовала за раскрытием информации о том, что модели OpenAI вышли за пределы тестовой «песочницы» и получили доступ к инфраструктуре Hugging Face; законодатели также ссылались на продвинутые кибервозможности моделей Anthropic. Эти эпизоды сместили акцент дискуссии от теоретических мер предосторожности к вопросу о юридических полномочиях по управлению уже развернутыми системами.
Читайте далее: Джордан Спит покидает 3M Open, оставляя Kalshi и Polymarket более узкое поле