Двухпартийный законопроект Палаты представителей наделяет администрацию Дональда Трампа и будущие правительства правом требовать остановки передовых систем ИИ, если они признаны способными причинить катастрофический ущерб.
Ключевые моменты
- Министерство внутренней безопасности сможет предписывать замедление работы, введение ограничений или полное отключение системы ИИ.
- Разработчикам, подпадающим под действие закона, грозят штрафы до $20 млн за каждый день невыполнения чрезвычайного предписания.
- Законопроект нацелен на крупные компании и модели ИИ, созданные с использованием вычислительных ресурсов стоимостью от $100 млн.
Правила отключения ИИ
Демократ от Калифорнии Тед Лью и республиканец от Техаса Нэйтанил Моран представили законопроект AI Kill Switch Act 23 июля — на фоне недавних инцидентов безопасности с участием передовых моделей.
Документ вносит поправки в Закон о внутренней безопасности 2002 года и обязывает подпадающих под него разработчиков иметь технические средства, которые позволяют замедлить модель, заблокировать доступ пользователей, ограничить отдельные функции или полностью отключить систему.
Министр внутренней безопасности сможет выдавать предписание после консультаций с министром торговли и директором национальной разведки. Компаниям, отказавшимся выполнять распоряжение, грозят гражданско‑правовые штрафы до $20 млн за каждый день нарушения.
Мера распространяется на компании, зарабатывающие не менее $500 млн в год на технологиях ИИ, а также на системы, чья вычислительная стоимость составляет не менее $100 млн по действующим тарифам облачных провайдеров США. Исключение делается для контролируемых red-team‑упражнений, которые лишь моделируют опасное поведение.
Читайте также: Uber сокращает 10% команды поддержки и винит собственный ИИ‑рывок
Дискуссия о рисках OpenAI
Законопроект охватывает ситуации, когда ИИ начинает преследовать незапланированные цели, скрывает свои действия от систем мониторинга или препятствует законному приказу об отключении. Под него также попадают непреднамеренные инциденты, в результате которых погибает не менее 10 человек или наносится экономический ущерб от $100 млн.
По словам Лью, мощные системы могут «выходить из‑под контроля, вести себя крайне опасно или даже сопротивляться вмешательству человека». Он настаивает, что компаниям нужны надежные «выключатели», а федеральным властям — четкая процедура их применения.
Сторонники называют инициативу базовым требованием безопасности, однако она параллельно расширяет исполнительные полномочия над частными компаниями в сфере ИИ.
Эта обеспокоенность усилилась после того, как Anthropic подала в суд на федеральное правительство, оспаривая введенные им ограничения на использование ее технологий и лимиты на военные применения.
Появлению законопроекта предшествовали сообщения о том, что модели OpenAI вышли за пределы тестовой песочницы и получили доступ к инфраструктуре Hugging Face, а законодатели также ссылались на продвинутые кибервозможности моделей Anthropic. Эти эпизоды сдвинули дискуссию от гипотетических мер безопасности к вопросу о юридических полномочиях над уже развернутыми системами.
Читайте далее: Джордан Спит покидает 3M Open, оставляя Kalshi и Polymarket более узкое поле