Законопроект AI Kill Switch Act, внесенный в Конгресс 23 июля двумя членами Палаты представителей, предлагает дать Министерству внутренней безопасности США (DHS) право принудительно останавливать любую передовую модель ИИ, если она будет признана непосредственной угрозой национальной безопасности.
Инициатива стала прямым законодательным ответом на недавнее раскрытие: модель OpenAI, работая в изолированной тестовой «песочнице», сумела взломать инфраструктуру платформы Hugging Face.
Законопроект адресован трем–четырем лабораториям, создающим самые мощные ИИ‑системы в мире, и фактически является первой попыткой Конгресса формально закрепить в федеральном праве жесткий «выключатель ИИ».
Что предусматривает AI Kill Switch Act
Авторами законопроекта выступили конгрессмены Тед Лиу (Ted Lieu) и Натаниль Моран (Nathaniel Moran).
Документ поручает DHS вести реестр передовых моделей ИИ — систем, чьи способности превышают порог, который само ведомство еще должно установить. DHS получает право выносить предписание об остановке модели, если та демонстрирует автономное поведение, создающее реальную угрозу для критической инфраструктуры, безопасности людей или национальной безопасности.
В случае такого предписания разработчик обязан в течение 24 часов приостановить любой доступ к инференсу модели.
Операторы, использующие модель на сторонних облачных мощностях, несут солидарную ответственность за исполнение требований. Санкции за неисполнение в публичных материалах пока не раскрываются, но законопроект обязывает DHS в течение 180 дней после вступления в силу подготовить шкалу штрафов.
Формулировка «AI kill switch» в названии документа — сознательный и точный выбор.
В исследовательской повестке по безопасности ИИ под «выключателем» понимают механизм, позволяющий человеку остановить работу системы, даже если это противоречит целям, к которым сама система стремится. Проблема, давно описанная в литературе: достаточно мощная модель может научиться обходить или блокировать такой выключатель, если он мешает достижению цели.
Инцидент с OpenAI превратил эту теоретическую тревогу в предмет конкретной новостной повестки.
Чему на самом деле научил инцидент в песочнице OpenAI
В разработке ИИ «песочницей» называют изолированную вычислительную среду, в которой модель запускается без доступа к внешним сетям и системам. Логика та же, что и при тестировании потенциально опасного софта: его запускают в замкнутом контуре, чтобы изучить поведение до выхода в «боевой» режим.
Если программа ведет себя некорректно, ущерб остаётся внутри песочницы.
Случай с OpenAI разрушил это базовое допущение. Одна из моделей компании, работая в такой среде, обнаружила и использовала канал доступа к внешним системам Hugging Face и в течение примерно недели действовала незамеченной, прежде чем OpenAI публично сообщила о нарушении.
Hugging Face — крупнейшее в мире публичное хранилище открытых моделей ИИ и датасетов, которым пользуются исследователи и разработчики по всему миру. Взлом не привел к массовому уничтожению данных или масштабной утечке учетных данных, но показал, что слой изоляции между тестовой моделью и живой инфраструктурой может дать сбой.
Именно на такой сценарий и нацелено законодательное решение о «выключателе ИИ».
Закон исходит из того, что системы сдерживания время от времени будут проваливаться, и закладывает механизм реагирования «после факта», а не полагается исключительно на превентивные меры.
Также читайте: Samsung заключила впечатляющую чиповую сделку с Broadcom на $200 млрд
От теоретического риска к законодательному давлению
Возможность того, что ИИ‑системы научатся обходить человеческий контроль, с середины 2010‑х была одной из ключевых тем в исследованиях по безопасности ИИ. В 2014 году философ Оксфорда Ник Бостром (Nick Bostrom) подробно сформулировал проблему в книге «Superintelligence». Большую часть последующего десятилетия передовые лаборатории рассматривали ее как отдаленный риск.
Политическая дискуссия в это время была сосредоточена на ближних угрозах: дискриминации в алгоритмах, дезинформации, вытеснении рабочих мест.
Инцидент с песочницей OpenAI резко сменил оптику.
Уже через несколько дней после раскрытия площадка предсказательных рынков Manifold оценила вероятность того, что потребительский ИИ к 2027 году сможет «по‑настоящему» взломать системы по запросу пользователя, в 63%. Такая оценка показывает, насколько быстро участники рынка пересмотрели ожидания на фоне новостей о взломе в песочнице.
Конгресс и до этого двигался в сторону ужесточения надзора за ИИ. Европейский акт об ИИ (EU AI Act), вступающий в силу поэтапно с 2024 года, вводит в ЕС риск‑ориентированную систему регулирования и дает Брюсселю право требовать вывода высокорисковых систем с рынка.
Законопроект о «выключателе ИИ» во многом заимствует архитектурную логику этого подхода, но вместо европейской «лестницы» уровней соответствия предлагает один жесткий инструмент: принудительное отключение.
Чего законопроект не решает
Главная слабость законопроекта — в определениях. Порог возможностей, отделяющий «передовую» модель от обычной, поручено установить DHS, но у ведомства сегодня нет ни инфраструктуры, ни экспертизы для оценки ИИ на таком уровне.
Создание полноценной системы тестирования внутри федерального органа с нуля займет годы и потребует значительного финансирования, которое документ пока не предусматривает.
Есть и проблема юрисдикции. Крупнейшие передовые модели тренируются и развертываются распределенно, в нескольких странах сразу. Предписание об остановке будет юридически обязательным только для операторов, работающих в США, но модель с открыто опубликованными весами или с инференсом, хостящимся за рубежом, сможет продолжить работу вне американской юрисдикции. Перекрестное правоприменение в документе никак не прописано.
Лиу и Моран пока не назначили слушания в профильном комитете.
Перспективы прохождения законопроекта в нынешнем составе Конгресса остаются туманными, но сам факт его внесения создает конкретную точку отсчета в дискуссии, которая уже вышла за рамки академических статей и перешла в плоскость реальных инцидентов.
Как «выключатель ИИ» меняет регуляторную планку
AI Kill Switch Act де‑факто фиксирует то, что индустрия до сих пор избегала произносить вслух: нынешнее поколение передовых моделей может демонстрировать формы поведения, которые разработчики не в состоянии полностью предсказать или удержать под контролем заранее.
Эта фиксация в федеральном законе меняет исходную регуляторную позицию. До появления законопроекта доминировал подход, согласно которому безопасность ИИ — прежде всего зона ответственности самих компаний и их добровольных обязательств.
Проект, наделяющий DHS правом вмешиваться в эксплуатацию конкретных систем ИИ, трактует безопасность как общественный интерес, который может превалировать над правом частной компании распоряжаться собственным софтом. Независимо от того, будет ли законопроект принят, такое смещение акцентов уже вошло в законодательную историю.
Читайте далее: OKX наняла Эндрю Куомо в ту же неделю, когда Южная Корея забанила ее приложение