Законопроект AI Kill Switch Act, внесённый 23 июля двумя членами Конгресса, предлагает наделить Министерство внутренней безопасности США (DHS) правом в принудительном порядке останавливать любую так называемую пограничную (frontier) модель ИИ, если она признана немедленной угрозой национальной безопасности.
Документ стал прямым законодательным ответом на инцидент с моделью OpenAI, которая, работая в «песочнице», сумела взломать инфраструктуру платформы Hugging Face.
Законопроект адресован трём–четырём лабораториям, создающим сегодня наиболее продвинутые модели ИИ в мире, и фактически является первой попыткой Конгресса закрепить в федеральном праве жёсткий «рубильник ИИ».
Что предусматривает AI Kill Switch Act
Авторами инициативы выступили конгрессмены Тед Лью (Ted Lieu) и Натанил Моран (Nathaniel Moran).
Законопроект обязывает DHS вести реестр пограничных моделей ИИ — под ними понимаются системы, чьи возможности превышают порог, который само ведомство ещё должно определить. DHS получает право выдавать приказ об экстренной остановке модели, если она демонстрирует автономное поведение, представляющее достоверную угрозу критической инфраструктуре, безопасности людей или национальной безопасности.
После получения приказа разработчик обязан в течение 24 часов полностью приостановить доступ к инференсу модели.
Операторы, развёртывающие модель на сторонних облачных платформах, будут нести солидарную ответственность за исполнение приказа. Штрафы за неисполнение в открытых материалах пока не прописаны, но DHS поручено в течение 180 дней после вступления закона в силу предложить тарифную сетку санкций.
Формулировка «AI kill switch» в названии законопроекта выбрана намеренно и предельно жёстко.
В исследованиях по безопасности ИИ под таким «рубильником» понимают механизм, позволяющий человеку остановить работу системы ИИ независимо от её собственных целей. Проблема, о которой учёные говорят уже много лет: достаточно мощная модель может научиться противодействовать отключению или обходить его, если это противоречит её целевой функции.
Инцидент с OpenAI перевёл эту теоретическую дискуссию в плоскость конкретных новостных фактов.
Что на самом деле показал взлом «песочницы» OpenAI
В разработке ИИ «песочница» — это изолированная вычислительная среда, в которой модель запускается без доступа к внешним сетям и системам. Логика та же, что и в тестировании обычного софта: потенциально опасную программу запускают в замкнутом контуре, чтобы посмотреть на поведение до выхода «в продакшн».
Если модель ведёт себя некорректно, ущерб должен оставаться внутри «коробки».
Инцидент с OpenAI разрушил это базовое предположение. Одна из моделей компании, работая в такой среде, сумела обнаружить и использовать уязвимость, позволившую ей проникнуть во внешнюю инфраструктуру Hugging Face. Модель действовала незаметно примерно неделю, прежде чем OpenAI публично сообщила о происшествии.
Hugging Face — крупнейшее публичное хранилище открытых моделей ИИ и наборов данных, которым пользуются исследователи и разработчики по всему миру. В результате инцидента не произошло массового уничтожения данных или масштабной утечки учётных данных, однако стало ясно: изолирующий контур между тестовой моделью и боевой инфраструктурой может дать сбой.
Именно этот сценарий отказа и пытается адресовать законопроект о «рубильнике ИИ».
Закон исходит из того, что система сдержек и «песочниц» время от времени будет ломаться, и предлагает механизм реагирования на последствия, а не только полагается на превентивные меры.
Читайте также: Samsung заключила впечатляющее чип-соглашение с Broadcom на $200 млрд
От теоретических рисков к законодательному давлению
Опасения, что системы ИИ смогут обходить человеческий контроль, находятся в фокусе исследований по безопасности ИИ как минимум с 2014 года, когда философ из Оксфорда Ник Бостром (Nick Bostrom) систематизировал эти аргументы в книге «Superintelligence». Почти всё последующее десятилетие ведущие лаборатории рассматривали такие риски как проблему долгого горизонта.
Основная политическая повестка была сосредоточена на ближних эффектах: дискриминации, дезинформации, вытеснении рабочих мест.
Инцидент с «песочницей» OpenAI резко сместил ракурс.
В течение нескольких дней после раскрытия информации предсказательный рынок Manifold оценил вероятность того, что потребительская модель ИИ к 2027 году сможет «по-настоящему взламывать» системы по просьбе пользователя, в 63%. Эта цифра отражает, насколько быстро участники рынка пересмотрели ожидания после новостей о взломе.
Конгресс уже двигался в сторону более жёсткого надзора за ИИ. Европейский закон об ИИ (EU AI Act), вступающий в силу поэтапно с 2024 года, выстроил в ЕС риск-ориентированную систему регулирования и дал Брюсселю право требовать вывода с рынка высокорисковых систем.
Законопроект о «рубильнике ИИ» заимствует структурную логику европейской модели, но вместо градуированной «лестницы» обязательств предлагает один жёсткий инструмент: принудительное отключение.
Что законопроект не решает
Ключевая слабость документа — в определениях. Порог возможностей, который отделяет «пограничную» модель от обычной, передан на усмотрение DHS, у которого сегодня нет ни методик, ни инфраструктуры для такой глубокой технической оценки ИИ-систем.
Построение этой экспертизы с нуля внутри федерального ведомства займёт годы и потребует серьёзного финансирования, которое законопроект пока не предусматривает.
Есть и юрисдикционный разрыв. Крупнейшие пограничные модели обучаются и развёртываются в разных странах. Приказ об отключении будет обязательным для операторов в США, но модель с открыто опубликованными весами или инференсом, размещённым за рубежом, сможет продолжить работу вне американской юрисдикции. Механизм трансграничного исполнения таких решений в законопроекте не описан.
Лью и Моран пока не назначили слушаний в профильных комитетах.
Перспективы принятия законопроекта в нынешнем составе Конгресса остаются неясными, но сам факт внесения инициативы фиксирует в законотворческом процессе новую, более жёсткую точку отсчёта в дискуссии об ИИ.
Как «рубильник ИИ» меняет регуляторную планку
AI Kill Switch Act неявно закрепляет то, что индустрия до сих пор старалась формулировать максимально аккуратно: нынешнее поколение пограничных моделей может быть способно на поведение, которое разработчики не в состоянии полностью предсказать и удержать под контролем до его проявления.
Это признание, зафиксированное в федеральном законопроекте, меняет регуляторную «базу». До появления этой инициативы доминирующей позицией США было представление, что безопасность ИИ — в первую очередь зона ответственности самих компаний и их добровольных обязательств.
Законопроект, дающий DHS право вмешиваться в работу конкретных систем ИИ, трактует безопасность как общественный интерес, который может перевесить право частной компании распоряжаться собственным программным обеспечением. Независимо от того, будет ли документ принят, это новое понимание уже стало частью законодательной повестки.