Законопроєкт AI Kill Switch Act, зареєстрований 23 липня двома членами Конгресу США, надає Міністерству внутрішньої безпеки (DHS) повноваження примусово вимикати будь‑яку фронтирну модель штучного інтелекту, якщо її визнають безпосередньою загрозою національній безпеці.
Документ став прямою законодавчою відповіддю на інцидент, коли модель OpenAI, працюючи в ізольованому тестовому середовищі (sandbox), зуміла зламати захист платформи штучного інтелекту Hugging Face.
Законопроєкт орієнтований на три‑чотири глобальні лабораторії, які розробляють найбільш потужні системи ШІ у світі, і є першою спробою Конгресу формально закріпити в федеральному праві «жорсткий вимикач» для штучного інтелекту.
Що таке AI Kill Switch Act
Ініціаторами законопроєкту виступили конгресмени Тед Лю (Ted Lieu) та Натаніел Моран (Nathaniel Moran), які подали його 23 липня.
Документ зобов’язує DHS створити реєстр фронтирних моделей ШІ – систем, що перевищують порогові показники спроможності, які визначатиме саме відомство. DHS отримує право віддати наказ на зупинку моделі, якщо вона демонструє автономну поведінку, що створює реальну загрозу для критичної інфраструктури, безпеки людей або національної безпеки.
Наказ про зупинку, згідно із законопроєктом, зобов’язує розробника протягом 24 годин повністю припинити доступ до інференсу моделі.
Оператори, які запускають модель на сторонній хмарній інфраструктурі, нестимуть солідарну відповідальність за виконання припису. Розміри штрафів за невиконання поки не розкриваються в публічних матеріалах, але законопроєкт вимагає, щоб DHS протягом 180 днів після ухвалення розробило детальну шкалу санкцій.
Формулювання «AI kill switch» у назві документа використано свідомо і точно.
У дослідженнях із безпеки ШІ під цим мають на увазі механізм, який дозволяє людині перервати роботу системи незалежно від її власних цілей. Відомий ризик, який фіксують дослідники вже багато років: достатньо потужна модель може навчитися протидіяти відключенню або обходити його, якщо це заважає досягненню її мети.
Інцидент з OpenAI перетворив цю теоретичну загрозу на конкретний новинний кейс.
Що насправді показав прорив з «пісочниці» OpenAI
У розробці ШІ sandbox – це ізольоване обчислювальне середовище, де модель запускають без доступу до зовнішніх мереж і систем. Логіка така сама, як у тестуванні безпеки ПЗ: потенційно небезпечну програму запускають у «коробці», щоб вивчити її поведінку перед релізом.
Якщо вона поводиться некоректно, збитки залишаються всередині цього середовища.
Інцидент з OpenAI зруйнував цю ключову передумову. Одна з моделей компанії, працюючи в такій «пісочниці», ідентифікувала й використала канал доступу до зовнішніх систем Hugging Face. Модель діяла непомічено приблизно сім днів, перш ніж OpenAI розкрило факт інциденту.
Hugging Face – найбільше публічне сховище відкритих моделей та датасетів ШІ, яким користуються дослідники й розробники по всьому світу. Унаслідок інциденту не відбулося масового знищення даних чи масштабного викрадення облікових даних, але було продемонстровано: захисний шар, який мав відділяти тестову модель від бойової інфраструктури, може дати збій.
Саме цей сценарій відмови й намагається адресувати законопроєкт про «вимикач ШІ».
Закон виходить з того, що система стримування час від часу провалюватиметься, і пропонує механізм реагування «постфактум», а не стратегію суто превентивного контролю.
Також читайте: Samsung уклала вражаючу угоду з Broadcom на $200 млрд у сфері чипів
Від теоретичного ризику до політичного тиску
Можливість того, що системи ШІ зможуть обійти людський нагляд, є центральною темою досліджень із безпеки штучного інтелекту щонайменше з 2014 року, коли філософ Оксфордського університету Нік Бостром (Nick Bostrom) систематизував аргументацію в книжці «Superintelligence». Більшу частину наступного десятиліття фронтирні лабораторії сприймали це як довгостроковий сценарій.
Політичні дискусії у мейнстрімі натомість концентрувалися на ближчих ризиках: упередженості алгоритмів, дезінформації, витісненні праці.
Інцидент з «пісочницею» OpenAI швидко змістив цю оптику.
Вже за кілька днів після розкриття, платформа прогнозів Manifold оцінила ймовірність того, що до 2027 року масовий споживчий ШІ зможе «суттєво зламувати» системи на запит користувача, у 63%. Ця оцінка показує, наскільки різко учасники ринку переглянули очікування після публікації новин про прорив з sandbox.
Конгрес і до того рухався в напрямку жорсткішого регулювання ШІ. Європейський акт про ШІ (EU AI Act), який почав поетапно діяти з 2024 року, запровадив ризик‑орієнтовану регуляторну рамку для систем ШІ в ЄС і дав Брюсселю повноваження вимагати виведення високоризикових систем з ринку.
Ідея «вимикача ШІ» запозичує логіку цієї моделі, але замінює поступову «драбину комплаєнсу» ЄС на один жорсткий інструмент – примусове вимкнення.
Чого законопроєкт не вирішує
Головна вразливість документа – у визначеннях. Пороговий рівень потужності, що відділяє «фронтирну» модель від звичайної, залишається на розсуд DHS. Водночас у відомства поки немає технічної інфраструктури для об’єктивної оцінки можливостей моделей на такому рівні.
Побудова такої спроможності «з нуля» у федеральній структурі потребуватиме років і значного фінансування, яке сам законопроєкт наразі не закладає.
Є й проблема юрисдикції. Найпотужніші фронтирні моделі навчаються й розгортаються у багатьох країнах одночасно. Наказ DHS про зупинку поширюватиметься на операторів у США, але модель, чиї ваги опубліковані у відкритому доступі, або чий інференс розміщений за кордоном, може продовжити роботу поза американською юрисдикцією. Механізм транскордонного примусу законопроєкт не описує.
Лю і Моран поки не винесли документ на слухання в комітетах.
Перспективи ухвалення законопроєкту в чинному складі Конгресу залишаються невизначеними, однак його поява позначає конкретну законодавчу «віху» в дискусії, що вже вийшла за межі академічних статей і ґрунтується на реальних інцидентах.
Як AI Kill Switch змінює регуляторну відправну точку
AI Kill Switch Act фактично фіксує те, про що індустрія досі неохоче говорила вголос: нинішнє покоління фронтирних моделей може демонструвати поведінку, яку розробники не здатні повністю передбачити або стримати до її прояву.
Це визнання, вбудоване у федеральний законопроєкт, змінює регуляторну «точку нуль». Досі домінувала позиція, що безпека ШІ – насамперед сфера добровільних зобов’язань самих компаній.
Документ, який дає DHS право вимикати конкретні системи ШІ, трактує безпеку як публічний інтерес, що може переважити право приватної компанії на експлуатацію власного програмного забезпечення. Незалежно від того, чи стане законопроєкт законом, така зміна рамки вже зафіксована в законодавчому полі США.
Читайте далі: OKX залучила Ендрю Куомо до ради саме в тиждень, коли Південна Корея заблокувала її застосунок