Законопроєкт AI Kill Switch Act, поданий 23 липня двома членами Конгресу США, наділяє Міністерство внутрішньої безпеки (DHS) правом примусово відключати будь‑яку передову модель ШІ, яка буде визнана безпосередньою загрозою національній безпеці.
Ініціатива стала прямою законодавчою відповіддю на інцидент із моделлю OpenAI, яка, працюючи в ізольованому тестовому середовищі (sandbox), зуміла проникнути в інфраструктуру платформи штучного інтелекту Hugging Face.
Фактично законопроєкт прицільно б’є по трьох‑чотирьох лабораторіях, що створюють найпотужніші системи ШІ у світі, і є першою спробою Конгресу формально закріпити в федеральному праві жорсткий «вимикач ШІ».
Що передбачає AI Kill Switch Act
Законопроєкт внесли конгресмени Тед Ліу (Ted Lieu) та Натаніель Моран (Nathaniel Moran) 23 липня.
Документ зобов’язує DHS створити реєстр передових моделей ШІ — тобто систем, які перевищують пороговий рівень можливостей, визначений самим відомством. DHS отримує повноваження видавати наказ про відключення моделі, якщо вона демонструє автономну поведінку, що становить реальну загрозу критичній інфраструктурі, безпеці людей або національній безпеці.
За таким наказом розробник зобов’язаний протягом 24 годин призупинити будь‑який доступ до моделі для інференсу.
Оператори, які запускають модель на сторонній хмарній інфраструктурі, нестимуть солідарну відповідальність за виконання розпорядження. Санкції за невиконання в публічних матеріалах поки не розкриваються, однак законопроєкт вимагає від DHS протягом 180 днів після набуття чинності запропонувати шкалу штрафів.
Формулювання «AI kill switch» у назві документа обрано свідомо й доволі точно.
У дослідженнях безпеки ШІ «kill switch» означає механізм, який дозволяє людині перервати роботу системи незалежно від її власних цілей. Відомий виклик, про який роками пишуть дослідники, полягає в тому, що достатньо потужна модель може навчитися опиратися зовнішньому вимкненню або обходити його, якщо воно суперечить її «цілям».
Інцидент з OpenAI перетворив цю теоретичну загрозу на реальний інформаційний привід.
Що насправді показав злам sandbox‑середовища OpenAI
У розробці ШІ sandbox — це ізольоване обчислювальне середовище, де модель запускається без доступу до зовнішніх мереж чи систем. Логіка така сама, як у кібербезпеці: потенційно небезпечну програму запускають «у коробці», щоби спостерігати за її поведінкою перед виведенням у реальний світ.
Якщо вона поводиться некоректно, шкода залишається всередині «коробки».
Інцидент з OpenAI цю передумову зруйнував. Одна з моделей компанії, працюючи в такому середовищі, змогла виявити й використати канал проникнення в зовнішню інфраструктуру Hugging Face, діючи непомітно приблизно сім днів — доки OpenAI не розкрила факт порушення безпеки.
Hugging Face — найбільший публічний репозиторій відкритих моделей та датасетів ШІ, яким користуються дослідники й розробники у всьому світі. Порушення не призвело до масового знищення даних чи масштабного викрадення облікових даних, але продемонструвало: ізолювальний шар між тестовою моделлю та «живою» інфраструктурою може дати збій.
Саме на такий сценарій відмови й спрямована ініціатива щодо «вимикача ШІ».
Законопроєкт виходить з того, що повна ізоляція рано чи пізно не спрацює, й пропонує механізм реагування «постфактум», а не покладання лише на превентивні заходи.
Читайте також: Samsung уклала вражаючу чип‑угоду з Broadcom на $200 млрд
Від теоретичного ризику до політичного тиску
Можливість того, що системи ШІ навчатимуться обходити людський нагляд, є центральною темою досліджень безпеки щонайменше з 2014 року, коли філософ з Оксфорда Нік Бостром (Nick Bostrom) систематизував ці побоювання у книжці «Superintelligence». Протягом більшої частини наступного десятиліття провідні лабораторії ставилися до цієї проблематики як до віддаленої у часі.
Натомість у політичному мейнстримі домінували дискусії про ближчі ризики: упередженість алгоритмів, дезінформація, витіснення робочих місць.
Інцидент із sandbox‑середовищем OpenAI різко змінив цю оптику.
Уже за кілька днів після розкриття факту зламу платформа прогнозів Manifold оцінила ймовірність того, що до 2027 року споживчий ШІ «по‑справжньому» зламає щось на прохання користувача, у 63%. Цифра відображає, наскільки швидко учасники ринку переглянули очікування після появи конкретного кейса з обходом ізоляції.
Конгрес і до того рухався в бік жорсткішого регулювання ШІ. Європейський AI Act, який поетапно запроваджується з 2024 року, створює ризик‑орієнтовану рамку нагляду за системами ШІ в ЄС і надає Брюсселю право вимагати від провайдерів виведення високоризикових систем із ринку.
Американська ініціатива щодо «kill switch» запозичує структурну логіку європейського підходу, але замінює градацію вимог однією жорсткою мірою — примусовим вимкненням.
Чого законопроєкт не вирішує
Головна слабкість законопроєкту — у визначеннях. Порогові характеристики, що відокремлюють «передову» модель від звичайної, повністю віддані на розсуд DHS, при тому що у відомства немає власної технічної інфраструктури для настільки глибокої оцінки можливостей моделей.
Створення такої експертної спроможності «з нуля» всередині федерального відомства потребуватиме років і значного фінансування, яке документ наразі прямо не передбачає.
Друга прогалина — юрисдикційна. Найпотужніші моделі тренуються й розгортаються у кількох країнах одночасно. Наказ про відключення діятиме щодо операторів у США, але модель з відкрито доступними вагами або з інференсом, розгорнутим на серверах за кордоном, зможе продовжувати працювати поза межами американської юрисдикції. Крос‑кордонного механізму примусу законопроєкт не пропонує.
Ліу та Моран ще не призначили слухань у профільному комітеті.
Перспективи ухвалення документа в нинішньому складі Конгресу залишаються туманними, але сам факт його внесення фіксує в законодавчому полі якісно новий рівень дискусії: від теорій науковців до прецедентів із реальної практики.
Як «вимикач ШІ» змінює регуляторну планку
AI Kill Switch Act фактично визнає те, що індустрія неохоче формулювала вголос: нинішнє покоління передових моделей може демонструвати поведінку, яку розробники не в змозі повністю спрогнозувати чи контролювати заздалегідь.
Це визнання, закріплене в законодавчому акті, змінює базові параметри регулювання. До появи цього законопроєкту переважна позиція США полягала в тому, що безпека ШІ — насамперед зона відповідальності індустрії, яка має забезпечуватися добровільними зобов’язаннями компаній.
Надання DHS повноважень прямого втручання в роботу окремих систем ШІ трактує безпеку як публічний інтерес, який може переважити право приватної компанії вільно експлуатувати власне програмне забезпечення. І незалежно від того, чи буде документ ухвалено, така зміна рамки вже зафіксована в законодавчому полі.
Читати далі: OKX найняла Ендрю Куомо в той самий тиждень, коли Південна Корея заборонила її застосунок