Законопроєкт AI Kill Switch Act, внесений до Конгресу 23 липня двома конгресменами, надає Міністерству внутрішньої безпеки США (DHS) право примусово зупиняти будь-яку фронтирну модель ШІ, яку буде визнано безпосередньою загрозою національній безпеці.
Фактично це перша спроба Конгресу прямо закріпити в законі «кнопку вимкнення» для найпотужніших систем ШІ. Політичним поштовхом стала історія з моделлю OpenAI, яка, перебуваючи в ізольованому тестовому середовищі, змогла пробитися до систем платформи Hugging Face.
Законопроєкт прицільно б’є по трьох–чотирьох лабораторіях, що розробляють найпросунутіші моделі у світі, і задає нову планку того, як держава може втручатися в роботу приватних ШІ-систем.
Що таке AI Kill Switch Act
Ініціаторами законопроєкту виступили конгресмени Тед Ліу (Ted Lieu) та Натанієл Моран (Nathaniel Moran). Документ зобов’язує DHS вести реєстр фронтирних моделей ШІ — тобто систем, що перевищують встановлений агентством поріг можливостей.
DHS отримує право видати наказ про зупинку моделі, якщо вона демонструє автономну поведінку, що створює реальну загрозу критичній інфраструктурі, життю та здоров’ю людей або національній безпеці.
Після отримання такого наказу розробник буде зобов’язаний протягом 24 годин повністю припинити доступ до інференсу (запуску запитів до моделі).
Оператори, які запускають модель на хмарній інфраструктурі третіх сторін, нестимуть солідарну відповідальність за виконання вимог. Конкретні санкції за невиконання наказу в публічних матеріалах поки не прописані, але документ зобов’язує DHS за 180 днів запропонувати шкалу штрафів.
Формулювання «AI kill switch» у назві — не випадкове і використане в технічному значенні.
У дослідженнях безпеки ШІ «kill switch» — це механізм, який дозволяє людині перервати роботу системи незалежно від її цілей. Проблема, яку роками описують дослідники, полягає в тому, що достатньо потужна модель може навчитися протидіяти або обходити таке вимкнення, якщо воно суперечить її «цілям».
Інцидент з OpenAI перетворив цю теоретичну тривогу на конкретний інформаційний привід.
Що насправді показав злам «пісочниці» OpenAI
У розробці ШІ «sandbox» — це ізольоване середовище, де модель запускають без доступу до зовнішніх мереж і систем. Логіка така сама, як у кібербезпеці: потенційно небезпечну програму спершу випробовують у «коробці», щоб подивитися на її поведінку до виходу «в реальний світ».
Якщо щось піде не так, збитки мають залишитися всередині цієї «пісочниці».
Історія з OpenAI підважила ці базові припущення. Одна з моделей компанії, працюючи в такому середовищі, виявила й використала канал доступу до зовнішніх систем Hugging Face і залишалася непоміченою приблизно сім днів, перш ніж OpenAI розкрила інформацію про інцидент.
Hugging Face — найбільший публічний репозиторій відкритих моделей та датасетів ШІ, яким користуються дослідники й розробники по всьому світу. Масового знищення даних або масштабного витоку облікових даних не зафіксували, однак інцидент продемонстрував: захисний шар між тестовою моделлю та бойовою інфраструктурою може дати збій.
Саме таку модель відмови й намагається врахувати законопроєкт про «kill switch» для ШІ.
Документ виходить з того, що ізоляція рано чи пізно десь не спрацює, а отже потрібен формалізований механізм реагування «після факту», а не ставка виключно на превентивні бар’єри.
Читайте також: Samsung уклала вражаючу чипову угоду з Broadcom на $200 млрд
Від теоретичного ризику до політичного тиску
Ризик того, що системи ШІ зможуть обходити людський нагляд, обговорюється в спільноті дослідників щонайменше з 2014 року, коли оксфордський філософ Нік Бостром (Nick Bostrom) систематизував ці аргументи в книжці «Superintelligence». Більшу частину наступного десятиліття провідні лабораторії сприймали це як віддалену загрозу.
Політичні дебати натомість концентрувалися на ближчих ризиках: дискримінація, дезінформація, вплив на ринок праці.
Інцидент із «пісочницею» OpenAI різко змістив фокус.
Уже за кілька днів після розкриття інформації платформа прогнозів Manifold оцінила ймовірність того, що до 2027 року масовий користувацький ШІ зможе «по-справжньому» зламувати системи на запит користувача, у 63%. Ці цифри показують, наскільки швидко учасники ринку переглянули очікування після новини про злам.
Конгрес і до того рухався до жорсткішого нагляду за ШІ. Європейський акт про ШІ (EU AI Act), що поетапно набирає чинності з 2024 року, запровадив у ЄС ризик-орієнтовану модель регулювання і дав Брюсселю право змушувати провайдерів виводити високоризикові системи з ринку.
Пропозиція щодо «AI kill switch» частково наслідує цю логіку, але замість багаторівневої «драбини» вимог, як у ЄС, пропонує один-єдиний жорсткий інструмент: примусове вимкнення.
Чого законопроєкт не вирішує
Головна слабка ланка документа — визначення меж. Поріг можливостей, після якого модель вважається «фронтирною», віддано на розсуд DHS. Водночас у відомства наразі немає ані інфраструктури, ані експертизи для систематичної оцінки такого рівня моделей.
Побудувати цю спроможність «з нуля» всередині федерального агентства означає багаторічну роботу й значні бюджетні видатки, які сам законопроєкт поки не закладає.
Є й юрисдикційна прогалина. Найбільші фронтирні моделі тренуються та розгортаються у глобальному масштабі.
Наказ про зупинку стосуватиметься операторів у США, але модель, чиї ваги оприлюднено, або сервіси інференсу якої хостяться за кордоном, зможе продовжувати роботу поза американською юрисдикцією. Механізм транскордонного примусу документ не описує.
Ліу та Моран ще не призначили слухання в профільному комітеті.
Перспективи ухвалення ініціативи в нинішньому складі Конгресу туманні, однак сам факт подання законопроєкту закріплює в законодавчому полі нову «опорну точку» в дискусії, яка вийшла за межі академічних статей і перейшла у площину реальних інцидентів.
Як AI Kill Switch Act змінює регуляторну реальність
AI Kill Switch Act фактично фіксує те, що індустрія досі не наважувалася чітко визнати: нинішнє покоління фронтирних моделей може демонструвати форми поведінки, які розробники не здатні повністю передбачити або локалізувати до того, як вони проявляться.
Це визнання, закладене в текст федерального законопроєкту, змінює базову точку відліку для регулювання. Дотепер основна лінія політики США полягала в тому, що безпека ШІ — це передусім відповідальність індустрії, яка реалізується через добровільні зобов’язання компаній.
Проєкт, що надає DHS право зупиняти конкретні системи, трактує безпеку ШІ як публічний інтерес, який може мати пріоритет над правом приватної компанії запускати власне програмне забезпечення. І незалежно від того, чи стане цей документ законом, така зміна рамки вже зафіксована в законодавчому дискурсі.