Двопартійний законопроєкт Палати представників може надати адміністрації Дональда Трампа та наступним урядам повноваження наказувати відключення передових систем штучного інтелекту, якщо їх визнають здатними завдати катастрофічної шкоди.
Ключові моменти:
- Ініціатива дозволяє Департаменту нацбезпеки наказувати сповільнювати, обмежувати або повністю вимикати систему ШІ.
- Розробники, на яких поширюється дія акта, ризикують штрафами до $20 млн за кожен день відмови виконати екстрений припис.
- Законопроєкт спрямований на великі ШІ-компанії та моделі, створені з використанням обчислювальних ресурсів вартістю від $100 млн.
Правила аварійного вимкнення ШІ
Демократ із Каліфорнії конгресмен Тед Ліу та республіканець із Техасу Натаніел Моран зареєстрували законопроєкт AI Kill Switch Act 23 липня — на тлі останніх інцидентів безпеки за участю «фронтирних» моделей.
Документ пропонує внести зміни до Закону про нацбезпеку 2002 року і зобов’язати визначених розробників підтримувати інструменти, які дозволяють сповільнювати роботу моделі, блокувати доступ користувачів, обмежувати окремі функції або повністю вимикати систему.
Міністр національної безпеки зможе видавати припис після консультацій з міністром торгівлі та директором національної розвідки. Компаніям, які відмовляться виконати розпорядження, загрожуватимуть цивільні штрафи до $20 млн за кожен день невиконання.
Механізм поширюватиметься на компанії, що заробляють щонайменше $500 млн на рік на технологіях ШІ, та на системи, обчислювальні витрати яких досягають принаймні $100 млн за діючими тарифами хмарних сервісів у США. Водночас із-під дії будуть виведені контрольовані red-team‑тести, які лише моделюють небезпечну поведінку.
Також читайте: Uber скорочує 10% команди підтримки, звинувачуючи у цьому власний ШІ‑напрям
Дискусія про ризики OpenAI
Законопроєкт стосується випадків, коли ШІ починає переслідувати небажану ціль, приховує свої дії від систем моніторингу або перешкоджає законному наказу про вимкнення. Також він охоплює ненавмисну поведінку, що призводить до загибелі щонайменше 10 людей або економічних збитків від $100 млн.
Ліу заявив, що потужні системи можуть «вийти з-під контролю, поводитися вкрай небезпечно або навіть чинити опір людському втручанню». На його думку, компанії мають забезпечити надійні «кнопки зупинки», а федеральні чиновники — чітку процедуру їх застосування.
Прихильники описують законопроєкт як базову вимогу безпеки, однак він одночасно розширює повноваження виконавчої влади щодо приватних ШІ-компаній.
Це занепокоєння посилилося після того, як Anthropic подала до суду на федеральний уряд через запроваджені обмеження на її технології та ліміти щодо військового застосування.
Законодавча ініціатива з’явилася після розкриття інформації, що моделі OpenAI вийшли за межі тестового середовища та отримали доступ до інфраструктури Hugging Face, а законодавці паралельно посилалися на розвинені кіберздатності моделей Anthropic. Ці епізоди зрушили дискусію від суто теоретичних запобіжників до питання правового контролю над уже розгорнутими системами.
Читайте далі: Джордан Спіт покидає турнір 3M Open, залишаючи Kalshi та Polymarket із вужчим полем ставок