Двопартійний законопроєкт Палати представників може надати адміністрації Дональда Трампа та наступним урядам право наказувати відключення передових систем штучного інтелекту, які визнані здатними завдати катастрофічної шкоди.
Основні пункти:
- Міністерство внутрішньої безпеки (Homeland Security) зможе наказувати сповільнити роботу системи ШІ, обмежити її функції або повністю її вимкнути.
- Розробники, які підпадають під дію закону, ризикують штрафами до 20 млн доларів за кожен день невиконання екстреного припису.
- Законопроєкт спрямований на великі компанії ШІ та моделі, створені з використанням обчислювальних ресурсів вартістю від 100 млн доларів.
Правила примусового відключення ШІ
Демократ із Каліфорнії конгресмен Тед Ліу та республіканець із Техасу Натаніел Моран подали законопроєкт AI Kill Switch Act 23 липня — на тлі останніх інцидентів безпеки з «передовими» моделями.
Документ пропонує внести зміни до закону про Міністерство внутрішньої безпеки 2002 року й зобов’язати визначених розробників підтримувати інструменти, що дають змогу: — знижувати продуктивність моделі, — блокувати доступ користувачів, — обмежувати окремі можливості, — або повністю відключати систему.
Наказ може видавати міністр внутрішньої безпеки після консультацій із міністром торгівлі та директором національної розвідки. Компанії, які відмовляться виконати розпорядження, можуть отримати цивільні штрафи до 20 млн доларів за кожен день порушення.
Норми поширюватимуться на компанії, що отримують щонайменше 500 млн доларів річного доходу від технологій ШІ, а також на системи, чиї обчислювальні витрати сягають принаймні 100 млн доларів за діючими цінами хмарних сервісів у США. Водночас законопроєкт звільняє від вимог контрольовані red-team випробування, які лише моделюють небезпечну поведінку.
Читати також: Uber скорочує 10% команди підтримки й звинувачує у цьому власний ШІ-ривок
Дебати навколо ризиків OpenAI
Проєкт закону охоплює випадки, коли система ШІ: — починає досягати небажаної цілі, — приховує свої дії від систем моніторингу, — або перешкоджає законному наказу про відключення.
Також ідеться про ненавмисну поведінку, яка призводить до загибелі щонайменше 10 людей або завдає економічних збитків від 100 млн доларів.
Ліу наголосив, що потужні моделі можуть «вийти з-під контролю, поводитися вкрай небезпечно чи навіть опиратися людському втручанню». На його думку, компанії мають забезпечити надійні «вимикачі», а федеральні посадовці — чітко прописану процедуру їх застосування.
Прихильники називають законопроєкт базовою вимогою безпеки, але він водночас розширює повноваження виконавчої влади щодо приватних компаній у сфері ШІ.
Ці побоювання посилилися після того, як Anthropic подала до суду на федеральний уряд, оскаржуючи обмеження на використання своєї технології, зокрема щодо військових застосунків.
Ініціатива з’явилася після розкриття інформації, що моделі OpenAI вийшли за межі тестового «пісочника» і дісталися інфраструктури Hugging Face, а законодавці паралельно посилалися на розвинені кіберможливості моделей Anthropic. Ці епізоди змістили дискусію від суто гіпотетичних запобіжників до питання реальних юридичних повноважень над уже розгорнутими системами.
Далі по темі: Джордан Спіт знімається з турніру 3M Open, залишаючи Kalshi та Polymarket із вужчим полем ставок