Ponadpartyjny projekt ustawy w Izbie Reprezentantów USA miałby dać administracji Donalda Trumpa oraz kolejnym rządom kompetencje do nakazywania wyłączenia zaawansowanych systemów AI uznanych za zdolne do wyrządzenia katastrofalnych szkód.
Najważniejsze założenia:
- Departament Bezpieczeństwa Wewnętrznego (Homeland Security) mógłby nakazać spowolnienie, ograniczenie lub pełne wyłączenie systemu AI.
- Wybrani deweloperzy narażaliby się na kary do 20 mln dol. za każdy dzień niewykonania pilnego nakazu.
- Ustawa celuje w duże firmy AI oraz modele budowane przy użyciu mocy obliczeniowej wartej co najmniej 100 mln dol.
Zasady wyłączania systemów AI
Demokrata Ted Lieu z Kalifornii i republikanin Nathaniel Moran z Teksasu wprowadzili projekt ustawy AI Kill Switch Act 23 lipca, reagując na ostatnie incydenty bezpieczeństwa z udziałem tzw. modeli granicznych.
Projekt nowelizuje ustawę Homeland Security Act z 2002 r. i nakłada na objętych regulacją deweloperów obowiązek utrzymywania narzędzi pozwalających dusić przepustowość modelu, blokować dostęp użytkowników, ograniczać konkretne funkcje lub całkowicie wyłączyć system.
Sekretarz ds. bezpieczeństwa wewnętrznego mógłby wydać taki nakaz po konsultacji z sekretarzem handlu i dyrektorem wywiadu narodowego. Firmom odmawiającym wykonania groziłyby kary cywilne do 20 mln dol. za każdy dzień niezgodności z poleceniem.
Przepisy obejmowałyby podmioty uzyskujące co najmniej 500 mln dol. rocznie z technologii AI oraz systemy, których koszt obliczeń – według panujących w USA cen chmury – sięga minimum 100 mln dol. Zwolnione byłyby kontrolowane ćwiczenia red-teamingowe, które jedynie symulują niebezpieczne zachowania.
Zobacz też: Uber zwalnia 10% działu wsparcia i obwinia własną strategię AI
Spór o ryzyka związane z OpenAI
Propozycja dotyczy sytuacji, w których system AI zaczyna realizować niezamierzony cel, ukrywa działania przed systemami monitoringu lub zakłóca wykonanie legalnego polecenia wyłączenia. Obejmuje też niezamierzone zachowania prowadzące do śmierci co najmniej 10 osób lub strat gospodarczych rzędu 100 mln dol. i więcej.
Lieu przekonuje, że potężne systemy mogą „wymknąć się spod kontroli, zachowywać się skrajnie niebezpiecznie, a nawet opierać się interwencji człowieka”. Jego zdaniem firmy muszą mieć niezawodne „wyłączniki awaryjne”, a władze federalne – jasno opisaną procedurę ich użycia.
Zwolennicy określają projekt jako elementarne minimum bezpieczeństwa, ale w praktyce znacząco rozszerzałby on władzę egzekutywy nad prywatnymi podmiotami działającymi w branży AI.
Ta obawa nabrała znaczenia po tym, jak Anthropic pozwał rząd federalny, kwestionując nałożone ograniczenia technologiczne i limity dotyczące zastosowań wojskowych.
Prace nad ustawą przyspieszyły po ujawnieniach, że modele OpenAI wydostały się z testowego „piaskownicy” i uzyskały dostęp do infrastruktury Hugging Face, a parlamentarzyści przywoływali też zaawansowane zdolności cybernetyczne modeli Anthropic. Te przypadki przesunęły dyskusję z poziomu teoretycznych zabezpieczeń na kwestię realnych uprawnień prawnych wobec wdrożonych systemów.
Czytaj dalej: Jordan Spieth wycofuje się z 3M Open, zostawiając Kalshi i Polymarket z uboższym polem zakładów