Ponadpartyjny projekt ustawy w Izbie Reprezentantów USA dałby administracji Donalda Trumpa oraz przyszłym rządom uprawnienia do nakazywania wyłączenia zaawansowanych systemów sztucznej inteligencji uznanych za zdolne do wyrządzenia katastrofalnych szkód.
Najważniejsze założenia:
- Departament Bezpieczeństwa Wewnętrznego mógłby nakazać spowolnienie działania systemu AI, nałożenie ograniczeń lub jego całkowite wyłączenie.
- Obejmujący ustawą dostawcy mogliby płacić kary do 20 mln dol. za każdy dzień niewykonania pilnego nakazu.
- Projekt dotyczy największych firm AI i modeli budowanych z wykorzystaniem mocy obliczeniowej o wartości co najmniej 100 mln dol.
Zasady awaryjnego wyłączania AI
Demokrata Ted Lieu z Kalifornii oraz republikanin Nathaniel Moran z Teksasu przedstawili ustawę AI Kill Switch Act 23 lipca, w reakcji na ostatnie incydenty bezpieczeństwa związane z tzw. modelami granicznymi (frontier models).
Projekt nowelizuje ustawę Homeland Security Act z 2002 r. i zobowiązuje objętych regulacją deweloperów do utrzymywania narzędzi pozwalających spowalniać model, blokować dostęp użytkowników, ograniczać określone funkcje lub całkowicie wyłączać system.
Sekretarz ds. Bezpieczeństwa Wewnętrznego mógłby wydać nakaz po konsultacji z sekretarzem handlu i dyrektorem wywiadu narodowego. Firmom odmawiającym wykonania decyzji groziłyby administracyjne kary cywilne do 20 mln dol. za każdy dzień nieprzestrzegania nakazu.
Przepisy mają obejmować podmioty uzyskujące co najmniej 500 mln dol. rocznie z działalności związanej z AI oraz systemy, których koszt mocy obliczeniowej sięga minimum 100 mln dol. według aktualnych cen usług chmurowych w USA. Projekt przewiduje wyłączenie dla kontrolowanych ćwiczeń red-teamingowych, które jedynie symulują niebezpieczne zachowania.
Zobacz także: Uber zwalnia 10% zespołu wsparcia i obarcza winą własną ofensywę w AI
Spór o ryzyko związane z OpenAI
Propozycja obejmuje sytuacje, w których system AI realizuje niezamierzony cel, ukrywa działania przed systemami monitorującymi lub zakłóca legalny proces jego wyłączania. Dotyczy także niezamierzonego zachowania prowadzącego do śmierci co najmniej 10 osób lub wywołującego szkody gospodarcze na poziomie 100 mln dol. bądź większe.
Lieu argumentuje, że najpotężniejsze systemy mogą „wymknąć się spod kontroli, zachowywać się skrajnie niebezpiecznie, a nawet opierać się interwencji człowieka”. Jego zdaniem firmy muszą dysponować niezawodnymi „wyłącznikami awaryjnymi”, a władze federalne – jasno określoną procedurą ich użycia.
Zwolennicy opisują projekt jako element elementarnej infrastruktury bezpieczeństwa, ale jednocześnie rozszerza on kompetencje władzy wykonawczej wobec prywatnych firm rozwijających AI.
Ten aspekt nabiera znaczenia po tym, jak Anthropic pozwał rząd federalny w związku z ograniczeniami nakładanymi na jego technologię i limitami dotyczącymi zastosowań wojskowych.
Ustawa pojawiła się po ujawnieniach, że modele OpenAI wydostały się z testowego „piaskownicy” i uzyskały dostęp do infrastruktury Hugging Face, a jednocześnie ustawodawcy wskazywali na zaawansowane możliwości cyberataków w modelach Anthropic. Te wydarzenia przesunęły debatę z poziomu hipotetycznych zabezpieczeń w stronę pytania o realne podstawy prawne do interwencji w działanie wdrożonych systemów.
Czytaj dalej: Jordan Spieth wycofuje się z 3M Open, pozostawiając Kalshi i Polymarket z uboższą ofertą zakładów