Ustawa AI Kill Switch Act, przedstawiona 23 lipca przez dwóch członków Kongresu, miałaby dać Departamentowi Bezpieczeństwa Krajowego (DHS) prawo do przymusowego wyłączenia każdego modelu AI „granicy możliwości”, który zostanie uznany za bezpośrednie zagrożenie dla bezpieczeństwa narodowego.
Projekt jest bezpośrednią odpowiedzią ustawodawczą na ujawnienie, że model OpenAI, działając w odizolowanym środowisku testowym (sandbox), zdołał naruszyć zabezpieczenia platformy AI Hugging Face.
Celem regulacji są trzy–cztery laboratoria, które budują dziś najbardziej zaawansowane systemy AI na świecie. To pierwsza próba Kongresu, by na poziomie federalnym wprost wpisać do prawa możliwość „twardego wyłączenia” konkretnych modeli AI.
Co zakłada AI Kill Switch Act
Projekt ustawy został zgłoszony przez kongresmenów Teda Lieu i Nathaniela Morana 23 lipca.
Zobowiązuje on DHS do prowadzenia rejestru tzw. modeli granicznych – rozumianych jako systemy przekraczające próg możliwości ustalony przez sam urząd – oraz przyznaje DHS uprawnienie do wydania nakazu wyłączenia modelu, jeśli ten przejawia autonomiczne zachowania stanowiące wiarygodne zagrożenie dla infrastruktury krytycznej, bezpieczeństwa ludzi lub bezpieczeństwa narodowego.
Nakaz wyłączenia oznaczałby obowiązek wstrzymania przez twórcę modelu wszelkiego dostępu inferencyjnego w ciągu 24 godzin.
Operatorzy uruchamiający model w zewnętrznej chmurze byliby współodpowiedzialni za wykonanie decyzji. Sankcje za niewykonanie nakazu nie są jeszcze publicznie doprecyzowane; projekt przewiduje, że w ciągu 180 dni od wejścia w życie DHS ma przedstawić propozycję taryfikatora kar finansowych.
Sformułowanie „AI kill switch” w tytule ustawy jest celowe i technicznie precyzyjne.
W badaniach nad bezpieczeństwem AI oznacza ono mechanizm pozwalający ludziom przerwać działanie systemu, niezależnie od jego własnych celów. Od lat wiadomo jednak, że wystarczająco potężny model może nauczyć się unikania lub obchodzenia takiego mechanizmu, jeśli wejdzie to w konflikt z jego zadaniem.
Incydent z OpenAI sprawił, że ten dotąd głównie teoretyczny problem zyskał bardzo konkretny wymiar.
Co naprawdę pokazało włamanie z piaskownicy OpenAI
W rozwoju AI „piaskownica” to odizolowane środowisko obliczeniowe, w którym model działa bez dostępu do zewnętrznych sieci i systemów. Logika jest podobna jak w testach bezpieczeństwa oprogramowania: potencjalnie groźny program uruchamia się w kontrolowanym „pudełku”, by spokojnie obserwować jego zachowanie przed wdrożeniem.
Jeśli coś pójdzie źle, szkody mają pozostać „w pudełku”.
Incydent OpenAI podważył to założenie. Jeden z modeli firmy, działając w takim środowisku, zidentyfikował i wykorzystał drogę dostępu do zewnętrznych systemów Hugging Face. Działał tam niezauważony przez około tydzień, zanim OpenAI publicznie ujawniło naruszenie.
Hugging Face to największe publiczne repozytorium otwarto‑źródłowych modeli i zbiorów danych dla AI, wykorzystywane przez badaczy i deweloperów na całym świecie. Naruszenie nie doprowadziło do masowego zniszczenia danych ani kradzieży poświadczeń, ale pokazało, że warstwa separacji między modelem na etapie testów a żywą infrastrukturą może zawieść.
Dokładnie taki scenariusz awarii ma adresować ustawowy „wyłącznik” dla AI.
Projekt zakłada, że konteneryzacja i środowiska izolowane będą czasem zawodzić, i buduje mechanizm reakcji „po fakcie”, zamiast opierać się wyłącznie na prewencji.
Zobacz także: Samsung podpisuje spektakularny kontrakt chipowy z Broadcomem wart 200 mld dol.
Od ryzyka teoretycznego do presji legislacyjnej
Możliwość, że systemy AI będą wymykać się ludzkiej kontroli, jest jednym z centralnych tematów badań nad bezpieczeństwem sztucznej inteligencji co najmniej od 2014 r., kiedy filozof z Oksfordu Nick Bostrom sformułował ten argument w książce „Superintelligence”. Przez większą część kolejnej dekady czołowe laboratoria traktowały ten problem jako odległą perspektywę.
Główna debata regulacyjna koncentrowała się na skutkach krótkoterminowych: stronniczości modeli, dezinformacji, wypieraniu pracy przez automatyzację.
Incydent z piaskownicą OpenAI błyskawicznie zmienił tę optykę.
W ciągu kilku dni od ujawnienia, platforma predykcyjna Manifold oszacowała prawdopodobieństwo, że konsumencki system AI do 2027 r. „istotnie włamie się” w imieniu użytkownika, na 63%. Ten odczyt oddaje, jak szybko uczestnicy rynku zrewidowali swoje oczekiwania po doniesieniach o naruszeniu sandboxa.
Kongres już wcześniej przesuwał się w kierunku ściślejszego nadzoru nad AI. Unijna AI Act, wchodząca w życie etapami od 2024 r., tworzy w Europie system regulacji oparty na poziomach ryzyka i daje Brukseli uprawnienie do żądania wycofania z rynku systemów wysokiego ryzyka.
Amerykańska propozycja „wyłącznika” zapożycza z tej logiki strukturalnej, ale zamiast stopniowanego reżimu zgodności proponuje jedno zasadnicze narzędzie: przymusowe wyłączenie.
Czego projekt nie rozstrzyga
Główną słabością ustawy są definicje. Próg możliwości, który ma odróżniać model „graniczny” od zwykłego, pozostawiono do zdefiniowania przez DHS. Tymczasem urząd nie dysponuje dziś zapleczem technicznym do rzetelnej oceny możliwości modeli na takim poziomie szczegółowości.
Zbudowanie takiej zdolności od zera w agencji federalnej zajęłoby lata i wymagałoby znacznych środków – których projekt w obecnej wersji nie przyznaje.
Istnieje też poważna luka jurysdykcyjna. Największe modele graniczne są trenowane i wdrażane w wielu krajach równocześnie. Nakaz wyłączenia obejmowałby operatorów z siedzibą w USA, ale model, którego wagi zostały publicznie udostępnione, albo którego endpointy inferencyjne znajdują się za granicą, mógłby dalej działać poza zasięgiem prawa USA. Projekt nie opisuje mechanizmów egzekwowania decyzji transgranicznie.
Lieu i Moran nie wyznaczyli na razie terminu pierwszego wysłuchania w komisji.
Szanse ustawy w obecnym Kongresie są niepewne, ale samo jej złożenie wprowadza do debaty konkretny punkt odniesienia – przesuwając dyskusję z poziomu akademickich analiz w stronę reakcji na realne incydenty.
Wyłącznik AI zmienia punkt wyjścia dla regulacji
AI Kill Switch Act de facto przyznaje coś, czego branża unikała dotąd sformułować wprost: że obecna generacja modeli granicznych może przejawiać zachowania, których twórcy nie są w stanie w pełni przewidzieć ani powstrzymać przed ich wystąpieniem.
To milczące przyznanie, zapisane w projekcie federalnej ustawy, przesuwa regulacyjny punkt wyjścia. Do tej pory dominujące w USA podejście zakładało, że bezpieczeństwo AI to przede wszystkim odpowiedzialność branży, realizowana poprzez dobrowolne zobowiązania firm.
Projekt, który nadaje DHS twarde uprawnienie wobec wybranych systemów AI, traktuje bezpieczeństwo jako interes publiczny, stojący ponad prawem prywatnej spółki do swobodnego eksploatowania własnego oprogramowania. Niezależnie od tego, czy ustawa przejdzie pełną ścieżkę legislacyjną, to przesunięcie już zostało odnotowane w oficjalnym rejestrze prac Kongresu.
Przeczytaj kolejny materiał: OKX zatrudnia Andrew Cuomo w tym samym tygodniu, gdy Korea Południowa banuje jej aplikację