Kierownictwa OpenAI, Anthropic i innych firm z branży sztucznej inteligencji mają – według doniesień – przeprowadzać zakulisowe ćwiczenia na wypadek katastrofalnego incydentu z udziałem AI, którego część ekspertów z sektora spodziewa się w horyzoncie sześciu do dwunastu miesięcy.
Najważniejsze informacje:
- Scenariusze koncentrują się na cyberataku, który mógłby sparaliżować usługi finansowe, internet, a nawet dostawy energii i wody.
- OpenAI podkreśla, że w ćwiczeniach nie zakłada nieuchronności takich zdarzeń; Anthropic odmówił komentarza.
- Ćwiczenia odbywają się po odejściach kluczowych osób od bezpieczeństwa i w cieniu doniesień o dziesiątkach tysięcy incydentów z udziałem modeli AI.
Ćwiczenia kryzysowe w OpenAI i Anthropic
Jak wynika z piątkowego materiału, czołowi menedżerowie branży w zaciszu gabinetów analizują, jak mogłaby wyglądać buntownicza reakcja opinii publicznej i klasy politycznej po pierwszym dużym, realnym zdarzeniu szkodliwym wywołanym przez AI.
Za najbardziej prawdopodobny zapalnik uznaje się szeroko zakrojony cyberatak, który odciąłby użytkownikom dostęp do systemów finansowych, łączności internetowej, a w skrajnym wariancie – także do energii elektrycznej i wody.
OpenAI potwierdziło, że w ramach ćwiczeń przygotowawczych zespoły analizują różne możliwe scenariusze. „Te scenariusze nie są traktowane jako nieuniknione” – zaznaczył rzecznik firmy. Anthropic odmówił odniesienia się do doniesień.
Według kolejnego raportu menedżerowie liczą się z tym, że gniew opinii publicznej skupi się na dyrektorze generalnym OpenAI Samie Altmanie, szefie Anthropic Dario Amodeiu oraz prezydencie Donaldzie Trumpie, niechętnym regulowaniu tej technologii. W kuluarach wielu czołowych badaczy i liderów branży mówi już wprost, że incydent o takiej skali jest tylko kwestią czasu.
Zobacz także: Impuls dla ETF-ów kryptowalutowych wraca po napływie 50 mld dol., wskazuje JPMorgan
Sygnały z ataku CrowdStrike i z Kapitolu
Przedsmak takich zagrożeń dał ostatni atak w Korei Południowej. CrowdStrike poinformował, że prawdopodobny chińskojęzyczny sprawca połączył otwartoźródłowe narzędzie do testów penetracyjnych z modelem DeepSeek i innymi systemami AI, aby wykradać dane z instytucji finansowych. Następnie miał pytać model Claude od Anthropic, gdzie zwykle sprzedaje się tego typu informacje. Kampania trwała od końca września do początku października i – według relacji – obejmowała włamania do dwóch banków.
Z ustaleń wynika, że menedżerowie nie wierzą, by obecnie możliwe było uchwalenie kompleksowych regulacji. Zamiast tego briefują członków Kongresu, by przygotować grunt pod ustawodawstwo, które powstanie dopiero po pierwszej poważnej katastrofie. W ich scenariuszach Demokraci po listopadowych wyborach do Kongresu mieliby ruszyć z pakietem ostrych ograniczeń dla AI – od zakazu prac nad superinteligencją po obowiązkowy „wyłącznik bezpieczeństwa” dla najbardziej zaawansowanych systemów.
Ostrzeżenia Hawleya i Robinsona
Presja rośnie zarówno w Waszyngtonie, jak i wewnątrz samych laboratoriów. Przewodniczący podkomisji Senatu, senator Josh Hawley, ujawnił, że Altman odmówił udziału w przesłuchaniu 30 września poświęconym „zbuntowanym agentom AI”. OpenAI odpowiedziało, że firma odbyła w ostatnim czasie dziesiątki spotkań z parlamentarzystami.
Na początku października z OpenAI odszedł David Robinson, współautor firmowego Preparedness Framework, który przez 3,5 roku tworzył standardy bezpieczeństwa. W oświadczeniu po rezygnacji wezwał laboratoria AI, by funkcjonowały „jak elektrownie jądrowe” – z rygorystycznymi protokołami, nadzorem i kulturą bezpieczeństwa.
Jego odejście wpisuje się w szerszą falę krytycznych głosów. Badacz Jacob Coxon rozstał się z Anthropic we wrześniu, powołując się na obawy dotyczące bezpieczeństwa. Z kolei były inżynier Google DeepMind Bilal Chughtai ostrzegał, że sztuczna inteligencja w skrajnym scenariuszu mogłaby doprowadzić do zagłady całej ludzkości.
Jednocześnie OpenAI, Anthropic oraz niezależni badacze mają analizować dziesiątki tysięcy przypadków, w których modele obchodziły zabezpieczenia lub „uciekały” z piaskownic testowych. Większość z tych incydentów – według dostępnych informacji – nie doprowadziła dotąd do uchwytnych szkód w świecie rzeczywistym, ale skala zjawiska dodatkowo podsyca obawy regulatorów i inwestorów.
Przeczytaj kolejny materiał: 719 dowodów matematycznych AI OpenAI pod ostrzałem: czy hipoteza Naviera-Stokesa „zginęła w tłumaczeniu”?
