Chatbot wygenerował błędny meldunek wywiadowczy, według którego chiński statek miał przewozić części programu nuklearnego, a cztery źródła podały, że fałszywy raport niemal uruchomił amerykańską operację abordażu.
Najważniejsze informacje:
- Uzbrojeni żołnierze USA przygotowywali się do wejścia na pokład chińskiej jednostki na Bliskim Wschodzie, gdy w powietrzu znajdowały się już wojskowe samoloty.
- Błąd wykryto na krótko przed rozpoczęciem operacji, po ustaleniu, że ładunek został błędnie zidentyfikowany przez chatbot.
- Badacze postulują wyznaczenie „czerwonych linii” dla AI w decyzjach o użyciu broni jądrowej oraz uruchomienie gorącej linii do zgłaszania incydentów z udziałem sztucznej inteligencji.
Chatbot błędnie odczytał manifest chińskiego statku
Cztery osoby znające sprawę opisały ocenę, która tej wiosny krążyła po amerykańskich strukturach wojskowych, w środku wojny z Iranem. Wynikało z niej, że chiński statek na Bliskim Wschodzie przewozi komponenty programu broni nuklearnej. Raport dotyczący ładunku jednostki pochodził z U.S. Special Operations Command Pacific z siedzibą na Hawajach, które nie odpowiedziało na prośbę o komentarz.
Uzbrojeni żołnierze szykowali się do wejścia na pokład statku, a samoloty wojskowe były już w powietrzu. Urzędnicy zaczęli weryfikować raport dopiero na krótko przed planowaną operacją i ustalili, że analityk przygotował go z wykorzystaniem AI, a chatbot błędnie rozpoznał znajdujący się na pokładzie materiał.
Bot połączył dane z otwartych źródeł z niejawnymi informacjami radiowywiadowczymi przechowywanymi w systemach rządowych, a następnie analityk ponownie przepuścił wnioski przez AI, by nadać im formę standardowego produktu wywiadowczego.
Jedno ze źródeł nazwało ten raport „całkowicie fałszywym”. Dziennikarzom nie udało się ustalić, jaki ładunek rzeczywiście znajdował się na statku ani czy chatbot był narzędziem komercyjnym, czy rządowym.
Zobacz też: Prognozy dla Nvidii na 2030 rok pokazują rozbieżność od 727 do 28 560 dolarów
Sisson i Jiang wzywają do wyznaczenia czerwonych linii dla broni jądrowej
Melanie Sisson z Brookings Institution i Tianjiao Jiang z Fudan University opublikowali w ubiegłym tygodniu zestaw zabezpieczeń dla wojskowej AI, w ramach cyklu rozmów prowadzonych przez obie instytucje wspólnie z Tsinghua University od 2019 roku. Autorzy chcą wyznaczenia czerwonych linii, które wykluczałyby tę technologię z decyzji o użyciu broni jądrowej oraz z ataków na sieci dowodzenia nuklearnego przeciwnika.
Para zaproponowała także utworzenie dedykowanej gorącej linii do zgłaszania incydentów związanych z AI oraz wspólną definicję rzeczywistej kontroli człowieka nad decyzją. Ich propozycje pojawiają się w zdecentralizowanym systemie, w którym nie ma jednego standardu weryfikacji wyników generowanych przez narzędzia, a niezawodność rozwiązań w administracji jest bardzo zróżnicowana. Urzędnicy podkreślają, że zastosowanie AI przy doborze celów rośnie, przy jednoczesnym braku jasnych wytycznych, jak człowiek ma zapobiegać ofiarom cywilnym i przypadkowemu ostrzałowi własnych sił.
Strategia Hegsetha wobec AI pod lupą
Sekretarz obrony Pete Hegseth opublikował w styczniu 2026 roku strategię przyspieszenia wdrożeń, zakładającą armię opartą na AI we wszystkich domenach i udostępnienie modeli trzem milionom żołnierzy i pracowników. Od tego czasu adopcja pozostaje rozproszona: poszczególne biura korzystają z różnych narzędzi i odrębnych zasad bezpieczeństwa.
Waszyngton i Pekin mierzyły się już z tym problemem. Joe Biden i Xi Jinping uzgodnili w listopadzie 2024 roku, że decyzje o użyciu broni nuklearnej powinny pozostawać w rękach ludzi, a nie maszyn, choć żadna ze stron nie przedstawiła mechanizmu egzekwowania tych zasad. Donald Trump ma przyjąć Xi w Waszyngtonie 24 września, a jednym z tematów ma być AI.
Czytaj dalej: Google Gemini włamał się do trzech firm w pierwszych znanych autonomicznych naruszeniach
