Чатбот сфабрикував розвіддані про те, що китайське судно нібито перевозило компоненти ядерної зброї, і, за словами чотирьох джерел, ця помилкова інформація ледь не спровокувала висадку американських військових.
Ключові моменти:
- Озброєні американські військові готувалися піднятися на борт китайського судна на Близькому Сході, тоді як військові літаки вже були в повітрі.
- Посадовці виявили помилку незадовго до операції, коли з’ясували, що чатбот неправильно ідентифікував вантаж.
- Дослідники закликають провести чіткі «червоні лінії», які не дозволять ШІ ухвалювати рішення щодо ядерного удару, а також запровадити гарячу лінію для інцидентів, пов’язаних зі ШІ.
Чатбот неправильно прочитав вантажну декларацію китайського судна
Чотири співрозмовники, обізнані з цією історією, розповіли про оцінку, яка навесні цього року поширилася в американських військових структурах на тлі війни з Іраном. У ній стверджувалося, що китайське судно на Близькому Сході перевозить компоненти для ядерної програми. Джерелом розвідзведення щодо вантажу стало командування спеціальних операцій США в Тихоокеанському регіоні, розташоване на Гаваях, яке на запит про коментар не відповіло.
Озброєні військові вже готувалися до підйому на борт судна, а військові літаки перебували в повітрі. Лише незадовго до запланованої операції посадовці почали перевіряти інформацію і з’ясували, що аналітик сформував її за допомогою ШІ, а чатбот помилково визначив характер вантажу.
За даними джерел, бот поєднав відкриті джерела із засекреченими даними радіоелектронної розвідки, які зберігалися в урядових системах, після чого аналітик знову прогнав висновки через ШІ, щоб оформити їх як стандартний розвідувальний продукт.
Одне з джерел назвало звіт «абсолютно хибним». Журналісти не змогли встановити, що саме перевозив вантаж, а також не з’ясували, чи був використаний чатбот комерційним продуктом, чи урядовою розробкою.
Також читайте: Прогнози щодо Nvidia на 2030 рік показують розрив від $727 до $28 560
Сіссон і Цзян закликають до ядерних «червоних ліній» для ШІ
Мелані Сіссон із Brookings Institution та Тяньцзяо Цзян із Fudan University опублікували минулого тижня набір запобіжників для військового ШІ в межах діалогу, який ці дві установи ведуть із Tsinghua University з 2019 року. Вони пропонують встановити «червоні лінії», що забороняють використання цієї технології для ухвалення рішень про ядерний удар і для атак на системи ядерного командування противника.
Паралельно дослідники запропонували окрему гарячу лінію для інцидентів, пов’язаних зі ШІ, а також спільне визначення «дієвого людського контролю». Їхня робота лягає на децентралізовану систему без єдиного стандарту для перевірки того, що саме видають інструменти, тоді як рівень надійності в держсекторі суттєво відрізняється. За словами посадовців, використання ШІ в цілеуказанні зростає, але майже немає інструкцій щодо того, як людина-ревізор має запобігати жертвам серед цивільних чи «дружньому вогню».
Стратегія Гегсета щодо ШІ опинилася під критикою
Міністр оборони Піт Гегсет оприлюднив у січні 2026 року стратегію прискорення, яка обіцяла армію, орієнтовану на ШІ в усіх сферах, і передбачала доступ до моделей для трьох мільйонів військовослужбовців. Відтоді впровадження лишається фрагментованим: різні підрозділи працюють із різними інструментами та за різними правилами безпеки.
Вашингтон і Пекін уже не вперше стикаються з цією проблемою. Джо Байден і Сі Цзіньпін домовилися в листопаді 2024 року, що рішення щодо застосування ядерної зброї мають ухвалювати люди, а не машини, хоча жодна зі сторін так і не пояснила, як саме це контролювати. Дональд Трамп прийме Сі у Вашингтоні 24 вересня, і питання ШІ, ймовірно, буде серед тем переговорів.
Читати далі: Google Gemini зламав три компанії в перших відомих автономних вторгненнях
