한 챗봇이 중국 선박이 핵무기 부품을 싣고 있다는 허위 정보를 만들어냈고, 이 오보로 미군이 실제로 선박에 승선할 뻔했다고 복수의 소식통이 전했다.
핵심 포인트:
- 중동 해역에서 중국 선박에 미군 특수전 요원이 승선 준비를 마친 가운데, 군용기도 이미 공중에 올라가 있었다.
- 당국은 작전 직전 오류를 포착했고, 챗봇이 화물을 잘못 식별한 사실을 확인했다.
- 연구자들은 AI의 핵 관련 의사결정 개입을 차단하는 명확한 금지선과 AI 사고 대응 핫라인이 필요하다고 강조했다.
중국 선박 적하목록을 잘못 읽은 챗봇
당시 상황을 잘 아는 4명은 올봄 미·이란 전쟁이 한창이던 시기에 미군 내부를 통해 퍼진 평가 보고서를 전했다. 보고서는 중동 해역의 한 중국 선박이 핵무기 프로그램 관련 부품을 싣고 있다고 적었다. 이 선박 적하목록에 대한 분석은 하와이에 있는 미군 태평양 특수작전사령부에서 나온 것으로 알려졌지만, 해당 사령부는 논평 요청에 응하지 않았다.
무장한 군 인력은 선박 승선 준비를 마쳤고, 군용기도 이미 이륙한 상태였다. 당국은 예정된 작전 직전에서야 보고서를 재검토했고, 분석관이 AI를 활용해 작성한 뒤 챗봇이 선상 화물을 오판한 사실을 확인했다.
이 봇은 정부 시스템에 보관된 기밀 신호정보와 공개 출처 자료를 뒤섞은 뒤, 분석관이 다시 AI를 돌려 이를 통상적인 정보보고 형식으로 정리한 것으로 알려졌다.
한 소식통은 이 보고서를 "완전히 허위"라고 표현했다. 취재진은 실제 적재물이 무엇인지, 또는 해당 챗봇이 상용 제품인지 정부용 제품인지 확인하지 못했다.
또 읽을 기사: 엔비디아 2030년 전망, 주가 727달러~2만8560달러 격차
시슨·장, 핵무기 관련 ‘금지선’ 제안
브루킹스연구소의 멜라니 시슨과 푸단대의 톈자오 장은 지난주 군사용 AI 안전장치를 발표했다. 두 기관은 2019년부터 칭화대와 공동으로 대화를 이어오고 있다. 이들은 AI가 핵 발사 결정을 좌우하거나 적국의 핵 지휘통신망을 타격하는 데 쓰여서는 안 된다는 명확한 금지선을 제시했다.
두 사람은 AI 사고 전용 핫라인과 ‘의미 있는 인간 통제’의 공통 정의도 제안했다. 다만 현재 체계는 중앙의 단일 기준이 없고, 도구가 내놓는 결과를 검증하는 표준도 없어 정부 전반에서 신뢰도 편차가 큰 상황이다. 당국자들은 표적화 과정에서 AI 활용이 계속 늘고 있지만, 인간 검토자가 민간인 피해나 아군 오폭을 어떻게 막는지에 대한 지침은 거의 없다고 말했다.
헤그세스 AI 전략도 도마 위에
피트 헤그세스 국방장관은 2026년 1월, 모든 영역에서 AI 우선 전력을 구축하고 300만 명의 인력에게 AI 모델을 배포하겠다는 가속 전략을 내놨다. 그러나 이후 도입은 각 부서가 서로 다른 도구와 안전 규정을 적용하는 방식으로 흩어져 진행되고 있다.
워싱턴과 베이징은 이미 이 문제를 놓고 맞붙은 바 있다. 조 바이든과 시진핑은 2024년 11월, 핵무기 사용 결정은 기계가 아닌 인간이 내려야 한다는 데 합의했지만, 이를 어떻게 이행할지에 대한 세부 방안은 내놓지 않았다. 도널드 트럼프 대통령은 9월 24일 시진핑 주석을 워싱턴에 맞이할 예정이며, AI가 의제에 오를 것으로 보인다.
