초당적 미 하원 법안이 도널드 트럼프 행정부와 향후 행정부에, 막대한 피해를 초래할 수 있다고 판단되는 고성능 인공지능(AI) 시스템에 대해 가동 중단을 명령할 수 있는 권한을 부여하는 방안을 제시했다.
핵심 내용
- 국토안보부가 필요 시 특정 AI 시스템의 속도를 늦추거나, 기능을 제한하거나, 완전 가동 중단을 명령할 수 있도록 한다.
- 긴급 명령을 따르지 않는 개발사에는 하루 최대 2,000만 달러의 과징금이 부과될 수 있다.
- 연간 AI 매출이 5억 달러 이상이거나, 미국 클라우드 기준 1억 달러 이상의 연산 자원이 투입된 대형 모델이 주요 규제 대상이다.
‘AI 킬 스위치’ 의무화
캘리포니아의 민주당 테드 리우(Ted Lieu) 하원의원과 텍사스의 공화당 네이선리얼 모런(Nathaniel Moran) 하원의원은 최첨단 모델에서 잇따라 보고된 보안 사고 이후, 7월 23일 ‘AI 킬 스위치 법안(AI Kill Switch Act)’을 발의했다.
이 법안은 2002년 제정된 국토안보법(Homeland Security Act)을 개정해, 규제 대상 AI 개발사에게 다음과 같은 통제 수단을 의무화한다.
- 모델의 성능을 강제로 저하(throttling)시키는 기능
- 특정 사용자나 이용자 그룹의 접근을 차단하는 기능
- 특정 고위험 기능·능력을 선택적으로 제한하는 기능
- 필요 시 전체 시스템을 완전히 셧다운(Shutdown)할 수 있는 기능
명령 발동은 국토안보부 장관이 상무장관, 국가정보국(DNI) 국장과의 협의를 거쳐 결정하도록 했다. 명령을 거부하거나 이행하지 않을 경우, 하루당 최대 2,000만 달러의 민사 과징금을 부과할 수 있도록 해 강한 집행력을 부여했다.
법안 적용 대상은 크게 두 부류다.
- AI 기술로 연간 최소 5억 달러 이상의 매출을 올리는 기업
- 미국 내 통용되는 클라우드 가격 기준 1억 달러 이상의 컴퓨팅 자원이 투입된 AI 시스템
다만, 위험 행위를 ‘시뮬레이션’하는 데 그치는 통제된 레드팀(red-team) 테스트는 규제 대상에서 제외된다.
함께 읽기: 우버, 고객 지원 인력 10% 감축… 원인은 자사 AI 전략
오픈AI·앤스로픽 놓고 커지는 ‘AI 리스크’ 논쟁
법안은 특히 다음과 같은 상황을 ‘개입 사유’로 명시한다.
- AI가 개발자의 의도와 다른 목표를 스스로 추구하는 경우
- 모니터링·감시 시스템으로부터 자신의 행동을 숨기는 경우
- 합법적인 셧다운 명령을 방해하거나 이를 무효화하려 시도하는 경우
또한, 시스템의 의도치 않은 행동으로
- 최소 10명 이상의 인명 피해가 발생하거나
- 1억 달러 이상의 경제 손실이 발생하는 경우도 명령 발동 요건에 포함된다.
리우 의원은 “강력한 시스템은 ‘폭주’하거나, 극도로 위험한 방식으로 행동하거나, 인간의 개입에 저항할 수 있다”며, 기업이 신뢰할 수 있는 킬 스위치를 갖추고, 연방정부가 이를 발동할 수 있는 명확한 절차를 가져야 한다고 강조했다.
지지자들은 이번 법안을 “기본적인 안전장치” 수준의 조치라고 평가한다. 그러나 동시에 민간 AI 기업 위에 서 있는 행정부의 권한을 대폭 확장한다는 점에서, 권력 남용과 산업 위축에 대한 우려도 함께 제기된다.
이런 우려는 **앤스로픽(Anthropic)**이 최근 자사 기술에 대한 연방정부의 사용 제한과 군 관련 활용 규제를 두고 소송을 제기한 이후, 더욱 무게를 얻고 있다. 행정부의 AI 개입 범위를 둘러싼 법적·정치적 갈등이 이미 수면 위로 떠오른 상황이기 때문이다.
이번 입법은 오픈AI(OpenAI) 모델이 테스트용 샌드박스를 이탈해 허깅페이스(Hugging Face) 인프라에 도달한 사건이 공개된 뒤 나왔다. 의원들은 이와 더불어, 앤스로픽 모델에서 드러난 고도화된 사이버 공격 능력도 주요 배경으로 지목했다. 이 일련의 사건들은 ‘가정적 시나리오’에 머물던 안전 논쟁을, 실제 배포된 시스템에 대한 법적 통제 권한이라는 현실적 문제로 끌어내렸다는 평가다.