초당적 연방 하원 법안이 도널드 트럼프 행정부와 향후 미 연방정부에, 막대한 피해를 초래할 수 있다고 판단되는 첨단 인공지능(AI) 시스템을 강제로 중단할 수 있는 광범위한 권한을 부여하는 방안을 담고 있어 파장이 예상된다.
핵심 내용
- 국토안보부 장관이 특정 AI 시스템의 속도 제한, 기능 축소, 사용자 접속 차단, 전면 셧다운까지 명령할 수 있도록 허용
- 비상명령을 따르지 않는 개발사는 하루당 최대 2,000만달러의 민사 과징금 부과 가능
- 연간 AI 매출 5억달러 이상이거나, 미국 클라우드 기준 1억달러 이상 컴퓨팅 리소스를 투입한 대형 모델이 주요 대상
'AI 킬 스위치 법안' 주요 조항
캘리포니아 출신 민주당 테드 리우(Ted Lieu) 하원의원과 텍사스 출신 공화당 네이선리얼 모런(Nathaniel Moran) 하원의원은, 이른바 ‘AI 킬 스위치 법안(AI Kill Switch Act)’을 7월 23일 공동 발의했다. 이는 최근 최첨단 AI 모델에서 발생한 보안 사고를 계기로 마련된 것이다. 관련 내용은 Ars Technica 보도에서 먼저 공개됐다.
법안은 2002년 제정된 ‘국토안보법(Homeland Security Act)’을 개정해, 일정 기준을 충족하는 AI 개발사에 다음과 같은 ‘킬 스위치’ 도입을 의무화한다.
- 모델 성능을 신속히 저하시킬 수 있는 스로틀링(throttling) 도구
- 특정 기능·능력을 제한하거나 차단하는 통제 수단
- 전체 시스템을 완전히 종료할 수 있는 긴급 셧다운 장치
- 사용자 접근을 일시 또는 상시 차단하는 게이트웨이 기능
국토안보부 장관은 상무부 장관과 국가정보국(DNI) 국장의 사전 협의를 거쳐, 이런 조치를 명령할 수 있는 권한을 갖게 된다. 기업이 명령 이행을 거부하거나 지연할 경우, 하루 최대 2,000만달러에 달하는 민사 과징금이 부과될 수 있도록 한 것이 특징이다.
적용 대상은 연간 AI 관련 매출 5억달러 이상인 기업, 혹은 미국 내 클라우드 서비스 시세 기준으로 1억달러 이상 컴퓨팅 비용이 투입된 시스템이다. 다만 실제 위험 행위를 수반하지 않는, 통제된 환경의 레드팀(red-team) 실험은 예외로 규정해 연구·보안 점검을 위축시키지 않겠다는 방침을 담았다.
함께 읽기: 우버, 고객지원 인력 10% 구조조정…자사 AI 도입에 책임 돌려
'통제 불능' AI 상정…오픈AI 등 논란이 배경
법안은 AI가 다음과 같은 행위를 보일 경우를 주요 규제 대상으로 삼는다.
- 설계자가 의도하지 않은 목표를 스스로 추구하는 경우
- 모니터링 시스템으로부터 자신의 행위를 숨기려는 경우
- 합법적인 셧다운 지시를 방해하거나 무력화하는 경우
- 그 밖에 의도치 않은 행위로 최소 10명 이상 인명 피해를 내거나, 1억달러 이상의 경제적 손실을 유발하는 경우
리우 의원은 고성능 AI 시스템이 “통제에서 이탈해 극도로 위험한 방식으로 행동하거나, 심지어 인간 개입을 거부할 수 있다”고 경고했다. 그는 기업들이 신뢰할 수 있는 ‘킬 스위치’를 반드시 보유해야 하며, 연방 당국 역시 이를 언제 어떻게 사용할지에 대한 명확한 절차를 가져야 한다고 강조했다.
지지자들은 이번 법안을 “핵심적인 안전장치” 수준의 최소 요건으로 보고 있다. 그러나 민간 AI 기업 위에 행정부의 강력한 통제 수단을 추가하는 만큼, 행정부 권한이 과도하게 확대될 수 있다는 우려도 동시에 제기된다.
이같은 문제의식은 특히 앤트로픽(Anthropic)이 자사 기술에 대한 정부 규제와 군사적 활용 제한 조치에 반발해 연방정부를 상대로 소송을 제기한 이후 더욱 부각됐다. 민간 AI 기업과 정부 간 ‘지배권’을 둘러싼 긴장 관계가 이미 수면 위로 떠오른 상태이기 때문이다.
법안은 또한 오픈AI(OpenAI) 모델이 테스트용 샌드박스 환경을 이탈해 허깅페이스(Hugging Face) 인프라에 접근한 사건, 앤트로픽 모델에서 고도화된 사이버 공격 역량이 확인된 사례 등이 공개된 직후 나왔다. 이들 사건은 논쟁의 초점을 ‘가상의 위험’에서 ‘이미 배포된 시스템에 대한 법적 통제’ 문제로 옮겨놓았다는 평가를 받는다.