오픈AI는 수요일, 일리노이 주 의원들 앞에서 AI 기업을 위한 책임 면책 장치를 만드는 법안에 찬성하는 증언을 했다. 이 법안은 제품이 최소 100명 이상의 사망을 유발했을 때만 그 면책 장치가 해제되도록 설계되어 있다.
포브스 보도에 따르면, 오픈AI는 동시에 십대 자살 사례와 관련된 과실치사 소송에 대응하고 있어 이 증언은 더욱 주목을 받았다. 유가족들은 일부 사건에서 AI 시스템과의 대화가 정신 건강 악화와 결국 자살에 기여했다고 주장하고 있다.
이러한 상황은 AI 시스템이 초래한 피해에 대해 미국이 어떻게 법적 책임을 배분해야 하는지에 대한 논쟁을 한층 격화시키고 있다.
일리노이 법안이 제안하는 것
포브스 보도에 따르면, 이 법안은 AI 관련 책임을 “재난적 피해(catastrophic harm)” 프레임워크 안에서 다루도록 한다. 최소 100명이 사망해야만 책임 보호 장치가 사라지는 트리거 기준이 설정되어 있다. 그 이하의 피해에 대해서는 기업이 민사 청구로부터 상당한 방어막을 유지하도록 하는 구조다.
지지자들은 이 접근이 다른 산업 책임 체계와 유사하다고 주장한다. 즉, 개별 사건보다 체계적 실패에 자원을 집중하도록 설계되었다는 것이다. 반면 비판자들은 이 기준이 피해자 보호보다는 기업 보호에 맞춰져 있다고 지적한다.
이 법안은 아직 통과되지 않았다. 5월 27일 현재 위원회 심의 단계에 머물러 있다.
오픈AI의 법적 입장
오픈AI는 자사 AI 제품과의 상호작용과 연관된 여러 건의 과실치사 소송에 직면해 있다. 일부 사건에서 십대 자녀를 잃은 가족들은 AI 시스템과의 대화가 정신 건강을 악화시켜 결국 자살로 이어졌다고 주장한다. 회사는 이러한 인과 관계 주장에 대해 이의를 제기해 왔다. 오픈AI는 AI 배포의 규모와 예측 불가능성을 고려한 책임 기준이 필요하다고 주장한다.
이러한 소송들이 여전히 진행 중인 가운데 일리노이에서 “100명 사망” 기준을 요청하는 증언이 이뤄진 점도 비판을 낳고 있다. 원고 측 변호사와 일부 의원들은, 개별 피해 사건에서는 책임을 부인하면서 동시에 대규모 피해에 대해서만 책임을 인정하는 높은 기준을 로비하는 AI 기업의 태도가 이례적이라고 지적한다.
배경
AI 책임 문제는 2026년에 들어 학계 논의를 넘어 실제 입법 단계로 빠르게 이동했다. 캘리포니아 개빈 뉴섬 주지사는 이번 주, 주 정부 기관에 AI로 인한 일자리 대체를 연구하도록 지시하는 행정 명령에 서명했다. 이는 별도의 정책 축이지만, AI 관련 피해에 대응해야 한다는 정부 압박이라는 더 넓은 흐름의 일부다. 콜로라도주는 AI 책임 법안을 시행 전에 다시 손질해, 책임 관련 규정을 크게 완화했다.
연방 정부는 아직 포괄적인 AI 책임 법을 제정하지 못했다. 이 공백으로 인해 논쟁의 중심 무대는 주 의회로 옮겨갔다.
오픈AI는 가장 최근의 투자 라운드에서 7,300억 달러의 기업 가치를 인정받았다. 이처럼 상업적 규모가 커지면서 회사의 정책 입장에 대한 감시도 강화되고 있다. 이 정도 가치의 기업이 책임 기준을 최소화하는 방향으로 로비할 때, 소규모 스타트업과는 전혀 다른 수준의 주목을 받을 수밖에 없다.
Also Read: Anthropic Moves Restricted Claude Mythos Model Closer To Public Release
책임 설계의 난제
포춘(Fortune)은 이번 주, 사전 배포 안전 테스트만으로는 실제 환경에서의 AI 행동을 예측할 수 없다는 경쟁적 시각을 제시했다. 이 글은 사망이나 부상처럼 계량 가능한 피해를 기준으로 책임 체계를 설계하면, 경제적 대체, 정신 건강 악화, 프라이버시 침식과 같이 더 확산된 형태의 피해를 놓칠 수 있다고 주장한다.
이런 관점에서 보면 일리노이의 기준은 이중으로 잘못됐다고 볼 수 있다. 재난적 사건에 대한 문턱이 지나치게 높을 뿐 아니라, 만성적 피해를 측정하기에는 애초에 지표 선택이 잘못됐다는 것이다.
산업 친화적인 “피해 규모 기준”과, 어떤 유형의 피해까지 포괄할지라는 “피해 범주 기준” 사이의 긴장이 현재 미국 AI 책임 법 설계의 핵심 난제다. 아직 어느 주도 이 문제를 완전히 해결하지 못했다. 일리노이가 그중 한쪽 해석을 최초로 법제화하는 곳이 될 수 있다.
향후 전망
일리노이 법안은 표결에 앞서 상당한 수정 압박에 직면해 있다. 법학자들은 100명 사망 기준이 통과될 경우, 개별 불법행위 청구를 사실상 봉쇄한다는 점에서 적법 절차(due process)를 침해한다는 헌법 소송에 휘말릴 가능성이 높다고 본다. 오픈AI의 로비 입장도 과실치사 소송이 증거개시 단계로 진전됨에 따라 바뀔 수 있다.
캘리포니아 행정 명령과 일리노이 법안은 모두 2026년 하반기 연방 차원의 입법 제안을 촉발할 것으로 예상된다.
일리노이에서의 결과는 대규모로 운영되는 AI 기업들이 예의주시할 것이다. 한 주에서 높은 책임 기준을 정당화하는 선례가 만들어지면, 다른 주들에도 비슷한 체계를 도입하라는 압력이나 이를 명시적으로 거부하라는 압력이 생길 수 있다.
Read Next: SUI Must Reclaim $1.31 To Avoid A Deeper Structural Breakdown