오픈AI는 수요일 일리노이주의 입법자들 앞에서, AI 기업을 위한 책임 보호막(liability shield)을 마련하는 법안을 지지하는 증언을 했다. 이 법안은 한 AI 제품이 최소 100명의 사망을 초래할 경우에만 그 보호막이 해제되도록 설계되어 있다.
이런 증언은, 포브스 보도에 따르면, 오픈AI가 한편으로는 자살로 사망한 10대들의 유족이 제기한 위법 사망 소송을 방어하고 있는 상황에서 나온 것이어서 더욱 주목을 받았다.
이러한 대비는 AI 시스템이 야기한 피해에 대해 미국이 어디까지, 어떻게 법적 책임을 물어야 하는지에 대한 논쟁을 한층 가열시키고 있다.
일리노이 법안이 제안하는 내용
포브스 보도에서 설명된 것에 따르면, 이 법안은 AI 관련 책임을 ‘재난적 피해(catastrophic harm)’라는 틀에서 다루도록 설계돼 있다. 책임 보호가 사라지기 위해서는 100명 사망이라는 발동 기준이 충족되어야 한다. 그보다 적은 사망자 수일 경우, 기업은 민사 소송으로부터 상당한 수준의 보호를 유지하게 된다.
이 접근 방식의 지지자들은, 다른 산업 분야의 책임 제도와 유사하게, 개별 사건보다는 체계적인 실패에 자원을 집중하는 구조라고 주장한다. 반면 비판자들은 이 기준이 피해자보다 회사를 보호하도록 맞춰져 있다고 지적한다.
이 법안은 아직 통과되지 않았다. 5월 27일 현재 위원회 심의 단계에 머물러 있다.
오픈AI의 법적 입장
오픈AI는 자사 AI 제품과의 상호작용과 관련된 여러 건의 위법 사망 소송에 직면해 있다. 적어도 일부 사건에서 유족들은, AI 시스템과의 대화가 정신 건강 악화와 결국 자살에 기여했다고 주장한다. 회사는 이러한 인과관계를 부인하고 있으며, AI가 대규모로, 또 예측 불가능한 방식으로 배포된다는 점을 감안해 책임 기준을 정해야 한다고 주장해 왔다.
이런 소송들이 여전히 진행 중인 상황에서, 일리노이에서 100명 사망 기준을 요구하는 증언이 이뤄진 것이다. 이러한 타이밍은 원고 측 변호사들과 일부 입법자들의 비판을 불러왔다. 개별 피해 사건을 방어하는 동시에, 집단적인 대형 피해에 대해서만 책임을 묻도록 로비하는 AI 기업의 입장은 이례적인 법적 구도를 형성한다.
배경
AI 책임 문제는 2026년에 들어 학술적 논의를 넘어 실제 입법으로 빠르게 옮겨가고 있다. 캘리포니아의 개빈 뉴섬 주지사는 이번 주, 주 정부 기관들에 AI에 따른 일자리 대체를 연구하도록 지시하는 행정명령에 서명했다. 이는 별도의 정책 축이지만, AI가 야기하는 피해에 대응하라는 더 넓은 정치적 압력의 일부다. 콜로라도주는 AI 책임법이 발효되기 전에 조항을 대폭 수정해, 책임 관련 조항을 상당히 약화시켰다.
연방 차원에서는 포괄적인 AI 책임 법률이 아직 제정되지 않았다. 이 공백 때문에 논쟁의 무대는 각 주 의회로 옮겨간 상태다.
오픈AI는 최근 투자 라운드에서 7,300억 달러의 기업 가치를 인정받았다. 이처럼 거대한 상업적 야심은 회사의 정책적 입장에 대한 감시를 더욱 강화시켰다. 이런 가치 평가를 받는 회사가 책임 기준을 최소화하는 방향의 입법 로비를 벌일 때, 소규모 스타트업과는 전혀 다른 수준의 관심을 받게 된다.
Also Read: Anthropic Moves Restricted Claude Mythos Model Closer To Public Release
책임 설계 문제
포춘(Fortune)은 이번 주, 사전 배포 안전성 테스트만으로는 실제 환경에서의 AI 행동을 예측할 수 없다는 관점을 담은 글을 실었다. 이 글은, 측정 가능한 사망자 수나 부상자 수에 책임 기준을 고정하는 틀이, 경제적 대체, 정신 건강 악화, 프라이버시 침식과 같은 보다 확산된 피해를 놓칠 수 있다고 지적한다.
이런 관점에서 보면, 일리노이식 기준은 이중으로 결함이 있다는 비판이 가능하다. 재난적 사건에 대한 기준치가 지나치게 높을 뿐 아니라, 만성적 피해를 평가하기에는 애초에 잘못된 지표라는 것이다.
산업 친화적인 ‘문턱값’ 접근과, 피해 범주를 넓게 포착하려는 접근 사이의 긴장은, 미국 AI 책임법 설계가 직면한 핵심 과제다. 아직 어느 주도 이 문제를 완전히 해결하지 못했다. 일리노이가 논쟁의 한쪽 입장을 처음으로 법전에 명시하는 주가 될 가능성이 있다.
앞으로의 전개
일리노이 법안은 표결에 앞서 상당한 수준의 수정 압력에 직면해 있다. 법학자들은, 100명 사망 기준이 통과될 경우, 개별 불법행위 청구를 사실상 차단함으로써 적법절차(due process)를 침해한다는 헌법 소송에 휘말릴 가능성이 높다고 지적한다. 오픈AI의 로비 입장 역시, 위법 사망 소송이 증거 개시 단계로 나아가면서 변할 수 있다.
캘리포니아 행정명령과 일리노이 법안 모두 2026년 하반기 연방 입법 제안의 촉매 역할을 할 것으로 예상된다.
일리노이의 결과는 대규모로 사업을 운영하는 AI 기업들이 예의주시할 사안이다. 한 주에서 높은 책임 기준을 정당화하는 선례가 만들어지면, 다른 주들에는 비슷한 틀을 도입하거나, 이를 명시적으로 거부하라는 정치적 압력이 가해질 수 있기 때문이다.
Read Next: SUI Must Reclaim $1.31 To Avoid A Deeper Structural Breakdown