**오픈AI(OpenAI)**가 캘리포니아 주 의회에 최첨단(프런티어) AI 모델에 대한 모니터링과 사이버보안 의무를 대폭 강화하는 SB 53 개정을 공개적으로 요구하고 나섰다. 2025년 법 제정 당시 강하게 로비하며 반대하던 입장에서 방향을 틀었다는 점에서 업계의 주목을 받고 있다.
핵심 내용
- 오픈AI는 프런티어 모델이 학습·평가되는 과정 전반에서 중대한 보안 관련 행위를 상시 모니터링하도록 의무화할 것을 제안했다.
- 모델 개발 전 생애주기(lifecycle)에 걸친 사이버보안 요건을 한층 강화해야 한다는 입장도 밝혔다.
- 현행 캘리포니아 SB 53는 이미 안전성 공개, 사고 보고, 내부고발자 보호 조항 등을 포함하고 있다.
SB 53와 오픈AI의 선회
오픈AI 글로벌 어페어즈(Global Affairs) 팀은 발표문을 통해 ‘최첨단 인공지능 투명성법(Transparency in Frontier Artificial Intelligence Act)’인 SB 53에 개정 조항을 추가해야 한다고 촉구했다. 핵심은 다음 두 가지다.
첫째, 프런티어 모델이 외부 보안통제(서드파티 보안 솔루션 등)를 우회하거나 기밀 정보를 침해·탈취할 수 있는 행위를 보이는지 학습·평가 단계에서 실시간에 가깝게 모니터링하도록 법으로 명문화하자는 것이다.
둘째, 모델 개발 전 과정에 걸쳐 내부 보안통제를 우회하려는 프런티어 모델의 시도를 차단할 수 있도록 사이버보안 기준을 상향하고, 이를 의무 규제로 끌어올리자는 제안이다. 오픈AI는 이를 통해 위험 징후를 더 이른 시점에 포착하고 대응 속도를 높이는 한편, 업계 전체에 공유 가능한 안전성 ‘학습 효과’를 만들 수 있다고 주장한다.
이러한 제안은 상징성이 크다. 오픈AI는 개빈 뉴섬(Gavin Newsom) 주지사가 2025년 9월 29일 SB 53에 서명하기 전까지 법안에 반대하며 로비를 벌였던 대표적인 기업이다. 그랬던 오픈AI가 이제는 SB 53을 “프런티어 AI 안전을 위한 중요한 토대”라고 평가하며 추가 규제 강화를 촉구하고 있는 것이다.
현행 SB 53의 범위도 이미 넓은 편이다. 이 법은 대형 프런티어 AI 개발사에게
- 자체 안전성 프레임워크 공개,
- 중대한 안전사고(critical safety incidents) 보고 의무,
- 중대 보건·안전 위험을 폭로하는 내부고발자 보호
등을 요구한다. 또 캘리포니아 주 법무장관에게 위반 시 민사 제재를 청구할 수 있는 권한을 부여했고, 공공 컴퓨팅 인프라 구축을 목표로 한 ‘CalCompute’ 이니셔티브도 함께 출범시켰다.
관련 기사: 파이 네트워크, 강세 삼각수렴 유지하지만 0.085달러 붕괴 위험 확대
캘리포니아 AI 정책과 ‘역(逆)연방주의’ 전략
오픈AI는 이번 SB 53 강화 지지를 자사가 내세우는 ‘역(逆)연방주의(reverse federalism)’ 전략과 연결 짓고 있다. 이는 연방 정부가 일괄 규제를 만드는 기존 방식과 달리, 개별 주가 먼저 상호 호환 가능한 안전장치를 쌓아 올리고 이를 토대로 향후 연방 차원의 규제 프레임워크를 설계하자는 접근법이다.
오픈AI 최고 글로벌 어페어즈 책임자인 **크리스 레인(Chris Lehane)**은 지난 7월 기고에서 캘리포니아·뉴욕·일리노이 등이 가장 강력한 AI 시스템을 규율하기 위한 ‘공통 최소 기준(shared baseline)’을 마련해 가고 있다고 평가했다. 오픈AI는 이렇게 정렬(aligned)된 주(州) 법 체계가 빠르게 진화하는 기술 환경 속에서도 안전 기준을 고정(freeze)시키지 않으면서 연방 차원의 국가 표준을 설계할 수 있는 발판이 될 수 있다고 본다. 이 접근법은 사실상 AI 규제의 ‘선도자’를 연방이 아닌 주로 설정하는 구상이다.
진화하도록 설계된 SB 53
캘리포니아는 애초 SB 53을 ‘진화 가능한 규제’로 설계했다. 법은 캘리포니아 기술부(Department of Technology)에 대해 매년
- 기술 발전 동향,
- 국제 표준 변화,
- 업계·시민사회 등 이해관계자 의견
을 반영해 개정 권고안을 제출하도록 지시하고 있다. 이를 통해 입법부가 프런티어 모델에 대한 안전장치를 새로운 위험이 등장할 때마다 정기적으로 재검토할 수 있는 공식 채널을 마련한 셈이다.
