영란은행(Bank of England) 총재 **앤드루 베일리(Andrew Bailey)**가 “강도 높은 AI 테스트가 공식 규제에 앞서야 한다”며, 위험이 커질수록 당국이 개입할 수 있는 여지를 유지해야 한다고 밝혔다.
핵심 내용
- 베일리는 AI 리스크가 커지고 있지만, 규제 틀을 짜기 전에 먼저 취약 지점을 찾아내야 한다고 지적했다.
- 도입 전·후 전 과정에서의 엄격한 테스트와 함께, 명확한 안전장치와 신뢰할 수 있는 인간 개입 지점을 마련해야 한다고 강조했다.
- 그의 발언은 대형 AI 기업들과 미국 정부가 자율 규제, 개발 속도 조절, 향후 규제 방향을 놓고 논쟁을 벌이는 가운데 나왔다.
베일리 “AI, 먼저 시험대에 올려야”
베일리는 BBC 기고에서 AI 리스크는 “현실적이며 점점 더 중대해지고 있다”고 평가하면서도, 제도 규제가 어떻게 작동해야 할지를 정하기 전에 먼저 시스템이 어디에서, 어떻게 실패할 수 있는지를 규명해야 한다고 주장했다. 그는 “규제에서 출발하는 것은 옳지 않다”고 못 박았다.
베일리는 고도화된 AI에 대해 사회가 경계선을 설정할 수 있는 역량을 유지해야 하며, 도입 전·후에 걸친 철저한 테스트를 통해 취약성을 드러내고 안전장치가 실제로 사고를 통제할 수 있는지를 확인해야 한다고 말했다. AI 개발 자체를 금지해선 안 되는 이유로는 “잠재적 편익이 엄청나기 때문”이라고 설명했다.
영국 정부는 이미 AI 보안을 전담하는 ‘AI Security Institute(인공지능 보안 연구소)’를 설립했다. 베일리는 이 기관이 AI 신뢰성 확보를 위한 과학적·기술적 기반을 쌓는 데 기여하고 있다고 평가하면서도 “진전 속도가 더 빨라져야 한다”고 지적했다. 그는 예기치 못한 모델 행동은 테스트 실패의 증거라기보다 “왜 테스트가 필수적인지를 보여주는 사례”라고 덧붙였다.
관련 기사: 리플, 브라질 CSD BR과 손잡고 공공 블록체인에 펀드 보유 구조 미러링
오픈AI를 둘러싼 안전성 논쟁
오픈AI(OpenAI), 앤스로픽(Anthropic) 등 주요 AI 기업들은 모델 성능이 급격히 높아지는 상황에서 더 강한 안전장치와 국제 공조 하의 위험 평가 체계를 요구하고 있다. 오픈AI는 최근 안전 문제를 이유로 최신 AI 모델을 공개하지 않겠다고 밝힌 바 있다.
한편 도널드 트럼프 미국 대통령은 중국과의 경쟁에서 미국의 AI 개발 속도를 늦추자는 요구를 거부하며 “AI를 선점하는 자가 승리한다(‘whoever wins AI, wins’)”고 발언했다. 9월 29일 백악관에서 주요 기술 기업 CEO들과 회동한 뒤 그는 참석자들이 서명한 AI 관련 문건을 “도덕적 구속력이 있는 합의”이자 일종의 “보호 장치”라고 소개했다.
이 합의에 따라 참여 기업들은 자사 AI 기술의 안전성에 대해 스스로 책임을 지는 구조다. 베일리의 접근법은, 고도 AI를 둘러싼 보다 공식적인 규제 틀을 짜기에 앞서 테스트를 통해 어디에서 공적 개입이 필요한지부터 명확히 해야 한다는 점에서 미국식 ‘기업 자율 책임’ 모델과 무게 중심이 다르다.
최근 몇 주간 AI 개발사, 각국 정부, 금융 당국이 더 빠른 모델 고도화와 그에 따른 감독 공백 문제에 직면하면서 관련 논의는 한층 속도를 내고 있다. 베일리의 이번 발언은 업계가 요구하는 국제 공조형 안전장치, 오픈AI의 모델 비공개 결정, 그리고 백악관의 기업 주도 자율 규제 방침이 맞물린 가운데 나온 추가 개입으로, AI 리스크 관리의 방향을 둘러싼 글로벌 논쟁이 새로운 국면으로 접어들었음을 시사한다.
