영란은행(Bank of England) 총재 **앤드루 베일리(Andrew Bailey)**가 인공지능(AI)에 대한 본격적인 규제 도입에 앞서 강도 높은 모델 테스트를 선행해야 한다고 강조했다. 다만 위험이 커질 경우 당국이 언제든 개입할 수 있는 여지는 반드시 남겨둬야 한다는 입장이다.
핵심 내용
- 베일리는 AI 관련 위험이 커지고 있지만, 규제 틀을 먼저 짜기보다 시스템의 취약 지점을 충분히 파악하는 작업이 선행돼야 한다고 밝혔다.
- 배포 전·후에 걸친 엄격한 테스트와 함께, 명확한 안전장치, 그리고 신뢰할 수 있는 인간 개입 지점을 마련해야 한다고 강조했다.
- 그의 발언은 주요 AI 기업과 미국 정부가 자율적 통제, 개발 속도 조절, 향후 규제 방향을 둘러싸고 논쟁을 벌이는 가운데 나왔다.
베일리 “규제가 출발점은 아니다”…AI 테스트 선행론
베일리는 BBC 기고를 통해 AI 위험은 “현실적이며 점점 더 중요해지고 있다”고 평가하면서도, 어떻게 규제를 설계할지 논의하기에 앞서 “어디에서 시스템이 실패할 수 있는지”를 먼저 찾아내야 한다고 주장했다. 그는 “규제가 출발점이라고는 보지 않는다”고 못 박았다.
베일리는 사회가 고도화된 AI에 대해 ‘경계선(boundary)’을 설정할 수 있는 능력을 유지해야 한다며, 도입 전·후에 걸친 정교한 테스트를 통해 취약성을 드러내고 안전장치가 실제로 실패를 억제할 수 있는지 검증해야 한다고 말했다. 다만 AI 개발 자체를 금지해서는 안 된다며 “잠재적 이익이 막대하다”고 강조했다.
영국은 이미 AI 보안 평가를 전담하는 ‘AI Security Institute(인공지능 보안 연구소)’를 설립했으며, 베일리는 이 기관이 AI 신뢰성 확보를 위한 과학적·기술적 기반을 쌓는 데 기여하고 있다고 평가했다. 그는 “진전 속도가 더 빨라져야 한다”고 덧붙였다. 예상치 못한 모델 행동이 곧 테스트 실패를 의미하는 것은 아니며, 오히려 왜 테스트가 필수적인지 보여주는 사례라고 설명했다.
관련 기사: 리플, 브라질 CSD BR과 공공 블록체인에 펀드 소유권 미러링 지원
오픈AI 등 ‘AI 안전’ 논쟁
오픈AI(OpenAI), 앤트로픽(Anthropic) 등 선도 AI 기업들은 시스템 성능이 급속히 고도화되는 상황에서 더 강한 안전장치와 국제 공조형 위험 평가 체계를 요구해 왔다. 오픈AI는 최근 안전 우려를 이유로 최신 AI 모델을 공개하지 않기로 결정했다.
미국에서는 대통령 도널드 트럼프가 중국과의 경쟁을 이유로 개발 속도 저지 요구를 거부하며 “AI를 선점하는 쪽이 승리한다”고 발언했다. 9월 29일 백악관에서 주요 빅테크 경영진과 회동한 뒤 트럼프는 참석자들이 ‘도덕적 구속력’을 갖는 AI 관련 문서에 서명했다며, 이를 일종의 “보호 장치”라고 설명했다.
이 합의에 따라 참여 기업들은 자사 AI 기술의 안전성에 대해 스스로 책임을 지는 구조다. 베일리의 접근법은, 먼저 테스트를 통해 개입이 필요한 지점을 규명한 뒤 그 위에 보다 정교한 규제 구조를 설계해야 한다는 점에서 강조점이 다르다.
최근 몇 주 사이 AI 개발사·정부·금융당국은 모델 개발 속도가 예상보다 빠르게 치솟으면서 감독·규율 방식을 둘러싼 더 난해한 질문들에 직면해 왔다. 베일리의 이번 발언은 업계의 공동 안전장치 요구, 오픈AI의 모델 비공개 결정, 그리고 백악관이 추진하는 ‘기업 자율 규제’ 노선 등과 맞물려 글로벌 AI 규제 논의를 한층 가열시키고 있다.
