구글 DeepMind에서 인공지능 안전을 담당했던 전 연구원 **빌랄 처그타이(Bilal Chughtai)**가 “AI가 인류를 모두 죽일 수 있다”고 공개적으로 경고했다. 또 다른 전 딥마인드 연구원은 “향후 5년 안에 막대한 피해가 현실화될 수 있다”고 내다봤다.
핵심 내용
- 처그타이는 7월 딥마인드를 떠났으며, 초지능이 수년 내 등장할 수 있다고 주장했다.
- 능력 고도화 속도에 정렬(Alignment) 연구가 뒤처지고 있다며, 개발 중단이 아니라 ‘속도 조절과 공조’를 요구했다.
- 전 딥마인드 연구원 **조시 엥겔스(Josh Engels)**는 “5년 안에 엄청난 피해” 가능성을 언급했으며,
Anthropic과 OpenAI 내부 인사들도 개발 속도 조절 필요성에 힘을 싣고 있다.
처그타이의 초지능 경고
인공지능 범용지능(AGI) 안전과 정렬 연구에 집중해온
연구 엔지니어였던 처그타이는 7월 딥마인드를 떠난 뒤 이번 주 자신의 우려를 공개했다.
그는 “AI 연구소들이 수년 안에 초지능 시스템을 만들어낼 수 있다”며, “이 시스템들은 거의 모든 영역에서 인간 능력을 넘어설 수 있지만, 인간의 목표와 가치를 제대로 맞추기에는 여전히 매우 어려울 것”이라고 지적했다.
처그타이가 꼽은 핵심 문제는 ‘정렬(Alignment)’이다. 그는 글에서
“AI가 우리 모두를 죽일 잠재력이 있다고 진지하게 믿고 있으며,
이런 결과를 피하기 위해 남은 시간이 많지 않을 수 있다”고 적었다.
그는 현재의 고도화된 모델을 인간의 의도에 따라 안정적으로 작동하게 만드는 훈련·제어 기법이 “여전히 극도로 초보적” 수준이라고 평가했다. 반면, 최전선(frontier) 모델의 성능은 정렬에 대한 연구 이해 속도보다 훨씬 빠르게 높아지고 있다고 우려했다.
다만 그는 “AI 개발을 완전히 멈추자”는 입장은 아니다. 대신
▷기업 간 경쟁 과열을 멈추고 속도를 낮추며
▷최전선 모델이 어떻게 설계·학습·테스트되는지에 대한 투명성을 높이고
▷공동의 규율과 협력 체계를 구축해야 한다고 주장한다.
관련 기사: CLARITY Act Faces 60-Vote Senate Test As Opposition Grows
앤트로픽의 안전 강화 움직임과 내부 이탈
처그타이의 경고는 이달 초 **앤트로픽(Anthropic)**과 OpenAI를 거친
**제이컵 칵슨(Jacob Coxon)**이 3년간의 재직 끝에 사임한 직후 나왔다.
앤트로픽의 정렬 과학(Alignment Science) 총괄 **에번 휴빙거(Evan Hubinger)**는
이후 “향후 10년 안에 AI가 인류 전체를 멸종시킬 확률이 10%를 넘는다”고 보는 견해를
직접 밝혔다.
딥마인드 안전팀 출신인 엥겔스 역시 9월 12일,
앤트로픽과 OpenAI의 입사 제안을 거절하고 AI 평가 비영리단체 METR에 합류했다고 공개했다.
그는 그 이유로 “향후 5년 안에 엄청난 규모의 AI 피해가 발생할 ‘끔찍한 확률(terrifying chance)’”을 들었다.
“속도는 늦추고, 방향은 유지”라는 경영진의 메시지
앤트로픽 CEO **다리오 아모데이(Dario Amodei)**는 그동안 능력 고도화의 속도를 조절해야 한다고 여러 차례 강조해 왔다. OpenAI의 CEO 샘 올트먼(Sam Altman) 역시 이 같은 기조에 동의하며, 최전선 연구소들 사이에서 ‘속도 조절’ 논의가 확산되는 분위기다.
이번 논의가 특히 주목받는 이유는, 경고의 출처가
▷대형 AI 연구소를 실제 운영하는 경영진뿐 아니라
▷안전·정렬을 담당하다가 사직한 실무 연구자들에게서도 동시에 나오고 있기 때문이다.
처그타이가 AI 안전 연구를 본격적으로 시작한 2022년 초만 해도,
당시 시스템들은 지금의 최전선 모델과 비교해 훨씬 제한적인 성능에 그쳤다.
불과 몇 년 사이, 논의의 초점은
▷추상적인 ‘장기적 위험 이론’에서
▷자율성 확대와 정렬 실패,
▷안전 연구가 능력 향상 속도를 따라잡을 수 있는지에 대한
구체적·실무적 문제로 빠르게 이동했다.
다음 읽을거리: Bitget's API Now Reaches Gold, Forex, Indices And Crude Oil
