구글 딥마인드(Google DeepMind) 공동창업자 **데미스 하사비스(Demis Hassabis)**가 최근 발생한 ‘무단(rogue) AI 에이전트’ 관련 해킹 사례는 아직 위력이 크지 않은 시스템에서 나온 “경고 사격”에 불과하다며, 보다 강력한 안전장치가 마련되지 않으면 향후 2년 안에 훨씬 큰 사고로 번질 수 있다고 경고했다.
핵심 내용
- 하사비스는 최근 AI 에이전트 해킹을 “아직 그리 강력하지 않은 시스템에서 나온 초기 경고”라고 규정했다.
- 기업과 정부가 보안을 대폭 강화하지 않으면, 1~2년 안에 중대한 사고가 올 수 있다고 내다봤다.
- 마이크로소프트 브래드 스미스는 “AI에 우유 한 팩보다 안전 규제가 적다”며 합리적·균형적 규제를 촉구했다.
하사비스, 더블린서 “지금은 경고 사격 단계”
딥마인드를 이끄는 동시에 구글(Google) 모회사 **알파벳(Alphabet)**의 최고과학자를 맡고 있는 하사비스는 더블린에서 열린 국제 AI 서밋에서, 최근 사건들이 아직 “그다지 강력하지 않은” 시스템에서 비롯된 것이라고 발언했다.
그는 이어, 업계와 개별 기업, 각국 정부가 이들 시스템을 보호하기 위해
더 적극적으로 나서지 않을 경우, 내년과 그 이후 몇 년 동안 상황이
급변할 수 있다고 경고했다.
이번 서밋에서는 AI 안전 우려가 논의 전반을 지배했다.
연구자들은 수개월 전부터 통제에서 벗어난 ‘무단 AI 에이전트’가 사이버 공격과 정보 조작의 새로운 축이 될 수 있다고 경고해 왔다.
실제로 최근에는 기업 내부망 해킹 사례가 보고됐고, **앤스로픽(Anthropic)**이 개발한 한 AI 모델이 경찰에 허위 살인 제보를 한 사실이 공개되기도 했다. 하사비스는 업계가 아직 “생명과학·핵 산업 등에서 요구되는 수준의 보안 관행에는 한참 못 미친다”고 지적했다.
그는 장기적으로는 어떤 형태로든 국제 표준기구가 필요할 것이라면서도, 인증 절차는 위험도에 비례해야 하고, 기술 변화 속도에 맞춰 신속히 조정될 수 있어야 한다고 강조했다.
함께 보기: 프랑스, 스테이블코인 스왑에 최고 31.4% 과세 가능성…체이널리시스 “역외 쏠림 우려”
브래드 스미스, “규제가 혁신 따라잡아야”
마이크로소프트(Microsoft) 사장 **브래드 스미스(Brad Smith)**는 같은 회의에서 무단 AI 행동이 2026년을 “각성의 해”로 만들었다며, 이제는 안전 규제가 기술 혁신 속도를 따라잡아야 한다고 말했다.
그는 “지금은 우유 한 팩에 적용되는 안전 규정이 AI보다 많다”고 비판했다.
스미스는 어떤 기업도, 어떤 기술도 법 위에 있어서는 안 된다면서도, 새 규제는 혁신을 감안해 합리적이고 균형 잡혀야 한다고 강조했다.
그는 또, 소형 AI 모델조차 인터넷에 연결된 기기 간에 스스로를 복제하며 확산될 수 있다는 최근 앤스로픽 보고서를 언급했다. 이는 전통적인 컴퓨터 웜과 유사한 패턴으로, 스미스는 “내 냉장고 안에 AI 웜이 돌아다니는 상황은 원치 않는다”고 말했다.
서밋 전날 스미스는 사용자들이 AI 에이전트를 즉시 멈추거나 속도를 늦출 수 있는 일종의 “세이프티 브레이크(safety brakes)” 도입과 함께, 사고 보고 의무화, 출시 전 모델에 대한 강도 높은 테스트를 요구했다. 그는 특히 업계 일각이 규제에 보이는 “과민 반응”부터 고쳐야 한다고 꼬집었다.
“월가 FINRA 닮은 AI 감시기관 필요”
더블린 발언은 하사비스가 7월 14일 공개한 AI 규제 구상과도 맞닿아 있다.
당시 그는 AI 기반 사이버 리스크를 “경고 사격”이라고 규정하고,
미국이 최첨단 모델을 전담하는 감시기관을 설치해야 한다고
제안했다.
그가 구상한 기구는 월가 자율규제기관인 FINRA를 모델로 삼는다. 개발사들이 새 모델을 출시 30일 전까지 이 기구에 제출하면, 사이버 공격 능력, 생물학적 악용 가능성, 기만·조작 역량 등을 집중 점검하는 구조다.
하사비스는 이런 체계가 연말 이전에는 가동되기를 바란다고 덧붙였다.
