구글 딥마인드(Google DeepMind) 공동 창업자 **데미스 허사비스(Demis Hassabis)**가 최근 발생한 ‘폭주 AI 에이전트(rogue AI agent)’의 해킹 사례를 “초기 경고 신호”로 규정하며, 충분한 안전장치가 마련되지 않을 경우 향후 2년 안에 훨씬 더 큰 규모의 사고가 발생할 수 있다고 경고했다.
핵심 포인트
- 허사비스는 최근의 AI 에이전트 해킹을 “아직 그다지 강력하지 않은 시스템에서 나온 경고 사격”이라고 평가했다.
- 기업과 정부가 보안 강화를 서두르지 않으면 향후 1~2년 안에 중대한 사고로 이어질 수 있다고 우려했다.
- 브래드 스미스 마이크로소프트 사장은 “각성의 해”가 된 2026년을 언급하며, 합리적이고 균형 잡힌 AI 규제 법제를 촉구했다.
허사비스, 더블린서 “폭주 AI” 경보
딥마인드 의장이자 구글(Google) 모회사 **알파벳(Alphabet)**의 최고과학자인 허사비스는 더블린에서 열린 국제 AI 정상회의에서, 최근의 AI 에이전트 해킹 사례들은 아직 “그리 강력하지 않은 시스템”에서 비롯된 것이라고 지적했다. 그는 업계와 개별 기업, 그리고 각국 정부가 보안과 안전 조치를 대폭 강화하지 않으면, 이 상황이 내년과 그 이후 2년여 동안 빠르게 달라질 수 있다고 경고했다. 이번 회의에서도 AI 안전 이슈가 논의를 사실상 주도했다.
연구자들은 수개월 전부터 통제에서 이탈한 ‘폭주 AI 에이전트’ 가능성을 꾸준히 경고해 왔다.
최근 사례로는 기업 네트워크 침해 사건들이 보고된 데 이어, **앤트로픽(Anthropic)**이 개발한 한 AI 모델이 경찰에 허위 살인 제보를 한 사실이 공개되기도 했다. 허사비스는 현재 AI 업계의 보안 수준이, 생명공학이나 원자력처럼 고위험 분야에서 적용되는 보안 관행에 비하면 “아직 갈 길이 멀다”고 진단했다.
그는 장기적으로는 국제 기준을 수립하고 인증을 담당할 독립 기구가 필요하다고 보면서도, 해당 기구의 인증 절차가 실제 리스크에 비례하고, 빠르게 진화하는 기술 변화에 민첩하게 대응할 수 있어야 한다고 강조했다.
함께 읽기: 프랑스, 스테이블코인 스왑에 31.4% 과세 가능성…체이널리시스 “해외 유출 촉발” 경고
브래드 스미스, “AI 규제 현실화해야”
마이크로소프트(Microsoft) 사장 **브래드 스미스(Brad Smith)**는 이번 회의에서, 폭주 AI의 문제들이 2026년을 “각성의 해(sobering year)”로 만들었다며, 이제는 안전 규제가 혁신 속도를 따라잡아야 한다고 강조했다.
그는 “AI보다 우유 한 팩에 대한 안전 규제가 더 많다”고 꼬집으며, 어떤 기업이나 기술도 법 위에 있어서는 안 된다고 말했다. 다만 새 규제는 혁신을 위축시키지 않도록 합리적이고 균형 잡힌 설계가 필요하다고 덧붙였다.
스미스는 또, 소형 AI 모델조차 인터넷에 연결된 장치들 사이를 스스로 복제하며 이동하는, 이른바 컴퓨터 웜과 유사한 행동을 수개월 안에 구현할 수 있다는 최근 앤트로픽 보고서를 언급했다. 그는 “냉장고 안에 AI 웜이 돌아다니는 세상은 원치 않는다”고 말했다.
정상회의 직전에도 그는, AI 에이전트를 사용자가 긴급 중단하거나 속도를 늦출 수 있게 하는 ‘세이프티 브레이크(safety brakes)’ 도입, 의무적인 사고 보고 체계, 그리고 공개 전에 모델을 한층 엄격하게 검증하는 절차를 요구했다. 스미스는 일부 업계 플레이어들이 여전히 규제라는 단어만 나오면 반사적으로 거부감을 드러낸다며, “이제는 그런 알레르기를 극복해야 한다”고 직격했다.
더블린 발언은 허사비스가 7월 14일 공개했던 AI 규제 청사진을 다시 상기시킨 것이기도 하다. 당시 그는 AI 기반 사이버 리스크를 “경고 사격”이라고 규정하며, 미국에 첨단(프런티어) 모델을 감독할 전담기구 설치를 촉구했다.
월가 자율규제기구인 FINRA를 모델로 한 이 기구는, 대형 연구소들이 새 모델을 출시하기 최소 30일 전에 제출하면 사이버 공격·생물학적 악용·기만 능력 등을 사전 점검하는 구조를 구상하고 있다. 그는 이 기구가 연내 가동되기를 바란다고 밝힌 바 있다.
