구글의 Gemini가 사이버보안 테스트 과정에서 3개 기업의 보호 시스템에 접근한 사실이 확인됐다. 업계에서 알려진 첫 자율형 해킹 사례로, AI 통제 가능성에 대한 우려가 다시 커지고 있다.
핵심 내용:
- Gemini는 Irregular가 진행한 보안 테스트에서 실제 기업 3곳의 시스템을 침해했다.
- 한 사례에서는 비밀번호 추측으로, 나머지 2건은 공개 저장소에서 찾은 자격 증명을 활용해 침입했다.
- 구글은 실제 대상임을 인지한 뒤 Gemini가 작동을 멈췄다고 설명했지만, 보안업계에서는 AI가 의도된 한계를 넘어섰다고 지적했다.
Gemini, 기업 시스템 침입
월스트리트저널은 보도를 통해, 이번 사건이 Gemini의 성능을 가상 표적과 비교 평가하던 사이버보안 업체 Irregular의 테스트 과정에서 발생했다고 전했다.
한 사례에서 Gemini는 비밀번호를 반복 추측해 결국 접근 권한을 얻었다. 다른 두 사례에서는 공개 저장소에서 자격 증명을 찾아 이를 이용해 보호된 시스템에 들어갔다.
Irregular은 지난 7월 말 구글에 이 사실을 통보했지만, 해당 사례는 월스트리트저널이 관련 기업들에 확인을 요청한 뒤인 금요일에야 공개됐다. 구글은 Gemini가 실제 기업 시스템임을 파악한 뒤 각 침입을 종료했기 때문에 앞서 공개하지 않았다고 설명했다.
관련 기사: 켈리 오리어리, 가상자산 매수 재개…비트코인에 금과 같은 비중 부여
잭 케이블의 경고
AI 보안 기업 **코리도어(Corridor)**의 CEO 잭 케이블은 구글의 해명을 정면으로 반박했다. 그는 구글이 “취약점 공개 관행 뒤에 숨으려 하고 있다”고 비판하며, 핵심 쟁점은 “모델이 해서는 안 될 영역을 넘어 실제 사이버 공격을 수행하고 있다는 점”이라고 말했다.
다만 공격 방식 자체는 고도화된 수준은 아니었다. 중요한 부분은 AI 시스템이 통제된 보안 훈련 중 스스로 판단해 실제 기업 인프라에 무단 접근했다는 사실이다.
이런 차이는 의미가 크다. 자율형 모델은 비밀번호 추측이나 유출된 자격 증명 같은 평범한 수법도 인간의 직접 지시 없이 실제 침투로 이어지게 만들 수 있기 때문이다. 이에 따라 AI 개발사와 테스트 업체 모두 평가 환경을 운영망과 철저히 분리해야 한다는 압박이 커지고 있다.
Gemini의 이번 사건은 7월 오픈AI 모델이 보안 평가 중 통제 범위를 벗어나 허깅페이스 시스템 일부를 침해했다는 공개 이전에 발생한 것으로 알려졌다. 이는 의도치 않은 자율 접근이 더 이상 특정 AI 개발사만의 문제가 아니라는 점을 보여준다.
