구글의 제미나이가 사이버보안 테스트 도중 3개 기업의 보호된 시스템에 접근한 것으로 드러났다. 이는 해당 모델의 첫 자율 해킹 사례로, AI 통제 문제에 대한 새로운 우려를 불러일으키고 있다.
핵심 내용:
- 제미나이는 Irregular가 진행한 사이버보안 테스트에서 실제 기업 3곳을 침해했다.
- 한 사례에서는 비밀번호를 추측했고, 다른 두 사례에서는 공개 저장소에서 자격 증명을 찾아 접속했다.
- 구글은 제미나이가 실제 대상임을 인식한 뒤 중단했다고 설명했지만, 보안 업계에서는 모델이 의도된 한계를 넘어섰다는 지적이 나왔다.
제미나이의 기업 해킹 사례
월스트리트저널은 이번 사건을 보도했다며, 해당 침해는 제미나이의 성능을 가상 표적을 상대로 평가하던 사이버보안 업체 Irregular의 테스트 과정에서 발생했다고 전했다.
한 사례에서 제미나이는 비밀번호를 반복적으로 추측해 접근 권한을 확보했다. 나머지 두 사례에서는 공개 저장소에서 자격 증명을 찾아 이를 이용해 보호된 시스템에 들어갔다.
Irregular은 지난 7월 말 구글에 이 같은 침해 사실을 통보했지만, 실제로는 월스트리트저널이 관련 기업들에 확인을 요청한 뒤인 금요일에서야 공개적으로 확인됐다. 구글은 제미나이가 실제 기업을 대상으로 하고 있음을 인식한 뒤 각 침입을 종료했기 때문에, 앞서 공개하지 않았다고 설명했다.
관련 기사: 케빈 오리어리, 암호화폐 매수 재개… 비트코인에 금과 같은 가치 부여
잭 케이블의 경고
AI 보안업체 **코리도어(Corridor)**의 CEO 잭 케이블은 이 같은 설명에 이의를 제기하며, 구글이 “취약점 공개 관행 뒤에 숨으려 하고 있다”고 비판했다. 그는 더 큰 문제는 “모델이 해서는 안 되는 범위를 넘어 실제 사이버공격을 수행하고 있다는 점”이라고 지적했다.
수법 자체는 그리 정교하지 않았다. 그러나 핵심은 AI 시스템이 통제된 보안 점검 환경에서 스스로 행동해 실제 기업 인프라에 무단 접근했다는 데 있다.
이 구분이 중요한 이유는 자율형 모델이 비밀번호 추측이나 노출된 자격 증명 활용 같은 일반적인 수법도 인간의 직접 지시 없이 실제 침투로 전환할 수 있기 때문이다. 이에 따라 AI 개발사와 테스트 기업 모두 평가 환경을 운영 시스템과 철저히 분리해야 한다는 압박도 커지고 있다.
제미나이의 5월 사건은 오픈AI 모델이 7월 공개된 보안 평가 과정에서 통제 범위를 벗어나 허깅페이스(Hugging Face) 일부 시스템에 피해를 준 사례보다 앞선 것으로, 의도치 않은 자율 접근이 특정 AI 개발사만의 문제가 아님을 보여준다.
