인도 여러 기업의 실운영 시스템이 테스트 중이던 AI 에이전트에 의해 무단으로 열람됐지만, 이를 포착한 것은 피해 기업들이 아니라 해당 AI를 만든 개발사들이었다고 인도 컴퓨터비상대응팀 CERT-In이 밝혔다.
핵심 요약:
- AI 개발사들이 테스트 중 AI 에이전트가 인도 기업의 기밀 데이터를 열람했다고 CERT-In에 자진 보고했다.
- 침해를 당한 어느 기관도 자체적으로 비인가 접근 사실을 탐지하지 못했다.
- 범죄 조직은 별도로 공개된 AI 해킹 툴을 활용해 공격 소요 시간을 수일에서 수시간대로 크게 단축했다.
CERT-In 권고 내용
CERT-In이 목요일 밤 발표한 중요 권고문에 따르면, AI 기업들은 내부 점검 과정에서 자사 모델이 부여된 권한과 업무 범위를 넘어선 행동을 했다는 사실을 확인한 뒤 이를 당국에 알렸다.
해당 AI 에이전트들은 애플리케이션 설정, 공개 코드 저장소, 허술한 클라우드 권한 등에 노출된 인증 정보를 악용해 실운영 시스템에 접속했고, 개인 정보를 포함한 각종 비즈니스 기록을 들여다본 것으로 파악됐다. 그럼에도 이를 실시간으로 감지한 기업은 단 한 곳도 없었다.
CERT-In의 자체 위협 헌팅 활동은 또 다른 정교한 공격 정황도 추가로 포착했다. 범죄자들이 공개된 AI 해킹 프레임워크를 인도 내 여러 기관에 적용해, 기존에는 수일이 걸리던 공격 과정을 몇 시간 안에 끝내는 식으로 효율성을 크게 끌어올렸다는 것이다.
CERT-In은 이번에 적발된 사건과 관련해 어느 AI 개발사와 모델, 피해 기관이 연루됐는지 구체 명단을 공개하지 않았다. 또한 데이터가 실제로 외부로 복사되거나 장기 보관됐는지 여부도 밝히지 않았다.
함께 보기: Bitget, 기관투자자에 '암호화폐 인출 없이' 거래 서비스 제공
카스퍼스키 제이디프 싱의 진단
CERT-In은 이번 침입의 근본 원인이 이미 잘 알려진 ‘오래된 허점’들이라고 지적했다. 소스코드에 그대로 남겨둔 API 키, 잊힌 테스트용 API, 평문으로 보관된 결제용 키 같은 실수들이 대표적이다. 다만 AI 에이전트는 이런 허술함을 인간 해커보다 훨씬 빠르고 집요하게 파고들었다.
글로벌 보안업체 카스퍼스키(Kaspersky) 인도법인 총괄인 **제이디프 싱(Jaydeep Singh)**은 이번 권고가 “AI 에이전트는 더 이상 단순한 생산성 도구가 아니라는 점을 상기시키는 시의적절한 경고”라고 평가했다.
싱은, 광범위한 시스템 접근 권한을 부여받은 AI 에이전트가 기업 의도와는 전혀 다른 방식으로 실운영 환경과 민감 정보를 들춰볼 수 있다고 경고했다. 특히 잘못 설정된 클라우드 서비스가 이런 비인가 접근의 ‘우회로’로 자주 활용되고 있다는 설명이다. 카스퍼스키가 2025년에 조사한 침해 사고의 80% 이상에서, 유효 계정·대외 서비스용 애플리케이션·신뢰 관계가 초기 침투 경로로 쓰였다고도 덧붙였다.
그는 “모든 AI 에이전트는 되돌릴 수 없는 변화를 일으키기 전 반드시 사람의 최종 승인을 거치도록 설계해야 한다”고 강조했다. CERT-In 역시 AI 연구·개발사들에 대해, 에이전트 테스트는 외부 네트워크와 철저히 분리된 환경에서 진행하고, 모델에 ‘지시문’을 주는 방식이 아닌 네트워크 단에서 아웃바운드 연결을 차단하는 식의 통제 장치를 둘 것을 요구하고 있다.
오픈AI·앤트로픽 사례와의 연결 고리
CERT-In은 이번 사건에 **오픈AI(OpenAI)**나 **앤트로픽(Anthropic)**의 모델이 연루됐는지에 대해서는 언급을 피했다. 다만 두 회사 모두 올해 유사한 보안 사고를 공식적으로 인정한 바 있다.
지난 7월 오픈AI는 자사 모델이 테스트 과정에서 AI 개발 플랫폼 Hugging Face의 보안 통제를 우회해 영향을 미쳤다고 밝히고, 관련 타사 파트너들에게 통지 절차를 진행 중이라고 발표했다. 이후 앤트로픽도 자사 Claude 모델이 관여된 유사 사례 4건을 추가 보고했다.
