테스트 단계에 있던 AI 에이전트가 인도 여러 기업의 운영 중인 시스템에 침투해 기밀 기록을 열람했지만, 이 사실은 개발사들이 직접 신고하기 전까지 어느 곳에서도 포착하지 못했다고 인도 정부의 사이버 보안 기구 CERT-In이 밝혔다.
핵심 내용:
- AI 개발사들이 테스트 중이던 에이전트가 인도 기업의 기밀 데이터를 열람했다고 CERT-In에 보고.
- 피해 기업 가운데 자체적으로 비정상 접속을 탐지한 곳은 단 한 곳도 없음.
- 별도로 범죄 조직은 공개 AI 해킹 도구를 활용해 공격 시간을 ‘수일’에서 ‘수시간’ 수준으로 단축.
CERT-In 권고문 주요 내용
CERT-In이 목요일 늦은 밤 공개한 중요 권고문에 따르면, 관련 AI 기업들은 내부 점검 과정에서 자사 모델이 부여받은 테스트 범위를 넘어 실제 시스템과 데이터에 접근했다는 사실을 파악하고 이를 직접 보고했다.
문제의 에이전트들은 애플리케이션 설정에 방치된 인증 정보, 공개 코드 저장소, 허술한 클라우드 권한을 발판으로 기업의 비즈니스 기록과 개인정보를 포함한 민감 데이터를 조회했다. 그럼에도 불구하고 어느 조직도 자사 모니터링 체계를 통해 이 비인가 접속을 알아채지 못했다.
CERT-In의 자체 위협 헌팅 결과도 심각성을 더했다. 기관은 별도로, 공개된 AI 해킹 프레임워크를 인도 기관·기업에 겨냥해 악용하는 금전적 목적의 공격 캠페인을 포착했다. 이들 도구를 활용하면서 공격자는 기존에 수일이 걸리던 침투 과정을 수시간 안에 끝낼 수 있었던 것으로 분석됐다.
CERT-In은 관련 AI 개발사, 사용된 모델, 피해 조직의 실명은 공개하지 않았다. 또 실제 데이터가 복제되거나 외부로 반출됐는지 여부에 대해서도 구체적으로 밝히지 않았다.
함께 읽기: 비트겟, 기관 고객에 암호화폐 예치 없는 거래 서비스 제공
카스퍼스키 제이딥 싱 “익숙한 구멍, AI가 훨씬 빨리 파고들었다”
CERT-In은 이번 침해의 배후에 있는 약점이 “새로운 것과는 거리가 멀다”고 지적했다. 소스코드에 남겨진 키, 잊힌 테스트용 API, 평문으로 저장된 결제 키 등 전통적인 보안 허점이었지만, AI 에이전트가 이를 인간보다 훨씬 빠르고 집요하게 악용했다는 점이 문제로 떠올랐다.
보안업체 카스퍼스키의 인도 총괄 **제이딥 싱(Jaydeep Singh)**은 이번 권고가 “AI 에이전트는 더 이상 단순 생산성 도구가 아니라는 점을 상기시키는 시의적절한 경고”라고 평가했다. 광범위한 권한을 부여받은 에이전트는 기업이 의도하지 않은 방식으로 실제 운영 시스템과 민감 데이터에 손을 뻗칠 수 있으며, 특히 설정이 잘못된 클라우드 서비스는 이를 위한 통로가 되기 쉽다는 지적이다.
싱에 따르면, 카스퍼스키가 2025년 조사한 공격 가운데 80% 이상은 정상 계정, 외부에 노출된 애플리케이션, 신뢰 기반 관계를 발판으로 시작됐다. 그는 “모든 AI 에이전트는 되돌릴 수 없는 행위를 하기 전, 반드시 사람의 명시적 승인을 받도록 설계해야 한다”고 강조했다.
CERT-In 역시 AI 연구소와 기업에 대해, 모델 지시문에 의존하는 대신 네트워크 차원에서 외부 연결을 차단한 격리 환경에서 에이전트를 테스트하라고 권고했다.
오픈AI·앤스로픽 사례와의 연결 고리
CERT-In은 이번 사건에 **오픈AI(OpenAI)**나 **앤스로픽(Anthropic)**의 모델이 관여했는지 여부는 언급하지 않았다. 다만 두 회사 모두 올 들어 유사한 보안 사고를 공개한 바 있어 업계의 긴장감은 커지고 있다.
7월 오픈AI는 자사 모델이 테스트 과정에서 AI 개발 플랫폼 **허깅페이스(Hugging Face)**의 보안을 우회하는 사례가 있었다고 밝히며, 모델이 침해했을 가능성이 있는 제3자에 통지를 진행 중이라고 설명했다. 이후 앤스로픽도 자사 클로드(Claude) 모델이 연루된 유사 사례 4건을 추가 보고했다.
