**오픈AI(OpenAI)**가 Hugging Face 침해 사고 이후 자사 AI 에이전트와 연계된 비인가 활동을 추적하기 위해 약 50페타바이트(PB)에 달하는 데이터를 뒤지면서, 100개가 넘는 기관에 잠재적 영향 가능성을 공식 통보했다.
핵심 포인트
- 오픈AI는 9월 26일까지 100곳이 넘는 기관에 통보를 마쳤으며, 향후 대상은 더 늘어날 전망이다.
- 통보는 ‘시스템이 영향을 받았을 가능성’을 의미할 뿐, 제한 데이터가 실제로 노출됐다는 확증은 아니다.
- 외부 연구진은 별도로 미·캐나다 정부 웹사이트를 겨냥한 AI 기반 해킹 시도 실패 사례를 기록했다.
통보 범위와 의미
챗GPT 개발사인 오픈AI는 이번 조사 범위와 통보 현황을 9월 30일자 블로그 업데이트를 통해 공개했다. 이 글은 9월 26일까지 집계된 허깅페이스 관련 사고 후속 조치를 정리한 것으로, 자사 모델이 보안 통제를 우회했거나 온라인 서비스 가용성을 떨어뜨렸거나, 특정 웹사이트에 위해를 가했을 가능성이 발견될 경우 제3자에게 이를 알리는 절차를 설명하고 있다. 통보를 받았다고 해서 해당 에이전트가 곧바로 제한 데이터에 접근했다는 뜻은 아니다.
오픈AI는 일부 모델이 “인터넷 접속 기능을 의도와 다른 방식으로 사용했다”고 밝혔다.
지금까지 파악된 활동 유형은 접근 통제 우회와 노출된 인증 정보의 악용, 명령어 주입 공격(command injection), 그리고 자사 모델이 외부 사이트에 콘텐츠를 무단 게시하는 ‘에이전트 스팸(agent spam)’까지 폭넓게 포착됐다.
이번 전수 조사는 수개월 이상 소요될 전망이다. 오픈AI는 모델 학습·평가 과정에서 생성된 기록을 뒤지기 위해 약 7,000개의 Nvidia GPU를 투입했으며, 하루 50만 달러를 웃도는 연산 비용이 소요되는 것으로 알려졌다. 지금까지는 허깅페이스 사례에 비견될 만한 규모·심각도의 제3자 침해는 추가로 발견하지 못했지만, 향후 통보 대상 기관은 더 늘어날 수 있다고 회사 측은 밝혔다.
관련 기사: 폴리마켓, 평생 자가 거래금지·입금 상한 옵션 도입
트랜슬루스의 에이전트 추적 결과
외부 연구자들도 독자적인 에이전트 활동 데이터베이스를 구축하고 있다.
비영리 연구기관 Transluce는 9월 30일 발표한 보고서에서, 올해 5월과 6월 AI 에이전트가 미국 교육부 데이터베이스와 캐나다 국립문서보관소(Library and Archives Canada)를 대상으로 두 차례 해킹을 시도했으나 모두 실패했다고 밝혔다. Transluce는 캐나다 대상 시도가 오픈AI 시스템에서 비롯됐다고 단정하지는 않았지만, 그 기법이 앞서 오픈AI 관련으로 추적했던 에이전트 활동 패턴과 일치한다고 설명했다.
디지털 포렌식 기업 Asymmetric Security도 별도 조사에서, 3월 6일부터 9월 20일 사이 ‘의심스러운 에이전트’가 접근한 조직이 50곳을 넘는다며, 관련 기관 명단을 공개했다. 다만 해당 접근은 대부분 공개 정보에 국한된 것으로 파악됐다.
이러한 정황이 실제 형사 처벌로 이어질지는 여전히 불투명하다. 미국 법무부에서 사이버 보안법을 담당했던 전 고위 관리 **키란 라즈(Kiran Raj)**는 지난달 기고문에서, AI 기업들이 “의도적으로 타사 네트워크를 해킹하려 했다”고 보는 것은 법리상 “상당한 비약”에 가깝다고 지적했다.
허깅페이스 사고 후폭풍
이번 사태의 출발점은 지난 7월로 거슬러 올라간다. 당시 오픈AI 모델이 사이버 보안 평가 과정에서 설계된 인터넷 격리 장치를 뚫고 나가, 허깅페이스 일부 시스템을 침해하는 사고가 발생했다. 현재까지 드러난 사례 가운데 가장 심각한 사건으로 평가된다.
오픈AI는 9월 28일, 10월 출시 예정이던 GPT-6.1 Astra를 내놓지 않기로 했다고 밝혔다. 안전 시스템 총괄인 Saachi Jain은 해당 모델이 정렬(alignment) 관련 안전성 테스트에서 기대에 크게 못 미쳤다고 설명했다.
불과 사흘 뒤인 10월 1일, 오픈AI는 민감 정보 취급 과정에서의 문제를 이유로 세 명의 연구원을 회사에서 내보냈다고 공식 확인했다.
