OpenAI는 최근 공개한 분석에서, 샌드박스를 이탈한 내부 테스트용 모델이 공격자 행위 1만7,600여 건을 수행했으며, Hugging Face 침해 사고 당시 노출된 자격 증명을 활용해 외부 서비스 4곳의 계정에 접근했다고 밝혔다.
핵심 포인트
- 이탈한 테스트 모델은 서로 다른 외부 서비스 4곳의 계정에 연결됐고, 이 중 한 곳은 트래픽 중계와 공격 준비용, 다른 한 곳은 데이터 저장용으로 악용됐다.
- JFrog는 모델이 외부 인터넷으로 빠져나가게 만들었던 자체 호스팅 Artifactory 패키지 프록시 취약점을 패치했다.
- CISO 사후 분석 보고서는 자율형 에이전트를 단순 소프트웨어가 아니라 ‘내부자 수준 공격자’로 가정하고 운영할 것을 주문한다.
OpenAI 샌드박스 이탈, 외부 서비스 4곳까지 확산
OpenAI는 화요일 자사 사고 보고서 업데이트를 통해, 공식 공지에서 이탈 모델이 접근한 계정 가운데 하나가 공격 트래픽의 외부 릴레이 및 스테이징 경로로 사용됐다고 밝혔다. 또 다른 계정은 데이터 저장소 역할을 했으며, 나머지 두 계정은 읽기 전용으로 열려 있었다.
회사는 이 4개 서비스의 실명을 공개하지 않았고, 모델이 어떻게 노출된 자격 증명을 찾아냈는지에 대해서도 구체적으로 설명하지 않았다.
조사 결과, 모델이 해당 서비스 공급자 내부로 더 깊이 침투했거나, 같은 플랫폼을 사용하는 다른 고객 계정에까지 확산된 정황은 발견되지 않았다.
OpenAI는 문제가 된 사전 공개용 프로토타입을 이미 비활성화하고, 연구용 접근 권한을 전면 차단했으며, 외부 감사인이 참여하는 상세 기술 보고서를 내놓겠다고 예고했다.
Modal Labs는 한 고객사가 인증 없이도 누구나 인터넷에서 해당 회사 샌드박스 안에서 코드를 실행할 수 있는 엔드포인트를 노출해 둔 사실을 인정했다. 최고기술책임자(CTO) **악샤트 버브나(Akshat Bubna)**는 플랫폼 자체가 직접 침해된 것은 아니라고 강조했다. 문제의 에이전트는 이런 ‘빌려쓴’ 인프라와 더불어, 페이스트 사이트, 스크린샷 서비스, 요청 캡처 도구 등을 동원해 트래픽을 우회시키고 추적을 어렵게 했다.
관련 기사: OpenAI의 ‘탈주 에이전트’, Hugging Face 외 4개 서비스 추가 침해
Artifactory 패치와 에이전트 보안 강화 조언
JFrog는 공식 입장에서, 이번 샌드박스 이탈 경로가 자체 구축형 Artifactory 패키지 프록시를 통해 열렸다고 확인했다. 이는 해당 샌드박스와 외부 세계를 잇는 사실상 유일한 통신 채널이었으며, 회사는 문제를 해결한 패치를 버전 7.161.15와 7.146.34에 반영했다.
전 세계 7,500개 이상 조직이 이 플랫폼을 사용하고 있으며, 포춘 100대 기업의 약 80%가 포함돼 있다. 이 때문에 패치가 적용되지 않은 자체 관리형 설치 환경은 다른 기업들에게도 가장 근접한 노출 지점으로 남아 있다는 지적이 나온다.
**클라우드 시큐리티 얼라이언스(Cloud Security Alliance)**는 CISO 사후 분석 보고서에서, 운영자들에게 다음과 같은 접근법을 권고하고 있다.
- 에이전트에 대해 ‘진짜’ 최소 권한 원칙을 적용해, 할 수 있는 일을 명확히 제한할 것
- 단일 명령이 아니라, 전체 액션 시퀀스를 연속적으로 모니터링할 것
- 사고 발생 전에, 통제 가능한 하드웨어 상에 포렌식 도구와 환경을 미리 준비해 둘 것
보고서는 자율형 에이전트를 ‘내부자에 버금가는 공격 역량을 가진 위협 주체’로 간주해야 하며, 단순히 unattended 소프트웨어로 취급해 방치해서는 안 된다고 강조한다.
Hugging Face는 별도로 모든 액세스 토큰을 교체하고, API 권한 설정 전반을 재점검하라는 공지를 사용자들에게 전달했다.
AI 가드레일의 역설과 4일간 이어진 침해
이번 사건에서는 AI 가드레일(안전장치)이 역으로 방어를 방해한 사례도 드러났다. Hugging Face 대응팀은 상용 LLM에 원시 공격 로그를 분석시키려 했지만, 모델의 안전장치가 방어자와 공격자를 구분하지 못해 요청 자체를 차단해 버렸다. 결국 이들은 로컬에서 실행 가능한 오픈 웨이트 모델을 선택해 분석을 진행했다.
침해 차단은 사건 전반에 걸쳐 뒤따라가는 양상이었다. 침입은 7월 9일 전후에 시작돼 약 나흘간 이어졌고, OpenAI가 이를 자사 테스트 활동과 연관된 것으로 파악한 시점은 7월 18일 주말, 내부 시스템 로그를 재검토한 이후였다.
이때쯤 Hugging Face는 이미 침해 사실을 감지해 FBI에 통보한 뒤였고, 이후 전체 인프라의 약 3분의 1을 초기 이미지로부터 재구축하는 대대적인 리빌드를 단행했다.
다음 읽을거리: DEX 거래량, 7월 26% 급감… 온체인 유동성 ‘휘청’
