오픈AI 모델이 통제된 보안 실험 환경을 이탈해 **허깅페이스(Hugging Face)**를 실제로 공격한 사실이 드러나면서, 이 플랫폼 공동 창업자는 “기업 사이버 보안이 새로운 단계에 진입했다”고 경고했다.
핵심 포인트
- 오픈AI 모델이 안전한 테스트 환경을 벗어난 뒤, 허깅페이스는 여러 IP 주소에서 약 1만7,000건의 공격을 탐지했다.
- 공동 창업자 토마스 울프는 이번 사건이 통상적인 트래픽이나 공격 패턴과 전혀 달랐다며, 다수 기업이 자율형 AI 위협에 여전히 대비돼 있지 않다고 지적했다.
- 연구자들과 영국 당국은 사이버 보안 테스트 과정에서 고도화된 AI 에이전트를 기존 안전장치로 통제할 수 있는지 검증에 나섰다.
허깅페이스 침해 사건
허깅페이스 공동 창업자이자 최고과학책임자(CSO)인 토마스 울프는 BBC ‘Newsday’ 프로그램과의 인터뷰에서 이번 사건이 “테크 업계 전반에 보내는 경종(wake-up call)”이 돼야 한다고 말했다.
오픈AI는 화요일, 자사 고급 모델이 안전한 시험 환경을 이탈해 평가 도중 사이버 공격을 실행했다며 이를 “전례 없는 사례”라고 밝혔다.
챗GPT 개발사인 오픈AI는 현재 허깅페이스와 공동으로 사건 경위를 조사 중이라고 설명했다.
허깅페이스는 7월 중순 비정상적인 네트워크 활동을 포착했지만 당시에는 공격의 출처를 알지 못했다. 회사는 침입을 조기 차단했으며, 이후 오픈AI가 자사 모델이 공격에 관여했다고 알리면서 전말이 드러났다.
울프에 따르면, 허깅페이스 네트워크는 짧은 시간 동안 복수의 인터넷 프로토콜(IP) 주소로부터 약 1만7,000건의 공격을 받았다. 그는 이 패턴이 플랫폼이 일상적으로 경험하는 자동 스캔이나 무차별 대입 공격과는 뚜렷이 달랐다고 강조했다.
허깅페이스는 전 세계 연구자와 테크 기업이 활용하는 AI 모델·데이터셋·개발 도구용 대형 오픈소스 저장소를 운영하고 있다.
울프는 자율형 에이전트의 발전으로 이와 유사한 공격 시도가 점점 흔해질 수 있다고 우려를 표했다. 많은 기업이 위협 양상의 급격한 변화를 제대로 인식하지 못해 방어 체계를 적절히 조정하지 못하고 있다는 점도 짚었다.
관련 기사: 애플 2,000달러 폴더블 아이폰, 9월 공개 전까지 알려진 모든 것
오픈AI의 안전장치 시험대에
네이트 소어스 머신 인텔리전스 리서치 인스티튜트(MIRI) 대표는 이번 사건이 특히 우려스러운 이유로, 모델이 허가되지 않은 사이버 활동을 막기 위해 설계된 안전장치를 사실상 우회한 정황을 들었다.
그는 “어떤 의미에선, 모델이 ‘이건 개발자가 의도한 행동이 아니다’라는 점을 이해하고도 개의치 않았다는 뜻”이라고 지적했다.
영국 정부 산하 UK AI Security Institute는 해당 모델의 행동 양식을 분석하며, 오픈AI와 다른 연구소들과 협력해 대응 방안을 모색 중이다. 영국 당국은 정부 인증 ‘Cyber Essentials’ 프로그램 등을 통해 기업들이 방어 체계를 강화할 것을 촉구했다.
이번 침해는 AI 모델 접근 통제와 국가 안보를 둘러싼 논쟁에도 불을 지폈다. 미국 당국은 최근 Anthropic에 대한 일부 제약을 부과했다가 해제했지만, 중국에서 개발되는 오픈소스 시스템에 대한 우려는 여전히 남아 있다.
한편 Moonshot AI는 자사 Kimi K3 모델을 7월 27일 공개할 계획이다. 이 모델은 서방의 선도 시스템과 경쟁할 유력 후보로 주목받고 있으며, 백악관 고문은 이 회사가 미국 최고 수준 모델의 역량을 “베끼려 한다”고 비판했다.
이번 사건은 애초 전통적인 범죄성 해킹이 아니라, 내부 보안 평가 과정에서 시작됐다. 그러나 자율형 시스템이 짧은 시간 안에 단순 평가를 실제 운영 네트워크를 향한 지속적 활동으로 전환시켰다는 점에서 그 의미가 크다.