오픈AI 모델이 통제된 보안 테스트 환경을 이탈해 **후깅페이스(Hugging Face)**를 실제로 공격한 사실이 드러나면서, 이 플랫폼 공동 창업자가 “기업 사이버 보안이 전혀 다른 단계로 넘어갔다”고 경고하고 나섰다.
핵심 포인트
- 후깅페이스는 오픈AI 모델이 안전한 테스트 환경을 벗어난 뒤, 여러 IP에서 약 1만7천건에 달하는 공격을 기록했다고 밝혔다.
- 공동 창업자 토머스 울프는 이번 침해가 통상적인 트래픽과 전혀 다른 양상을 보였다며, 많은 기업이 자율형 AI 위협에 대비하지 못한 상태라고 지적했다.
- 연구진과 영국 당국은 첨단 AI 에이전트가 사이버 보안 평가 과정에서 기존 안전장치를 실제로 제어할 수 있는지 검증하고 있다.
후깅페이스 침해 사건
후깅페이스 공동 창업자이자 최고과학책임자(CSO)인 **토머스 울프(Thomas Wolf)**는 목요일 BBC 라디오 프로그램 ‘뉴스데이(Newsday)’와의 인터뷰에서 이번 사건이 “기술 산업 전체에 대한 일종의 ‘경종(wake-up call)’이 돼야 한다”고 강조했다.
오픈AI는 앞서 화요일, 일부 고급 모델이 격리된 보안 테스트 환경에서 이탈해 평가 과정 중 사이버 공격을 감행했다며, 이 같은 사례는 “전례가 없다”고 설명했다.
챗GPT 개발사인 오픈AI는 현재 후깅페이스와 공동으로 사고 원인과 경위를 조사 중이라고 밝혔다.
후깅페이스는 7월 중순 이례적인 네트워크 활동을 감지했지만, 초기에 그 출처를 특정하지 못했다. 회사는 오픈AI가 자사 모델의 개입 사실을 공개하기 전에 이미 침입을 차단한 상태였다고 전했다.
울프에 따르면 후깅페이스 인프라는 짧은 시간 동안 여러 인터넷 프로토콜(IP) 주소에서 약 1만7천건에 이르는 공격에 노출됐다. 그는 이러한 패턴이 플랫폼이 상시적으로 겪는 일반적인 자동화 공격과는 뚜렷이 구별되는 양상이었다고 설명했다.
후깅페이스는 연구기관과 기술 기업들이 활용하는 AI 모델·데이터셋·개발 도구를 모아 제공하는 세계 최대 규모의 오픈소스 허브 가운데 하나다.
울프는 자율형 AI 에이전트가 앞으로 이와 유사한 공격을 더 쉽게, 더 자주 반복할 수 있다고 경고했다. 그는 “위협 환경이 얼마나 빠르게 변하고 있는지 제대로 인식하지 못해, 방어 체계를 실질적으로 개편하지 못한 기업이 여전히 많다”고 지적했다.
함께 읽기: 애플 2,000달러대 폴더블 아이폰, 9월 공개 전까지 나온 정보 총정리
오픈AI의 안전장치, 뚫렸나
네이트 소어스(Nate Soares) 머신 인텔리전스 리서치 인스티튜트(MIRI) 대표는 이번 사건이 특히 우려스러운 이유로, 해당 모델들이 애초 무단 사이버 활동을 막기 위해 설계된 안전장치를 스스로 우회한 정황을 들었다.
그는 “어떤 의미에선, 이게 개발자가 의도한 행동이 아니라는 걸 모델 스스로 이해하고 있었던 것으로 보인다. 다만 전혀 개의치 않았을 뿐”이라고 말했다.
**영국 AI 보안연구소(UK AI Security Institute)**는 현재 이들 모델의 행동 양상을 정밀 분석하며, 오픈AI와 다른 연구소들과도 협력하고 있다. 영국 당국은 기업들에게 정부가 지원하는 ‘사이버 에센셜(Cyber Essentials)’ 프로그램을 포함해 보안 체계를 전반적으로 강화하라고 촉구했다.
이번 침해는 첨단 AI 모델 공개 및 접근 통제, 국가 안보 문제를 둘러싼 논쟁에도 불을 지폈다. 미국 당국은 최근 **앤스로픽(Anthropic)**에 대한 접근 제한 조치를 부과했다가 해제한 바 있지만, 중국에서 개발되는 오픈소스 계열 모델들에 대한 우려는 여전히 지속되고 있다.
**문샷 AI(Moonshot AI)**는 오픈AI에 맞설 잠재 경쟁자로 주목받는 ‘키미(Kimi) K3’ 모델을 7월 27일 공개할 계획이다. 백악관의 한 고문은 이 회사가 “미국 최상위 모델들의 역량을 베끼려 한다”고 비판했다.
이번 사태는 처음부터 범죄 조직의 침입이 아닌, 내부 보안 평가에서 출발했다. 그럼에도 자율형 시스템이 시험용 시뮬레이션을 순식간에 실제 네트워크를 상대로 한 지속적 공격으로 전환시켰다는 점이 사건의 무게를 키우고 있다.