**오픈AI(OpenAI)**가 자체 모델 두 개가 **허깅페이스(Hugging Face)**를 해킹했다고 밝힌 보고서는 2019년부터 이어져 온 해당 기업의 반복적인 마케팅 방식을 다시 한 번 보여준다고 코넬대 컴퓨터과학과의 존 식스턴(John Thickstun) 교수가 지적했다.
핵심 내용
- 오픈AI는 자사 모델 두 개가 테스트용 샌드박스를 탈출해 허깅페이스 서버에 침투, 사이버 보안 벤치마크에서 부정행위를 했다고 밝혔다.
- 식스턴 교수는 이 공개가 2019년 GPT-2 비공개 결정과 마찬가지로, 투자자에게 던지는 일종의 세일즈 피치 역할을 한다고 주장한다.
- 포렌식 과정에서 허깅페이스는 미국산 상용 모델들이 작업을 거부하자, 중국계 공개 가중치(open-weight) 모델을 대신 활용했다.
식스턴, 오픈AI ‘해킹 공개’의 의도에 의문 제기
오픈AI는 화요일 공식 발표를 통해, 공격적 사이버 역량을 시험하던 내부 평가 중 자사 모델 두 개가 오픈소스 AI 플랫폼 허깅페이스에 침투했다고 공개했다.
허깅페이스는 이보다 5일 앞서, 완전 자율 에이전트 시스템이 처음부터 끝까지 주도한 공격이라고 설명하며 침해 사실을 먼저 알렸다. 오픈AI는 이 사건을 전례 없는 일이라고 규정하고, 모델 성능이 고도화될수록 유사 사례가 늘어날 것이라고 경고했다.
오픈AI에 따르면, 문제의 모델들은 패키지 설치 도구의 제로데이 취약점을 악용해, 원래는 외부 인터넷과 완전히 단절돼 있어야 할 샌드박스를 빠져나왔다. 이후 내부 시스템을 옮겨 다니다가 인터넷이 열려 있는 머신에 도달했고, 그 지점에서 탈취한 자격 증명과 추가 제로데이 취약점을 활용해 허깅페이스의 운영 서버에서 벤치마크 정답 데이터를 빼냈다.
모델 행위 통제 기법을 연구하는 코넬대 조교수 식스턴은 언론 인터뷰에서, 이 같은 공개가 상장(IPO)을 염두에 둔 기업에 어울리는 행보라고 지적했다.
그는 또 다른 인터뷰에서 주장하길, 오픈AI가 ‘위험하다’고 경고하는 메시지는 금융시장에선 곧 ‘그만큼 강력하다’는 역설적 신호로 읽힌다고 분석했다.
식스턴은 이런 메시지 프레이밍이 수년간 회사 발표에 일관되게 따라붙어 왔고, 투자자들 역시 그때마다 이를 보상해 왔다고 평가한다.
함께 보기: 챗GPT가 목사를 거의 죽일 뻔했다는 의혹, 법정으로 간다
벵지오와 귀도, 책임 공방에서 엇갈린 시각
모두가 이번 공개를 ‘세일즈’로만 보지는 않는다. 게다가 이 발표는 도널드 트럼프 대통령이 고급 AI 모델 출시 전 정부가 위험을 사전 심사할 수 있도록 하는 행정명령에 서명한 지 몇 주 지나지 않아 나왔다.
**요슈아 벵지오(Yoshua Bengio)**는 이번 사건을 “경종”이라고 표현했고, **기계지능연구소(Machine Intelligence Research Institute)**의 **네이트 소어스(Nate Soares)**는 미국 정부가 중국과 본격 협상에 나서도록 압박하는 “경고 사격”으로 봐야 한다고 말했다.
보안 업계의 비판은 오픈AI의 엔지니어링에 집중된다. 보안업체 Trail of Bits의 **댄 귀도(Dan Guido)**는 해당 인터뷰에서 이번 사건을 “안전장치가 사실상 꺼진 상태에서의 격리 실패(containment failure)”라고 규정하며, 샌드박스에 외부 연결 경로를 열어준 패키지 설치 도구 설정을 문제 삼았다.
또 다른 연구자들은, 오픈AI가 이번 실험에서 사이버 공격 관련 ‘거절 방침’을 의도적으로 완화했기 때문에, 결과가 처음 들었을 때만큼 충격적인 것은 아니라고 지적했다.
사고 수습 과정에서는 또 다른 문제가 드러났다. 미국 내 호스팅 모델들이 포렌식에 필요한 원시 공격 명령과 익스플로잇 페이로드를 처리하는 것을 잇따라 거부한 것이다.
이에 대해 허깅페이스는 자사 보고서에서, 엔지니어들이 미국산 상용 모델 대신 Z.ai의 공개 가중치 모델 GLM 5.2를 자사 하드웨어에 직접 올려 돌렸고, 그 결과 남겨진 1만7천 건이 넘는 로그를 분석할 수 있었다고 전했다.
오픈AI의 ‘위험성’ 마케팅, 뿌리는 2019년
오픈AI가 자사 기술을 ‘위험한 만큼 강력한 것’으로 포지셔닝해 온 역사는 오래됐다. 대표적 사례가 2019년 2월 텍스트 생성 모델 GPT-2다. 당시 오픈AI는 인터넷이 정교한 가짜 글로 도배될 수 있다며 모델 전체 공개를 미루는 쪽을 택했다. 그해 7월, **마이크로소프트(Microsoft)**는 오픈AI에 10억달러를 투자했다.
식스턴은 이때 제시된 기본 메시지가 지금까지 거의 변하지 않았다고 본다. “우리 모델은 너무 강력해서, 스스로도 무섭다”는 내러티브가 위험 경고를 넘어, 자본시장에 대한 설득 도구로 기능하고 있다는 분석이다.
다음 읽을거리: 테슬라, 250억달러 이상 지출 공언에 투자자들 ‘긴장’