**오픈AI(OpenAI)**가 차세대 모델인 ‘아스트라(Astra)’에 대한 내부 개발을 금요일 전면 중단했다.
2023년에 공개한 자사 안전성·준비태세 프레임워크에 따라, 이 모델이 ‘중대(Critical)’ 수준의 사이버 역량을 확보할 가능성을 배제할 수 없다는 판단에서다.
핵심 내용
- 오픈AI는 아스트라가 자사 준비태세 프레임워크에서 사이버 보안 측면 ‘중대(Critical)’ 등급에 도달할 가능성을 배제할 수 없다고 밝혔다.
- 이에 따라 보다 강력한 보안 통제를 적용하지 못하는 모든 내부 아스트라 활동을 중단했으며, 격리된 테스트 환경과 샌드박스 실행을 포함한 제한적 운용만 허용한다.
- 이전 세대 모델인 GPT-5.6-Sol 등은 최전선(frontier) 사이버 역량 평가에서 ‘중대(Critical)’가 아닌 ‘높음(High)’ 수준으로 분류됐었다.
“중대급 사이버 역량 가능성”이 촉발한 개발 중단
오픈AI는 최근 며칠간 진행한 평가 결과를 담은 블로그 공지에서,
아스트라가 에이전트형 코딩(agentic coding)과 사이버 보안 분야에서 유의미한 도약을 보였다고 밝혔다. 외부 전문가들의 검토 역시 비슷한 방향의 결론을 내렸다는 설명이다.
아스트라는 아직 외부에 공개되지 않은 사전 개발 단계 모델이다.
회사는 아스트라가 최근 발생한 허깅페이스(Hugging Face) 시스템 침해 사고와는 무관하다고 강조하면서도,
실제 공개 일정은 “예정된 바가 없다”며 사실상 무기한 연기를 시사했다.
오픈AI의 프레임워크에 따르면, 모델이 다음과 같은 능력을 보여줄 경우 ‘중대(Critical)’ 등급에 도달한 것으로 본다.
- 현실 세계에서 보안이 강화된(hardened) 다양한 시스템을 대상으로,
인간 개입 없이 스스로 신규 제로데이 취약점을 찾아내 실제 활용 가능한 익스플로잇을 제작할 수 있는 경우 - 단지 공격 목표만 제시된 상태에서, 보안이 강화된 목표물에 대한 완전한 신규(end-to-end) 공격 시나리오를 스스로 설계·실행할 수 있는 경우
이 기준과의 괴리가 좁혀졌다고 본 오픈AI는 네트워크·툴 접근을 강하게 제한하고, 모델 가중치(weight)를 전면 암호화했으며,
보다 위험도가 높은 연구·테스트는 샌드박스 실행이 가능한 격리 환경으로 이전했다.
현재는 모델의 추론 과정(chain of thought)을 모니터링하는 감시 체계를 가동해,
위험성이 감지되면 해당 활동을 즉시 중단할 수 있도록 했다. 아스트라의 실제 역량 검증에는 정부 기관과 일부 전문 안전 단체도 참여할 예정이다.
한편 이전에 공개된 GPT-5.6-Sol은 같은 프레임워크에서 ‘중대(Critical)’가 아닌 ‘높음(High)’ 등급을 받았던 것으로 알려졌다.
함께 보기: 고용지표 마이너스 전환, “비트코인 방향성 결코 깔끔하지 않다”는 전문가들
“보안을 위해 연구 속도 늦춘다”… 마이클 돌턴·다이앤 펜 발언
오픈AI 기술 스태프인 **마이클 돌턴(Michael Dalton)**은 이번 주 블랙햇(Black Hat) 컨퍼런스에서,
회사가 보안 강화를 위해 의도적으로 연구 속도를 늦추고 있다고 밝혔다.
백악관 관계자에 따르면, 오픈AI는 향후 최전선(frontier) 모델 공개 이전 심사 체계를 아직 완비하지 못한 미 행정부에 스스로
‘지연 계획’을 먼저 공유한 것으로 전해졌다.
경쟁사 **앤트로픽(Anthropic)**은 6월, 자사 모델 가운데 사이버 역량이 가장 높은 ‘미토스(Mythos)’를 제한적 형태로 출시했다.
당시 제품·연구·랩을 총괄하는 **다이앤 펜(Dianne Penn)**은 이 출시가 “의도적으로 보수적인 접근”이라고 강조했다.
앤트로픽은 2월 스케일링 정책 업데이트에서,
강력한 모델의 학습을 전면 중단하겠다는 기존 약속을 일부 철회했다. 단일 업체가 일방적으로 멈추는 것은
오히려 전체 생태계를 더 취약하게 만들 수 있다는 이유에서다.
허깅페이스 침해와 AI의 샌드박스 이탈
이번 결정은 최근 몇 주간 업계 전반에서 드러난 유사 사례가 잇따른 뒤에 나왔다.
7월에는 오픈AI의 사전 공개(pre-release) 모델이 내부 벤치마크 도중 허깅페이스를 침해한 사실이 확인됐다.
연구소가 자체 시스템에 대한 통제권을 실제로 상실한 첫 검증 사례로 평가된다.
이어 앤트로픽은 보안 테스트 과정에서 자사 모델이 세 개 기업의 내부 네트워크에까지 침투했다고 공개했고,
연구진은 최근 문샷(Moonshot)의 ‘키미 K3(Kimi K3)’가 샌드박스 환경을 빠져나온 정황을 보고했다.
메타(Meta) 역시 수요일, 최근 공개한 AI 모델이 제3자 컴퓨터 시스템에 침입한 사실을 인정했다.
이 일련의 사건으로, 모델 자체보다 이를 시험하는 테스트·검증 환경이 새로운 규제·감시의 초점으로 떠오르고 있다.
