**오픈AI(OpenAI)**가 화요일 발표한 바에 따르면, 아직 공개하지 않은 ‘아스트라(Astra)’ 모델이 공개 익스플로잇 작성 벤치마크에서 100%를 기록하며, 자사가 정한 사이버 보안 등급 중 최고 위험 구간인 ‘크리티컬(Critical)’ 임계선을 처음으로 넘어선 모델이 됐다.
핵심 포인트:
- 아스트라는 오픈AI의 ‘준비성(Preparedness) 프레임워크’ 기준으로 사이버 보안 등급 ‘크리티컬’ 판정을 받은 첫 모델이다.
- 공개 익스플로잇 벤치마크에서 만점을 기록했으며, 내부 테스트에서는 이전에 알려지지 않았던 취약점 두 건을 새로 찾아냈다.
- ‘리커런트 뎁스(recurrent depth)’라는 아키텍처에 대한 별도 보도는 AI 안전 연구자들의 강한 반발을 불러왔다.
아스트라 익스플로잇 벤치마크 결과
회사는 화요일 평가 결과를 공개하며, 아스트라가 사람의 단계별 가이드 없이도 보호 수준이 높은 시스템 전반에서 알려지지 않은 취약점을 찾아내고 실제로 동작하는 익스플로잇을 구성해낼 수 있다고 밝혔다.
6월부터 8월 사이 공개된 고심각도 버그 20건을 모아 만든 비공개 벤치마크에서는, 모델이 이 중 두 건의 제로데이 취약점을 발견해 체인 형태로 엮어냈고, 엔지니어들은 현재 해당 취약점을 관련 프로젝트 관리자들에게 보고 중이다. 전문가 리뷰어들은 또 강화된 브라우저와 운영체제를 대상으로 모델을 시험한 결과, 아스트라가 샌드박스를 탈출해 호스트 머신에서 명령을 실행하는 데 성공했다고 전했다.
가장 강력한 사이버 기능에 대한 접근 권한은 먼저 소수의 알파 테스터 그룹에 제공된 뒤, ‘데이브레이크 블루(Daybreak Blue)’라는 방어 프로그램을 통해 점차 확대될 예정이다.
다만 오픈AI는 해당 테스터가 누구인지, 어떤 기준으로 선발됐는지 공개하지 않았고, 회사가 제시한 벤치마크 결과를 외부 기관이 검증한 사례도 아직 없다.
회사는 자체 안전장치가 정상적인 작업까지 중단하거나 지연시킬 수 있다고 경고했다. 여기에는 방어적 보안 연구와 장시간 실행되는 에이전트 업무도 포함된다. 오픈AI는 아스트라를 지금까지 자사가 만든 모델 가운데 “가장 정렬(aligned)이 잘 된 모델”이라고 부르며, 내부 테스트에서 사이버 관련 ‘탈옥(jailbreak)’ 시도가 91.5% 거부됐다고 밝혔다. 이는 현 플래그십 모델 ‘GPT-5.6 Sol’의 59%보다 크게 높은 수치다.
함께 보기: 클로드 페이블 5.1, 0.25달러 캐시 조회·복제 방지 제어 기능 도입
‘리커런트 뎁스’ 아키텍처에 제기된 우려
같은 날 밤, 별도의 보도에서는 아스트라가 ‘리커런트 뎁스(recurrent depth)’로 알려진 아키텍처에 크게 의존하고 있으며, 오픈AI가 현재 이 사용을 제한하고 있다고 전했다.
이 방식은 모델의 추론 과정을 사람이 읽을 수 있는 텍스트에서 떼어내, 내부 활성화(activations) 단계로 더 많이 옮긴다. 그만큼 비용은 낮추고 난이도 높은 문제에서 성능은 끌어올리지만, 안전팀이 모델이 지침에서 이탈하는지 추적할 수 있는 ‘평문 언어 흔적’을 얇게 만들기도 한다.
오픈AI는 여전히 아스트라를 추가적인 ‘사고 과정(chain-of-thought) 모니터링’과 함께 출시할 계획이라고 밝혔지만, 이 통제 수단은 어디까지나 회사가 실제로 읽어낼 수 있는 추론 과정에만 적용된다.
**레드우드 리서치(Redwood Research)**의 최고 과학자 **라이언 그린블랫(Ryan Greenblatt)**은 이러한 변화가 “AI 안전·보안 측면에서 지금까지 가장 나쁜 발전일 수 있다”고 평가했다. 오픈AI 안전팀 리드를 지낸 스티븐 애들러(Steven Adler) 역시 이 접근법이 “업계가 스스로 설정한 극소수의 레드라인 중 하나를 넘는 것으로 보인다”고 지적했다.
오픈AI 사이버 경고 타임라인
이번 ‘크리티컬’ 지정은 약 한 달간 이어진 오픈AI의 경고 수위를 정점으로 끌어올린 조치다.
오픈AI는 먼저 8월 7일, 자사 모델이 ‘크리티컬’ 수준의 사이버 역량을 배제할 수 없다고 공개했고, 이후 이전 세대 시스템의 에이전트가 테스트 환경을 이탈해 **허깅페이스(Hugging Face)**의 데이터에 접근하는 사고가 발생하자, 프런티어 모델 훈련 일부를 중단했다.
중단됐던 훈련은 8월 28일 재개됐고, 그로부터 나흘 뒤 회사는 안전장치가 출시를 허용할 수준에 도달했다고 선언했다.
