미국 NIST(미국표준기술연구소)가 추진하는 포스트 양자 전자서명 표준화 경쟁에서 유력 후보로 거론되던 HAWK가, **앤트로픽(Anthropic)**의 AI 모델이 60시간 만에 핵심 안전도를 절반으로 깎아내리면서 결국 경연에서 자진 퇴출됐다.
핵심 체크포인트
- HAWK 연구진, AI 공격 공개 다음 날 곧바로 NIST 추가 전자서명 프로세스에서 후보 철회
- Claude Mythos Preview, 격자 구조 내 대칭성 포착…HAWK-512 키 복구 비용을 2^150 → 2^108로 축소
- 동일 프로젝트에서 7라운드 AES 변형에 대한 공격 속도도 200~800배 향상
앤트로픽 공개 직후 HAWK, NIST 레이스서 ‘백기’
앤트로픽은 7월 28일 자 연구 노트를 통해, 연구 발표를 통해 Claude Mythos Preview가 HAWK의 난이도 보장을 지탱하던 격자 구조 내부에서 이전까지 활용되지 않았던 대칭성을 찾아냈다고 밝혔다.
회사 측은 이 공격이 약 60시간 규모의 에이전트 동작 시간과 약 10만 달러 수준의 API 비용으로 수행됐으며, 격자 암호 이론에 사전 지식이 없는 인간 운영자가 개입했을 뿐이라고 설명했다.
불과 하루 뒤, **레오 뒤카스(Léo Ducas)**는 NIST 공개 메일링리스트에 올린 글에서, 2022년부터 두 차례 전문가 검증을 통과해 온 HAWK 제출안을 공식 철회한다고 통보했다.
HAWK 명세서에 명시된 게이트 카운트 모델을 기준으로 하면, HAWK-512 키를 복구하는 데 필요한 연산량이 2^150에서 2^108으로 떨어진다. 최대 보안 파라미터 세트 역시 비슷한 폭으로 약화됐다. 앤트로픽은 6월 이미 이 공격 기법을 HAWK 설계진과 공유했고, 이후 해당 팀이 시연 코드와 논문을 동시에 검증할 수 있도록 NIST 포럼 글 게시 시점에 맞춰 공개를 조율했다.
결과적으로 이 스킴은 논문이 세상에 나온 지 하루도 채 지나지 않아 표준화 경쟁에서 사실상 항복 선언을 했다.
관련 기사: 7월 DEX 거래량 26% 급감…온체인 유동성 고갈 심화
“AI 암호분석, 검증 규칙부터 정하자” 암호학계 논쟁
NIST 포럼에서 **대니얼 에이폰(Daniel Apon)**은 제시된 수학적 논리가 자신이 보기엔 타당하다고 답변했다. 이후 토론의 초점은 공격 내용 자체보다는, AI가 개입한 암호분석 결과를 어떻게 다뤄야 하는지라는 ‘절차 논쟁’으로 옮겨갔다.
**마르꾸-유하니 사리넨(Markku-Juhani Saarinen)**은 AI의 도움을 받아 얻은 암호분석 결과라면, 제3자가 짧은 시간과 낮은 비용으로 검증할 수 있도록 기계 검증 가능한 증명이나 축소 버전 대상의 실제 공격 데모를 반드시 함께 제시해야 한다고 주장했다.
**바스 베스터반(Bas Westerbaan)**은 또 다른 문제를 지적했다. HAWK는 애초부터 가장 큰 파라미터 세트 기준으로 이미 표준화가 확정된 ML-DSA-44와 키+서명 길이에 큰 차이가 없어서 “보안·성능 균형 측면에서 그다지 설득력 있는 대안이 아니었다”는 것이다. 에이폰은 여기에 더해, 앞으로 쏟아질 AI 기반 암호분석 주장을 어떻게 평가할지에 대한 ‘커뮤니티 합의 규범’이 필요하다고 강조했다. 그렇지 않으면, 한정된 인력이 폭증하는 기계 생성 분석 결과를 검증하지 못한 채 사실상 ‘검증 마비’에 빠질 수 있다는 경고다.
AES 속도 개선…포스트 양자 표준화에 남긴 선례
이번 발표에는 AES를 겨냥한 또 다른 결과도 포함됐다. Mythos는 연구에서 현재 대부분의 인터넷 트래픽을 보호하는 AES-128보다 라운드가 3개 적은 7라운드 변형에 대해, 미트인더미들(meet-in-the-middle) 공격을 200~800배 빠르게 수행하는 방법을 찾아냈다.
다만 이 두 가지 결과 모두, 현재 실제 서비스 환경에서 운용 중인 소프트웨어에는 직접적인 영향을 주지 않는 것으로 평가된다.
표준화 과정에서 막판에 후보가 무너지는 사례는 이번이 처음이 아니다. 더구나 꼭 AI 속도로만 벌어진 일도 아니다. 이전 포스트 양자 라운드에서는 SIKE 제안이 수년간의 공개 검증을 거친 끝에, 단 한 대의 노트북이 약 한 시간 만에 수행한 공격으로 무너진 바 있다. 당시에도 표준화 작업은 손실을 감내한 채 나머지 후보들을 중심으로 그대로 이어졌고, 이번 HAWK 사태도 유사한 선례로 기록될 전망이다.