OpenAI, 프롬프트 인젝션 공격 차단을 위한 ‘락다운 모드’ 출시

OpenAI는 민감한 정보를 다루는 사용자를 prompt injection attacks로부터 보호하기 위한 새로운 보안 기능인 ‘락다운 모드(Lockdown Mode)’를 출시했다. 이 기능은 2026년 6월 7일에 공개되었다.

이코노믹 타임스(Economic Times)에 따르면, 락다운 모드는 프롬프트 인젝션을 방어하도록 설계되었다. 프롬프트 인젝션은 입력에 악의적인 지시를 숨겨 넣어 AI 모델의 동작을 우회하거나 조작하려는 공격 방식이다.

락다운 모드의 역할

프롬프트 인젝션은 대형 언어 모델을 배포할 때 가장 자주 거론되는 취약점 가운데 하나다. 공격자는 모델이 기존 지시를 무시하게 하거나 제한된 정보를 노출하도록 유도하는 입력을 정교하게 만들어낸다. 락다운 모드는 이러한 위험을 줄이기 위해 추가적인 제어 장치를 적용한다.

OpenAI는 현재 단계의 락다운 모드 구현 방식에 대한 상세한 기술 설명을 공개하지는 않았다. 다만 이 기능을 민감한 데이터를 관리하는 사용자를 위한 것으로 설명했으며, 여기에는 엔터프라이즈 고객, 연구자, 보안에 민감한 전문가 등이 포함될 것으로 보인다.

이번 출시는 OpenAI가 고위험·고가치 활용 사례를 더 많이 다루게 되면서 접근 계층과 보안 레이어를 계속 추가해 온 흐름의 연장선에 있다. 법률, 의료, 정부 부문 등에서의 엔터프라이즈 도입은 입력 단계에서의 보안 통제 필요성을 더욱 부각시켰다.

Also Read: Two AI Rivals, One Compute Bill: Inside Google's $30B SpaceX Move

배경

OpenAI가 안전 중심 도구를 강화하는 움직임은 AI 모델의 행동에 대한 우려와 감시가 커진 시점을 배경으로 한다. 이번 출시 직전 수주 동안 OpenAI, Anthropic, Google DeepMind, Microsoft의 수장들은 합동으로 의회에 합성 DNA 스크리닝 의무화를 촉구하며, AI가 생물안보 위협에서 잠재적으로 수행할 수 있는 역할을 경고했다. 2026년 5월 말부터 6월 초에 보도된 이 서한은 AI 안전을 워싱턴 입법 의제의 중심에 올려놓았다.

락다운 모드의 출시는 Anthropic 등 경쟁사들이 가장 강력한 모델에 대한 접근 통제를 강화하는 흐름과도 맞물린다. Anthropic은 올해 초 자사의 Claude Mythos 시스템에 대해, 사전 검토를 전제로 한 자율적 사전 공개(framework)의 일환으로 접근을 제한했다.

OpenAI의 이번 보안 기능 추가는 6월 1일 미국 증권거래위원회(SEC)에 제출된 비공개 기업공개(IPO) 서류 이전에 이루어졌다. 엔터프라이즈급 보안 통제를 입증하는 것은 향후 상장을 앞두고 투자자 신뢰 형성에도 중요한 요소가 될 전망이다.