핵심 내용
오픈AI가 ChatGPT 음성 아키텍처를 전면 개편해, 끊김 없는 연속 오디오 흐름을 구현했다.
새 시스템인 GPT-Live는 ChatGPT가 말을 하면서 동시에 사용자의 발화를 들을 수 있도록 설계됐다.
음성 세션 시작에 필요한 네트워크 왕복은 6회에서 1회로 줄었다.
오디오는 전용 고속 경로로 처리되고, 추론·툴 호출은 비동기적으로 병렬 처리된다.
오픈AI는 이번 재구축 과정을 상세히 담은 기술 해설을 공개했다.
**오픈AI(OpenAI)**가 ChatGPT를 구동하는 음성 인프라를 완전히 재구축하며, 대화 중에도 오디오 스트림을 끊지 않고 유지하는 새 아키텍처 ‘GPT-Live’를 공개했다. 이로써 복잡한 추론과 툴 사용이 진행되는 동안에도 대화 흐름이 중단되지 않도록 한 것이 핵심이다.
오픈AI는 8월 3일 일련의 게시물을 통해 변경 사항을 공유하고, 클라이언트부터 모델 단까지 어떻게 시스템을 갈아엎었는지 상세히 설명한 블로그를 게재했다. 회사 측에 따르면, 음성 세션 시작에 걸리던 네트워크 왕복 횟수는 6회에서 1회로 축소됐다.
GPT-Live는 어떻게 동작하나
GPT-Live는 오디오를 추론·툴 호출 흐름과 분리된 전용 고속 경로로 전달한다. 심층 추론과 외부 툴 호출은 비동기적으로, 즉 백그라운드에서 따로 돌아가도록 설계돼 오디오 스트림을 멈추지 않는다.
그 결과, 음성 세션이 더 빠르게 시작되고, 사용자가 복잡한 요청을 던졌을 때도 이전처럼 말이 끊기거나 공백이 생기지 않는다는 설명이다.
오픈AI는 또 다른 게시물에서 이 아키텍처가 세션이 처음 열리는 ‘그 순간’을 집중적으로 다뤄, 첫 한두 차례 주고받는 말부터 자연스러운 대화감을 주도록 설계했다고 강조했다. 이전 스택은 어떤 형태의 추론 단계가 개입되면 음성 계층 전체가 기다려야 하는 구조적 한계를 안고 있었고, 이번 재구축은 이 병목을 제거하는 데 초점을 맞췄다.
함께 보기: 코스모스 허브, 인터체인 내러티브 부활에 6% 급등
GPT-Live, ChatGPT 음성 지연 문제 정조준
오픈AI는 2026년을 향해 음성 기능 고도화에 공격적으로 투자해 왔다. 올해 초까지만 해도 ChatGPT 음성 응답이 여러 단계를 거치는 질의에 대응할 때 부자연스럽고 느리다는 비판이 잇따랐다. GPT-Live 재구축은 이 격차를 줄이기 위한 오픈AI의 직접적인 엔지니어링 해법으로 풀이된다.
이번 발표는 지난달 오픈AI가 차세대 대형 모델의 내부 버전이 약 2,000달러 상당의 토큰 비용으로 새로운 수학 결과 10건을 도출했다고 밝힌 데 이어 나왔다. 제품 전반에 걸친 인프라 투자 확대가 음성 영역까지 이어지고 있음을 시사하는 대목이다.