핵심 포인트
OpenAI가 ChatGPT의 음성 아키텍처를 전면 개편해, 끊김 없는 연속 오디오 흐름을 구현했다.
새 시스템 GPT-Live는 ChatGPT가 말을 하면서 동시에 듣도록 설계됐다.
음성 세션 시작에 필요한 네트워크 왕복 횟수는 6회에서 1회로 축소됐다.
오디오는 전용 고속 경로로 처리되고, 추론·툴 호출은 비동기적으로 병렬 수행된다.
OpenAI는 이번 재구축 과정 전반을 담은 기술 해설 자료를 공개했다.
OpenAI가 ChatGPT의 음성 인프라를 새로 설계해 GPT-Live라는 새로운 아키텍처를 선보였다.
GPT-Live는 오디오 흐름을 끊김 없이 유지해, 복잡한 추론이나 툴 사용 과정에서도 대화가 중단되지 않도록 하는 데 초점을 맞췄다.
OpenAI는 8월 3일 일련의 게시물을 통해 변화 내용을 공개하고, 클라이언트부터 모델 레이어까지 전 구간을 어떻게 다시 설계했는지 설명하는 블로그를 함께 게시했다.
회사 측에 따르면 음성 세션을 시작하는 데 필요한 네트워크 왕복 횟수는 기존 6회에서 1회로 줄었다.
GPT-Live는 어떻게 동작하나
GPT-Live는 오디오 데이터를 추론·툴 호출과 분리된 전용 ‘고속 경로(fast path)’로 라우팅한다.
복잡한 추론과 툴 호출은 비동기적으로, 즉 오디오 스트림을 멈추지 않은 채 백그라운드에서 처리된다.
그 결과, 음성 세션 시작 속도는 빨라지고, 사용자가 과거에 경험했던 긴 공백 없이 대화가 자연스럽게 이어지게 됐다.
OpenAI는 또 다른 게시물에서 이 아키텍처가 세션이 시작되는 ‘첫 순간’을 집중적으로 다루도록 설계됐다며, 첫 교환부터 실제 대화에 가까운 자연스러움을 구현했다고 설명했다.
이전 음성 스택은 구조적으로, 어느 단계에서든 추론이 개입되면 오디오 레이어가 대기해야 했고, 이번 재설계는 이 한계를 정면으로 해소하는 데 초점을 맞췄다.
GPT-Live, ChatGPT 음성 지연 문제 정조준
OpenAI는 2026년까지 음성 기능 강화를 최우선 과제로 밀어붙이고 있다.
올 초까지만 해도 ChatGPT의 음성 응답은 특히 다단계 질문을 처리할 때 어색하고 느리다는 비판을 받아왔다.
GPT-Live 재구축은 이러한 피드백에 대한 OpenAI의 직접적인 엔지니어링 해답으로 볼 수 있다.
이번 공개는 OpenAI가 지난달 내부용 차세대 대형 모델이 약 2,000달러 수준의 토큰 비용으로 새로운 수학 연구 결과 10건을 도출했다고 밝힌 데 이어 나왔다.
음성 스택뿐 아니라 전반적인 인프라에 걸쳐 대규모 투자가 진행되고 있음을 시사하는 대목이다.
