Điểm chính
OpenAI đại tu kiến trúc giọng nói của ChatGPT để cho phép luồng âm thanh liền mạch, không bị ngắt quãng.
Hệ thống mới GPT-Live giúp ChatGPT có thể “nghe” trong khi vẫn đang “nói”.
Số vòng trao đổi mạng khi khởi động một phiên thoại giảm từ sáu xuống còn một.
Âm thanh đi trên một “đường cao tốc” riêng, trong khi suy luận và gọi công cụ chạy bất đồng bộ.
OpenAI công bố bản phân tích kỹ thuật chi tiết về quá trình tái thiết.
OpenAI đã xây dựng lại hạ tầng giọng nói vận hành ChatGPT, giới thiệu kiến trúc mới mang tên GPT-Live. Hệ thống này giữ cho luồng âm thanh chảy liên tục, để các tác vụ suy luận sâu và sử dụng công cụ không còn làm đứt mạch hội thoại.
OpenAI trình bày những thay đổi này trong loạt bài đăng ngày 3/8 và một bài blog mô tả chi tiết cách họ tái thiết hệ thống từ phía khách đến phía mô hình. Theo công ty, thời gian khởi động phiên thoại đã được cắt giảm từ sáu vòng trao đổi mạng xuống chỉ còn một.
GPT-Live vận hành như thế nào
GPT-Live chuyển luồng âm thanh sang một đường xử lý nhanh chuyên biệt, tách khỏi lớp suy luận và các cuộc gọi công cụ. Các quá trình chuyên sâu hơn này chạy bất đồng bộ, tức là chúng được xử lý ở nền mà không cần tạm dừng luồng âm thanh.
Kết quả là phiên thoại khởi động nhanh hơn và được duy trì liên tục, không còn những khoảng lặng mà người dùng trước đây thường gặp mỗi khi ChatGPT xử lý các yêu cầu phức tạp.
Trong một bài đăng, OpenAI cho biết kiến trúc mới đặc biệt xử lý tốt khoảnh khắc bắt đầu phiên, khiến cuộc trò chuyện trở nên tự nhiên hơn ngay từ lượt trao đổi đầu tiên. Đợt tái thiết này giải quyết điểm nghẽn cấu trúc của kiến trúc cũ, nơi bất kỳ bước suy luận nào cũng buộc lớp âm thanh phải chờ.
Bài viết liên quan: Cosmos Hub tăng 6% khi luận điểm Interchain hồi sinh
GPT-Live nhắm thẳng vào độ trễ giọng nói của ChatGPT
OpenAI đang đẩy rất nhanh mảng giọng nói trong giai đoạn đến năm 2026. Đầu năm nay, công ty hứng chịu chỉ trích vì phản hồi giọng nói của ChatGPT bị đánh giá là gượng gạo, chậm chạp khi xử lý các truy vấn nhiều bước. Đợt tái kiến trúc GPT-Live là lời đáp trả trực tiếp trên bình diện kỹ thuật cho khoảng trống đó.
Bản phát hành này nối tiếp tiết lộ hồi tháng trước rằng một phiên bản nội bộ của mô hình chủ lực kế tiếp của OpenAI đã tạo ra mười kết quả mới trong lĩnh vực toán học chỉ với khoảng 2.000 USD chi phí token, cho thấy công ty đang rót vốn đáng kể vào hạ tầng trên toàn bộ dải sản phẩm.
Đọc tiếp: Qwen và DeepSeek đưa AI Trung Quốc áp sát Anthropic