Poin Penting
OpenAI merombak arsitektur suara ChatGPT agar audio bisa mengalir terus tanpa jeda. Sistem baru, GPT-Live, memungkinkan ChatGPT “mendengar” sambil tetap berbicara. Startup sesi suara dipangkas dari enam kali perjalanan jaringan menjadi satu. Audio dialirkan lewat jalur cepat khusus, sementara penalaran dan penggunaan tools berjalan asinkron. OpenAI merilis ulasan teknis lengkap tentang rekayasa ulang ini.
OpenAI merancang ulang infrastruktur suara yang menjadi tulang punggung ChatGPT, dan merilis arsitektur baru bernama GPT-Live. Sistem ini menjaga aliran audio tetap kontinu sehingga proses penalaran yang lebih dalam dan pemanggilan tools tidak lagi memotong jalannya percakapan.
OpenAI memaparkan perubahan ini dalam sejumlah post pada 3 Agustus dan menerbitkan sebuah blog yang menjelaskan bagaimana sistem dibangun ulang dari sisi klien hingga ke model. Perseroan menyebut waktu mulai sesi suara kini turun dari enam kali round trip jaringan menjadi hanya satu.
Cara Kerja GPT-Live
GPT-Live mengalirkan audio melalui jalur cepat khusus yang terpisah dari proses penalaran dan pemanggilan tools. Proses yang lebih berat itu berjalan secara asinkron, artinya diselesaikan di latar belakang tanpa menghentikan aliran audio.
Hasilnya adalah sesi suara yang lebih cepat dimulai dan tetap aktif tanpa jeda-jeda yang sebelumnya muncul ketika ChatGPT harus memproses permintaan yang kompleks.
Dalam sebuah post, OpenAI menjelaskan bahwa arsitektur ini dirancang khusus untuk menangani momen ketika sesi baru dimulai, sehingga percakapan terasa lebih natural sejak interaksi pertama. Rekayasa ulang ini menutup keterbatasan struktural pada stack lama, di mana setiap langkah penalaran memaksa lapisan audio untuk menunggu.
Rekayasa Ulang GPT-Live Bidik Latensi Suara ChatGPT
OpenAI bergerak agresif mengembangkan kapabilitas suara hingga 2026. Awal tahun ini, perusahaan sempat menuai kritik karena respons suara ChatGPT dinilai kaku dan lambat, terutama saat menangani pertanyaan bertahap yang kompleks. GPT-Live menjadi jawaban rekayasa langsung OpenAI terhadap celah tersebut.
Peluncuran ini menyusul pengungkapan bulan lalu bahwa versi internal model generasi berikutnya mampu menghasilkan sepuluh temuan matematika baru hanya dengan biaya token sekitar US$2.000, menandakan investasi infrastruktur yang luas di seluruh lini produk.
Baca Juga: Qwen dan DeepSeek Dorong AI Tiongkok Mendekati Pencapaian Anthropic
