OpenAI memperkenalkan Ultrafast, sebuah tier layanan pratinjau yang mampu menjalankan GPT-5.6 Sol hingga 14 kali lebih cepat dibanding pemrosesan standar dan menghasilkan hingga 750 token output per detik.
Poin Utama:
- Ultrafast menjalankan GPT-5.6 Sol hingga 14 kali lebih cepat dibanding pemrosesan standar.
- Cerebras menjadi tulang punggung mode ini, yang sanggup menyemburkan hingga 750 token output per detik.
- Layanan ini masih dalam pratinjau terbatas, dengan akses lebih luas direncanakan seiring penambahan kapasitas.
Pratinjau OpenAI Ultrafast
OpenAI mengumumkan Ultrafast pada 13 Agustus, meluncurkan tier berfokus kecepatan ini terlebih dahulu melalui API untuk kelompok pelanggan terbatas. Perusahaan menyatakan akses akan diperluas sejalan dengan bertambahnya kapasitas.
Layanan ini ditenagai Cerebras dan dirancang untuk mempertahankan kapabilitas GPT-5.6 Sol sambil memangkas waktu yang dibutuhkan untuk menghasilkan respons. Token output adalah potongan teks yang dihasilkan model. Menurut OpenAI, performa nyaris real-time selama ini biasanya mengharuskan pengguna memilih model yang lebih kecil atau sangat khusus, sementara Ultrafast membidik “lebih banyak pekerjaan bermanfaat per detik.”
OpenAI menyebut penanganan insiden, riset keuangan, layanan pelanggan, perdagangan (commerce), dan riset langsung (live research) sebagai alur kerja yang dinilai paling diuntungkan. Engineer bisa memanfaatkan mode ini untuk menelaah log, trace, dan perubahan kode terbaru saat gangguan sistem masih berlangsung, sementara sistem dukungan pelanggan dapat menuntaskan permintaan bertahap yang kompleks dalam percakapan langsung.
Baca Juga: Anthropic Kejar Kesepakatan Decart US$6 Miliar Sambil Bersiap IPO
Dampak GPT-5.6 Sol
Pelanggan awal menyebut lonjakan kecepatan ini mengubah cara model disisipkan ke dalam alur kerja interaktif. John Crepezzi dari Jane Street menyebut peningkatan tersebut “impresif” dan menilai hal itu membuat kerja fokus berdampingan dengan model menjadi jauh lebih praktis.
Courtland Lykins, pimpinan produk voice AI di Podium, mengatakan Ultrafast sangat berharga bagi tumpukan teknologi suara perusahaan karena “kecepatan benar-benar mengubah pengalaman panggilan” untuk beban kerja yang kompleks. OpenAI juga menyatakan analis keuangan dapat membedah sinyal pasar dan transaksi yang terus bergerak tanpa harus menunggu proses batch yang lebih lambat. Skenario ini bertumpu pada input yang berubah sangat cepat.
Pratinjau saat ini masih dibatasi infrastruktur, bukan ditahan untuk peluncuran publik luas semata. OpenAI mengatakan pihaknya memanfaatkan umpan balik dari perusahaan-perusahaan awal untuk memetakan area di mana peningkatan kecepatan memberikan nilai terbesar sebelum membuka akses lebih lebar.
Kolaborasi dengan Cerebras sendiri sudah lebih dulu terjalin sebelum Ultrafast. Pada Januari, OpenAI mengumumkan kemitraan dengan pembuat chip tersebut untuk menambah 750 megawatt komputasi AI berlatensi rendah ke platformnya. Pada Februari, GPT-5.3-Codex-Spark menjadi model pertama yang memanfaatkan kemitraan itu, memanfaatkan perangkat keras Cerebras untuk menembus kecepatan lebih dari 1.000 token per detik dalam pengkodean real-time.
Baca Berikutnya: Volume Perdagangan Virtuals Protocol Melejit 180%, Bull Bidik US$0,68
