OpenAI memperkenalkan Ultrafast, kelas layanan pratinjau yang menjalankan GPT-5.6 Sol hingga 14 kali lebih cepat dibanding pemrosesan standar dan mampu menghasilkan sampai 750 token output per detik.
Poin Utama:
- Ultrafast menjalankan GPT-5.6 Sol hingga 14 kali lebih cepat dari pemrosesan standar.
- Mode ini ditenagai Cerebras, dengan kapasitas hingga 750 token output per detik.
- Layanan masih dalam tahap pratinjau terbatas, dengan rencana perluasan akses seiring penambahan kapasitas.
Pratinjau OpenAI Ultrafast
OpenAI mengumumkan Ultrafast pada 13 Agustus, meluncurkan kelas layanan berfokus kecepatan ini pertama kali melalui API untuk sekelompok pelanggan terbatas. Perusahaan menyatakan akses akan diperluas sejalan dengan peningkatan kapasitas infrastruktur.
Layanan ini ditenagai oleh Cerebras dan dirancang untuk mempertahankan kapabilitas GPT-5.6 Sol sambil memangkas waktu yang dibutuhkan untuk menghasilkan respons. Token output adalah unit pecahan dari teks yang dihasilkan. Menurut OpenAI, kinerja nyaris real-time selama ini biasanya menuntut pengguna berkompromi dengan memilih model yang lebih kecil atau lebih spesialis, sementara Ultrafast menargetkan “lebih banyak pekerjaan bernilai per detik.”
OpenAI menyebut penanganan insiden, riset keuangan, layanan pelanggan, perdagangan, dan riset langsung sebagai alur kerja yang paling diharapkan mendapat manfaat. Insinyur dapat memanfaatkan mode ini untuk menelaah log, jejak eksekusi, dan perubahan kode terbaru saat gangguan sistem masih berlangsung, sementara sistem dukungan dapat menangani permintaan bertahap yang kompleks dalam percakapan langsung.
Baca Juga: Anthropic Kejar Kesepakatan Decart Senilai $6 Miliar Sambil Bersiap IPO
Dampak GPT-5.6 Sol
Pelanggan awal menilai lompatan kecepatan ini mengubah cara model digunakan dalam pekerjaan interaktif. John Crepezzi dari Jane Street menyebut peningkatan tersebut “mengagumkan” dan menilai bahwa hal ini membuat kerja fokus berdampingan dengan model menjadi jauh lebih praktis.
Courtland Lykins, pemimpin produk voice AI di Podium, mengatakan Ultrafast sangat bernilai bagi tumpukan teknologi suara perusahaannya karena “kecepatan benar-benar mengubah pengalaman panggilan” pada pekerjaan yang kompleks. OpenAI juga menyatakan analis keuangan kini dapat mengolah sinyal pasar dan transaksi yang cepat berubah tanpa harus menunggu pemrosesan batch yang lebih lambat. Kasus penggunaan ini sangat bergantung pada masukan yang dinamis dan terus berubah.
Tahap pratinjau saat ini masih dibatasi oleh ketersediaan infrastruktur, bukan ditujukan untuk peluncuran publik masif. OpenAI menuturkan pihaknya memanfaatkan masukan dari perusahaan-perusahaan awal untuk memetakan area di mana peningkatan kecepatan memberikan nilai terbesar sebelum memperluas ketersediaan layanan.
Keterkaitan dengan Cerebras sendiri sudah terbangun sebelum Ultrafast. Pada Januari, OpenAI mengumumkan kemitraan dengan produsen chip tersebut untuk menambahkan kapasitas komputasi AI berlatensi rendah sebesar 750 megawatt ke platformnya. Pada Februari, GPT-5.3-Codex-Spark menjadi model pertama yang memanfaatkan kemitraan ini, menggunakan perangkat keras Cerebras untuk melampaui 1.000 token per detik dalam pemrograman real-time.
Baca Berikutnya: Volume Perdagangan Virtuals Protocol Melonjak 180%, Bulls Bidik $0,68
