OpenAIは、高速処理に特化した新たなプレビューサービス階層「Ultrafast」を発表した。GPT-5.6 Solの標準処理と比べて最大14倍の速度で動作し、1秒あたり最大750トークンの出力が可能だ。
重要ポイント
- UltrafastはGPT-5.6 Solを標準比最大14倍のスピードで動作させる。
- モードはCerebrasのハードウェアにより駆動し、毎秒最大750トークンの生成が可能。
- 現在は限られたプレビュー提供で、インフラの増強に伴い順次アクセスを拡大する計画。
OpenAI「Ultrafast」プレビューの概要
OpenAIは8月13日付でUltrafastを発表し、まずはAPI経由で一部顧客向けに提供を開始した。同社は、今後キャパシティの拡大に応じて利用対象を広げていく方針だ。
このサービスはCerebras製チップを基盤とし、GPT-5.6 Solの能力を維持しつつ、応答生成に要する時間を大幅に短縮する設計となっている。トークンとは生成テキストを構成する単位を指す。OpenAIによれば、これまでリアルタイムに近い応答速度を得るには、より小型かつ特化型のモデルを選択せざるを得ないケースが多かったが、Ultrafastは「1秒あたりの有用な仕事量」を最大化することを狙っている。
想定ユースケースとして同社は、インシデントレスポンス、金融リサーチ、カスタマーサポート、コマース、ライブリサーチなどを挙げる。たとえばエンジニアは、障害発生中にログやトレース、直近のコード変更をリアルタイムに分析できるほか、サポートシステムは、通話中の複雑なマルチステップの問い合わせにも即応できるようになる。
関連記事: Anthropic、上場準備を進めつつ60億ドル規模のDecart取引を模索
GPT-5.6 Sol高速化のインパクト
先行導入企業からは、速度向上によりモデルの「インタラクティブな仕事」への組み込み方が変わりつつあるとの声が出ている。Jane StreetのJohn Crepezzi氏は、この性能向上を「印象的だ」と評価し、モデルと並走しながら集中作業を行うことが現実的になったと語る。
音声AIプロダクトを率いるPodiumのCourtland Lykins氏は、Ultrafastが同社の音声スタックに大きく寄与しているとし、「この速度によって複雑な案件での通話体験が根本から変わる」と説明する。OpenAIはまた、金融アナリストが市場シグナルや取引データの変化を、従来のバッチ処理を待つことなく即時に分析できる点も強調している。この用途では、刻々と変化する入力データへの追随性能が鍵となる。
もっとも、プレビュー段階ではインフラ側の制約が大きく、一般向けの広範な公開には至っていない。OpenAIは、初期導入企業からのフィードバックを基に、どのワークフローで高速化が最も付加価値を生むかを見極めつつ、提供範囲を拡大していく考えだ。
Cerebrasとの連携はUltrafast以前から始まっている。OpenAIは1月、同社と提携し、低レイテンシのAI計算能力を750メガワット規模でプラットフォームに追加すると発表した。2月には、この提携に紐づく最初のモデルとしてGPT-5.3-Codex-Sparkが登場し、Cerebrasハードウェアを用いてリアルタイムのコード生成で毎秒1,000トークン超を達成している。
