OpenAIは、標準処理と比べて最大14倍の速度でGPT-5.6 Solを動作させ、1秒あたり最大750トークンを生成できる新たなプレビュー向けサービス階層「Ultrafast」を発表した。
注目ポイント
- Ultrafastは、GPT-5.6 Solを標準処理比で最大14倍のスピードで動作。
- モードはCerebrasのハードウェアにより駆動され、1秒あたり最大750トークンを出力。
- 現在は限定プレビュー段階で、インフラ拡充にあわせて利用範囲を広げる計画。
OpenAI「Ultrafast」プレビューの概要
OpenAIは8月13日付でUltrafastのプレビュー提供を公表し、まずはAPI経由で一部顧客向けに提供を開始した。企業側は、バックエンド能力の増強に応じて順次アクセスを拡大していくとしている。
このサービスはCerebrasの計算基盤上で動作し、設計思想としてGPT-5.6 Sol本来の性能・精度を維持しつつ、応答生成に要する時間を大幅に圧縮することを狙う。トークンとは生成テキストを構成する単位であり、OpenAIによれば、従来リアルタイム性能を求める場合は、より小型か特化型のモデルを選ばざるを得なかったが、Ultrafastは「1秒あたりの有用な仕事量」の最大化を目標に据えている。
OpenAIは、代表的な適用領域として、インシデントレスポンス、金融リサーチ、カスタマーサポート、コマース、ライブリサーチなどを挙げる。たとえばエンジニアは、障害対応の最中にログやトレース、直近のコード変更をリアルタイムで解析させることができ、サポートシステムは会話中に複数ステップのリクエストを処理できるようになる。
関連記事: AnthropicがIPO準備と並行し60億ドル規模のDecart取引を模索
GPT-5.6 Solへのインパクト
先行導入企業からは、速度向上がインタラクティブな業務へのモデルの組み込み方を変えつつあるとの声が出ている。Jane StreetのJohn Crepezzi氏は、このスピードを「印象的だ」と評価し、人間とモデルが並走する形での集中作業が現実的になったと述べた。
Podiumで音声AIプロダクトを率いるCourtland Lykins氏は、自社の音声スタックにとってUltrafastが有用だったとし、「このスピードによって、複雑な案件での通話体験そのものが変わる」とコメント。OpenAIも、金融リサーチ担当者が、市場シグナルや取引の変化を、従来のバッチ処理を待つことなく分析できるようになると強調する。そのユースケースでは、入力データが刻々と変化する点がカギとなる。
現時点のプレビューは、一般公開というより、インフラ制約の中で運用されている段階にとどまる。OpenAIは、最初に参加している企業からのフィードバックを基に、どの分野で高速化が最も価値を生むかを見極めたうえで、提供範囲を広げる方針だ。
Cerebrasとの連携はUltrafastに先行して始まっている。OpenAIは1月、同社と提携し、自社プラットフォームに最大750メガワット規模の低レイテンシAIコンピューティング能力を追加すると発表。2月には、このパートナーシップに紐づく初のモデルとしてGPT-5.3-Codex-Sparkを公開し、Cerebras製ハードウェアを用いることで、リアルタイムのコーディング用途で1秒あたり1,000トークン超の出力を達成した。
