OpenAIのGPT-5.6 Solは、Ultrafastモードにおいて一部の顧客を対象に限定プレビューとして提供されており、まずはOpenAI API経由で展開されます。同社によると、このサービスは標準処理と比較して最大14倍高速に動作し、出力トークンを毎秒最大750個生成できるとのことです。Ultrafastは、超低遅延推論に関するCerebrasとの提携の一環として、同社の技術によって支えられています。
同じテキストプロンプトから、GPT-5.6 SolのUltrafastモードと標準モードがそれぞれ動作する3D倉庫シミュレーターを並行して構築している様子。(出典: OpenAI)
プレビュー期間中、顧客はコーディング、コマース、金融調査、サポートなど、さまざまな対話型アプリケーションの本番環境でUltrafastのテストを行っています。OpenAIはこのプログラムを通じて、桁違いの速度向上が最も価値を発揮する分野を見極めるとともに、モデルがユーザーとの対話と同じ速さで応答できるようになった場合に製品がどのように変化するかを検証する方針です。
「Cerebrasがもたらす速度の向上には目を見張るものがあります。これによりモデルの使い方の幅が広がり、開発者がモデルと共により集中的かつ生産的に作業を進めることが可能になります」と、Jane StreetのAIアシスタント担当であるJohn Crepezzi氏は述べています。
社内では、OpenAIはインシデント対応にUltrafastを活用しています。具体的には、ログの読み込み、トレースの分析、会話内容の要約、追加確認事項の特定、修正案の準備や検証支援などです。推論の高速化により、シグナルの検知から仮説の検証、次のアクションの選択までの時間が短縮される一方、判断や展開の責任はエンジニアが引き続き担っています。
同社はまた、知識検索、データクエリ、連携ツール、情報統合を伴う調査業務にもUltrafastを適用しています。OpenAIによると、通常であれば一晩かけて実験を実行し翌朝に結果を確認するような調査チームでも、Ultrafastを使えば就業時間内に複数回のイテレーションを完了できる可能性があるとのことです。
