OpenAIは、AIモデルを学習させるのではなく実行するために設計された独自チップJalapeñoの初の性能結果を公開した。同社によると、このアクセラレータはSemiAnalysisのInferenceXベンチマークを用いたテストで、現在利用可能なシステムよりも電力当たりのスループットが高く、応答レイテンシも低かったという。

火曜日にHot Chipsカンファレンスで示されたこれらの結果は、OpenAIが製品の背後にあるインフラをより強く掌握しようとする広範な取り組みを示している。しかし、この比較には重要な制約がある。ベンチマーク数値はOpenAIが提供し、いくつかの実行はSemiAnalysisが現地で検証したものの、Jalapeñoが小規模な展開に入るのは2026年末以降と見込まれている。より本格的な利用は2027年に計画されている。

技術設計とベンチマークの証拠

Jalapeñoは推論アクセラレータであり、学習済みモデルから応答を生成することを意図している。学習と推論の両方で使われる汎用システムとは異なり、このチップは大規模言語モデルの提供に伴う遅延やデータ移動を前提に設計されている。

OpenAIによれば、このシステムは応答生成時に使われるKV cacheを含むモデル状態を、関連する計算資源とメモリ資源の近くに保持する。また、特にモデルが長いプロンプトを処理したり、多数のユーザーに同時に応答したりする際に推論を遅くする可能性のあるprefillと通信の段階にも焦点を当てている。

同社は、3つのテスト済みモデル全体でピークスループット時にワット当たりのAI作業量が1.5倍から1.9倍になったと報告した。また、比較対象の商用システムの中で最良のものに対し、エンドツーエンドのレイテンシが1.7倍から3.6倍改善したと主張した。インタラクティブなワークロードでは、2.1倍から4.1倍の性能向上があったとしている。

テストされたモデルはGPT-OSS 120B、Deepseek R1 670B、Kimi K2.5 1Tだった。The Decoderの発表報道によれば、JalapeñoはGPT-OSSでユーザー1人あたり毎秒約1,400トークン、Deepseek R1では同時リクエスト1件で毎秒700トークン超を達成したという。

これらの数値は、AIハードウェアの普遍的な順位付けではない。InferenceXの結果で使われた数値はOpenAIが提供し、SemiAnalysisはいくつかの実行を自社ラボで検証した。比較対象のシステムは、マルチトークン予測やspeculative decodingなどの最適化技術も用いていたが、Jalapeñoは報告されたテストではそれらを使っていない。そのため改善余地はある一方で、完全な構成やワークロードを検証しなければ比較は難しくなる。

Nvidiaとの比較は重要だが、まだ暫定的

注目の比較対象はNvidia Blackwellシステムで、これは現在AIワークロードで広く展開されている。The Decoderはまた、SemiAnalysisがNvidiaの新しいVera Rubinプラットフォームの方が、両システムともHBM4メモリを使用しているため、より適切な比較対象だと考えていたと報じた。その比較では、Jalapeñoはメガワット当たりの出力トークン数がより多かったとされる一方、トークン当たりの総所有コストでは両プラットフォームはほぼ同等だったという。

時期も重要だ。Vera Rubinシステムはすでに顧客に出荷されているが、Jalapeñoはまだエンジニアリングサンプル段階にあると報じられている。NvidiaとAMDは、DeepSeek V4 ProやKimi K3を含む、より大規模またはより新しいモデルについても結果を公表しているが、ここで引用しているJalapeñoのテストには含まれていない。

そのため、OpenAIの性能優位は確定した市場地位ではなく、期待できる初期結果にとどまる。モデル、カーネル、メモリ構成、ソフトウェアスタック、提供ポリシーが変われば、ハードウェアベンチマークは大きく変わり得る。最終的な試金石は、OpenAIが本番規模で運用するモデルやトラフィックパターンでJalapeñoがどう性能を発揮するかだ。

Broadcomと進めるカスタムシリコン戦略

報道によれば、OpenAIは2024年にBroadcomとともにJalapeñoの開発を開始した。最終設計は2025年11月に製造へ回された。OpenAIは、初期のチップ設計から完成した青写真を工場へ送るまでに9か月、全体のサイクルは約16か月だったとしている。

同社はまた、開発中に自社のAIモデルを使ったとも述べている。古いモデルはチップ設計を支援し、新しいシステムはプログラミングと最適化を助けたという。これらの主張は、意図されたフィードバックループを示している。つまり、モデルがハードウェア構築を助け、ハードウェアがモデルを支え、本番ワークロードがさらなるソフトウェアとアーキテクチャの意思決定のためのデータを提供する。

OpenAIはJalapeñoを単発のプロセッサではなく、複数世代にわたるプラットフォームとして位置づけている。このアプローチは、推論の各段階に合わせてチップ、メモリ、ネットワーク、モデルを調整する。OpenAIのCFOであるSarah Friarは、これをデータセンター、モデル、製品、デバイスを結びつけるより大きな計算戦略の一部だと説明した。

この戦略は、OpenAIが外部サプライヤーを捨てることを必ずしも意味しない。The Decoderによると、同社はJalapeñoをNvidia、AMD、AWS、Cerebras、CoreWeave、その他のインフラ提供企業との関係を補完するものと見ている。実際には、OpenAIのカスタムハードウェアの取り組みはこれらの提携と並行して進み、同時に交渉やキャパシティ計画の別の選択肢も与えている。

開発者と企業購買者への示唆

AI製品チームにとって最も重要なのは、ベンチマーク記録そのものではなく、高い稼働率での提供コスト削減の可能性だ。ワット当たりの出力が増えれば、チャット、コーディング支援、音声システム、その他大量の応答を生成する製品の経済性が改善する可能性がある。レイテンシの低下は、長文コンテキストのアプリをより応答的に感じさせることにもつながる。

アーキテクチャがprefill、通信、ローカルKV-cache配置に焦点を当てている点は、多数の同時ユーザーに大規模モデルを提供するチームにとって特に重要だ。生のアクセラレータ計算能力があっても、これらの段階がボトルネックになることがある。そのため、推論の全経路を前提に設計されたシステムは、特定の本番パターンではより高速な汎用アクセラレータを上回る可能性がある。

ただし、購入者は現時点の結果を、Jalapeñoが広範な外部導入に対応している証拠と受け取るべきではない。OpenAIはこのチップを商用プラットフォームとして一般提供するとは示しておらず、初期展開も小規模になる見込みだ。クラウドインフラ上で開発する人々は、ソフトウェア互換性、容量、価格、信頼性を含め、現在利用可能なシステムを引き続き評価する必要がある。

それでも結果は、Nvidiaのソフトウェアエコシステムにとって競争上の論点を提起する。SemiAnalysisは、この性能がNvidiaのCUDA優位性を弱める可能性があると論じたが、それは市場解釈であって、開発者行動の実証的な変化ではない。CUDA互換性、ツール群、オペレータライブラリ、サポート、サプライヤーをまたいだスケール能力は、毎秒トークン数以外の重要な購買要因であり続ける。

次に注目すべき点

最初のシグナルは、OpenAIが2026年末のJalapeño小規模展開の予測を実現できるかどうかだ。エンジニアリングサンプルの性能ではなく、本番での提供可否が、設計を大規模かつ信頼性高く製造・運用できるかを示す。

次のベンチマークでは、DeepSeek V4 ProやKimi K3のような新しいモデル、より高い同時実行レベル、そして全システムで揃えたソフトウェア最適化を含めるべきだ。電力使用、レイテンシ分布、利用率、トークン当たり総コストを評価するには、独立テストも重要になる。

企業購買者は、アクセス、価格、対応モデルアーキテクチャ、OpenAIの提供スタックとの統合に関する詳細に注目すべきだ。市場全体にとっての鍵は、Nvidia、AMD、その他のサプライヤーが自社の推論プラットフォームを改善し続ける中で、OpenAIが後続世代のチップでも同じ結果を再現できるかどうかである。

Creati.aiの視点

Jalapeñoが戦略的に重要なのは、OpenAIが推論の経済性を調達判断ではなく製品設計の問題として扱っていることを示しているからだ。報告された成果が独立テストや本番トラフィックでも維持されるなら、カスタムシリコンはOpenAIに、最も利用の多いサービスのレイテンシ、消費電力、容量をより強く制御する力を与える可能性がある。

証拠はまだ初期段階で、しかも一部はベンダー管理下にある。今日の最も強い結論は、OpenAIが有望なベンチマーク結果を伴う、信頼できる第1世代の推論設計を生み出したということであり、すでにNvidiaを押しのけたり新たなハードウェア標準を確立したりしたということではない。