何が起きたのか

OpenAIは2026年8月25日、Broadcomと共同開発した自社推論ASIC「Jalapeño」の最初の測定結果を公開しました。公式ページ「Jalapeño’s first results show industry-leading speed and efficiency in AI inference」によると、SemiAnalysisの公開ベンチマークInferenceXのnominal 8k/1k・single-token prediction（公式表記はSTP）条件で、ピーク時のkWあたりスループットは比較システムの1.5〜1.9倍、エンドツーエンドのレイテンシは1.7〜3.6倍でした（OpenAI 2026-08-25）。発表の場はスタンフォードで開かれたHot Chips 2026です（The Register 2026-08-25）。

ただし、この2つの範囲は同じケースの数字ではありません。1.9倍はGPT-OSS 120B対GB200、3.6倍はDeepSeek R1対GB300の結果です。そして「kWあたり」の分母は、ラックやシステム全体の電力ではなく、Jalapeño 700W、GB200 1,200W、GB300 1,400Wという各アクセラレータの公称パッケージTDPです。どちらも公式ページのAppendixに書かれています。

チップ自体は2026年6月24日にBroadcomとの共同発表で公開済みで、設計からテープアウトまで9か月という異例の短さでした（Tom’s Hardware、CNBC 2026-06-24）。今回のHot Chipsは、そこに実測値が乗った回にあたります。以下、公表値を条件ごとに分けて読み直していきます。

1パッケージの数字を並べ直す

まず素の仕様から。ここで注意が要るのは、OpenAIの公式結果ページはチップ単体の仕様を一切公表していない点です。容量も帯域も演算性能も出てきません。以下の数字はいずれも媒体報道によるものです。

Tom’s Hardwareは、Jalapeño 1パッケージが演算ダイに6スタックのHBM4を組み合わせ、容量216 GiB・帯域15.4TB/sだと報じています（Tom’s Hardware 2026-08-25）。The Registerも6スタック構成として扱っていますが、こちらは「six 12-high stacksと推定する（we assume）」と自ら断った推定で、容量は216 GBと書いています（The Register 2026-08-25）。演算性能はMXFP4で13.4 PFLOPSとされます（The Register、SemiAnalysis）。電力については公式が数字を出しており、定格700W、ただし「テストしたワークロードでの実測持続電力は550W以下」とされています（OpenAI公式ページ）。

ラック単位では128チップ構成で、4bit演算1.7 EFLOPS、HBM4合計27.5TB、帯域は2PB/sにわずかに届かない水準（The Register）。ここは掛け算で検算できます。

  • 演算: $128 \times 13.4 = 1{,}715$ PFLOPS $= 1.72$ EFLOPS
  • 帯域: $128 \times 15.4 = 1{,}971$ TB/s $= 1.97$ PB/s
  • 容量: $128 \times 216 = 27{,}648$ GB $= 27.6$ TB

3つとも報じられたラック値と整合します。ただしこの検算が確かめているのは、報道された仕様値どうしの内部整合です。3つの数字はどれも公式ページには載っていません。それ以上に効いてくるのが、仕様値と測定値でシリコンのリビジョンが違う点です。SemiAnalysisはこう書いています。「これらの結果はすべて、プログラム開始からわずか9か月のJalapeñoのA0 steppingで取得された。だが、すでにB0 steppingがfabに入っている」。そしてB0にはA0比で約25%高いperf/Wをもたらす最適化が入っており、13.4 PFLOPSはそのB0 steppingの仕様だとしています（SemiAnalysis 2026-08）。

つまり、128倍して出た1.72 EFLOPSはB0の仕様値を積み上げた数字であって、今回ベンチマークを回したA0ラックのピーク性能ではありません。仕様上のピーク性能と今回公表された測定値を、同一のシリコンの実力として並べることはできません。

容量の「216」も、十進のGBなのか2進のGiBなのかで扱いが分かれています。The Registerは216 GB、Tom’s Hardwareは216 GiBと書いています。ラック合計27.5TBという報道と突き合わせると $128 \times 216\,\mathrm{GB} = 27.6$ TBで十進側が合い、216 GiBなら約29.7TBとなって離れます。ただしそのラック合計値も同じ媒体が報じた数字であり、公式が単位を明示していない以上、表記揺れが残っているというところまでしか言えません。

その上のスケールとして、128チップのラックを16本束ねた2,048 ASICが「フルポッド」と説明されています（$128 \times 16 = 2{,}048$）。スケールアップ網はラック内のローカル600GB/sと、ポッド全体をつなぐグローバル200GB/sの2階層で、3対1の帯域配分になっているとされます（SemiAnalysis 2026-08）。

2つの範囲は、同じ条件の数字ではない

ここが本題です。公式ページのAppendixにモデル別の数値が載っています。条件はいずれもInferenceX・nominal 8k/1k・STPで、DeepSeek R1とKimi K2.5はMXFP4版です。Jalapeño側の正規化はすべて700W、比較相手はモデルによって替わります。

モデル比較相手（パッケージTDP）ピークmixed TPS/kWエンドツーエンドレイテンシ最小TBT
GPT-OSS 120BGB200（1,200W）85,448 vs 44,960（約1.9倍）1.03秒 vs 1.80秒（約1.7倍）0.69ms vs 1.87ms（約2.7倍）
DeepSeek R1 670BGB300（1,400W）19,641 vs 11,781（約1.7倍）1.65秒 vs 5.99秒（約3.6倍）1.43ms vs 5.90ms（約4.1倍）
Kimi K2.5 1TGB300（1,400W）18,195 vs 11,862（約1.5倍）1.56秒 vs 5.31秒（約3.4倍）1.44ms vs 5.48ms（約3.8倍）

出典: OpenAI 2026-08-25 のAppendix。数値の割り算は確認できます。$1.80 / 1.03 \approx 1.75$、$5.99 / 1.65 \approx 3.63$、$5.31 / 1.56 \approx 3.40$。公表レンジの「1.7〜3.6倍」は、この3つの下端と上端を拾ったものです（GPT-OSSの1.75倍を公式は1.7倍と表記しています）。

そして重要なのは、上端どうしが別のケースだという点です。

  • 「1.9倍」はGPT-OSS 120B、比較相手はGB200
  • 「3.6倍」はDeepSeek R1 670B、比較相手はGB300

どの1ケースも両方の上端を同時に出してはいません。「1.5〜1.9倍かつ1.7〜3.6倍」という並記を、ひとつのシナリオで両方が起きる話として読むと、実態より強く受け取ることになります。

並びを見ると、kWあたりの優位は1.9→1.7→1.5と下がり、レイテンシの優位は1.7→3.6／3.4と上がっています。ただしこれを「モデルが大きいほど電力効率の優位が縮む」と読むのは早すぎます。まず比較相手が途中で入れ替わっており、GPT-OSSの相手はGB200（1,200W）、残る2つはGB300（1,400W）で、正規化の分母が違います。さらに3モデルはいずれもMoEで、1トークンあたり実際に動くactive parametersはGPT-OSS 120Bが約5.1B（OpenAI）、DeepSeek R1が約37B（DeepSeek-R1 README）、Kimi K2.5が約32B（Kimi K2.5）と、総パラメータ数の並び（120B→670B→1T）とは順序が入れ替わります。総パラメータ数を横軸にした因果は、この3点からは引けません。

もう一点。GPT-OSS 120Bの比較相手のレイテンシは1.80秒ですが、DeepSeek R1とKimi K2.5では5.99秒・5.31秒です。レイテンシの倍率が大きく見えるのは、Jalapeño側が速いぶんだけでなく、比較相手側の絶対値が大きいぶんを含んでいます。ただしこの3ケースはモデルも比較相手のGPUも、おそらく分散構成も同時に変わっているので、比較相手が遅い理由をモデルサイズに帰することはできません。分子と分母のどちらがどれだけ動いたかも、この表からは分けられません。

なお公式は本文で「highly interactiveなワークロードでは2.1〜4.1倍」とも書いていますが、Appendixで確認できる最小TBTの比は2.7／4.1／3.8倍で、下端の2.1倍がどの動作点から来ているかは付表からは特定できません。

kWの分母は、ラックではなく公称パッケージTDP

「kWあたり」と言うとき、そのkWがチップの消費電力なのかシステム全体なのかで意味が変わります。今回は公式が明示しています。

To compare the systems consistently, we normalized the results using each accelerator’s published chip power rating. Jalapeño is rated at 700 watts, although its measured sustained power remained at or below 550 watts on the workloads tested.

（システムを一貫して比較するため、各アクセラレータの公表チップ電力定格を使って結果を正規化した。Jalapeñoの定格は700Wだが、テストしたワークロードでの実測持続電力は550W以下だった──OpenAI 2026-08-25）

Appendixの各図の注記も同じで、GPT-OSS 120Bは「package TDP: Jalapeño 700 W; GB200 1,200 W」、DeepSeek R1とKimi K2.5は「package TDP: Jalapeño 700 W; GB300 1,400 W」と書かれています。分母はラックでもシステム全体でもなく、アクセラレータ1個の公称TDPです。

この取り方には2つの含意があります。ひとつは、Jalapeño側が定格700Wで正規化されている点。仮にJalapeño側のスループットを実測持続の550Wで機械的に割り直せば、700W基準の値の少なくとも約1.27倍（$700 / 550 \approx 1.27$）になります。もうひとつは、比較相手側も同じく定格で正規化されている点で、GB200の1,200WやGB300の1,400Wが実ワークロードでどれだけ引かれていたかは公表されていません。したがって、実消費電力どうしで比べた倍率が公式値より大きくなるとは限りません。どちらの側についても「定格と実測の差」が捨てられている、という対称な単純化です。

ここで混同しやすいのが、SemiAnalysisの報じた約160kWという数字です。これは公式倍率の分母ではなく、別のシステム電力分析です。ASICラックが約130kW、付随するサイドカーのホストラックが供給枠で約50kW（本番時31kW）で、2ラック合計およそ161kW、電力の引き方は「GB300ラックのダブルワイド相当」だとしています（SemiAnalysis 2026-08）。SemiAnalysisは自記事の看板となるperf/W比較について「全込み（All-in）のutility MWあたりのトークンスループットを見ている」と書いていますが、これはInferenceXという枠組みの唯一の正規化方式ではなく、同社がその記事で採った指標です。OpenAIは同じスイートの結果をパッケージTDPで正規化しています。両者は別の分母であり、160kWを公式の1.5〜1.9倍の分母として当てはめることはできません。

言い換えると、OpenAI公式Appendixの数値だけから、all-in電力ベースの比較倍率を再計算することはできません。SemiAnalysisはこれとは別に、独自のシステム電力モデルを用いたall-in utility MWベースのperf/W比較を公開していますが、公式の1.5〜1.9倍とは異なる指標として扱う必要があります。

帯域で設計されたチップだ、という読み方

チップの性格は、演算と帯域の比を取ると見えてきます。ルーフラインの折れ点、つまり演算器を使い切るために必要な演算強度は、

$$ I^{*} = \frac{13.4 \times 10^{15}\ \mathrm{FLOP/s}}{15.4 \times 10^{12}\ \mathrm{B/s}} \approx 8.7 \times 10^{2}\ \mathrm{FLOP/byte} $$

約870 FLOP/byteです。LLMのdecode段は重みを読み出すコストが支配的で、バッチサイズを上げないとこの水準には届きません。4bit重み（0.5バイト/パラメータ）でバッチ $B$ のとき、演算強度はおおよそ $2B / 0.5 = 4B$ FLOP/byteですから、$4B = 870$ を満たすには $B \approx 218$ 必要という見積もりになります。216GBを15.4TB/sで一周させると $0.216 / 15.4 \approx 0.014$ 秒、つまり約14ミリ秒です。

この計算は筆者によるもので、公式発表に含まれるものではありません。分子に置いた13.4 PFLOPSはB0 steppingの仕様値で、測定に使われたA0シリコンの値ではない点にも注意が要ります。しかも、MoEのスパース性、KVキャッシュの読み書き、チップ間通信、活性値のトラフィック、カーネル効率をすべて無視した簡略モデルです。言えるのは「単純なルーフラインでは、バッチが数百に届かない領域は帯域律速になり得る」という程度で、実機の挙動を予測するものではありません。

方向としては公表された設計意図と整合します。OpenAIは「データ移動と通信遅延を最小化するようJalapeñoを設計した」と述べ、prefillは演算集約的、decodeはメモリ帯域に制約される、と両者を区別した上で、KVキャッシュを含むモデル状態をローカルに置いたまま、フェーズごとに演算・メモリ・ネットワークの組み合わせを切り替える設計だと説明しています。ただし、大きなモデルでレイテンシ差が開いていることの原因がこの設計にあるのかどうかは、公開された結果からは分離できません。比較相手がGB200からGB300に替わっていることも含めて、要因が混ざったままです。

比較相手はBlackwellであって、Rubinではない

射程の限界も公表情報の中にあります。

第一に、Jalapeñoは学習をしません。推論専用のASICであり、学習ワークロードは今回の比較の対象外です（Tom’s Hardware）。OpenAI自身も「NVIDIAをはじめとするパートナーのアクセラレータを学習・推論の双方で引き続き広く導入する」とし、Jalapeñoは「複数世代にわたるロードマップの第1世代」で、Gen 2は開発が進み、Gen 3も形になりつつあると位置づけています。

第二に、比較相手の世代です。SemiAnalysisは自らこう書いています。「Blackwellとの比較はやや不完全で不公平だと考える。Jalapeñoが実際に競合するのはRubinのようなチップだ」。実際、OpenAIが公開した測定結果にVera Rubinは含まれていません。Tom’s Hardwareも「Jalapeño wasn’t tested against Vera Rubin」と、あくまで測定対象に入っていないという限定的な書き方をしています（Tom’s Hardware 2026-08-25）。同記事は、OpenAIが2026年後半に導入することで合意した最初の1GW分をVera Rubinが担う予定だとも記していますが、この「1GW／2026年後半」という枠組みの出所は2025年9月のNVIDIA公式発表であり、そこでは10GW規模の提携自体が「letter of intent（意向表明書）」と明記されています（NVIDIA 2025-09）。その後、2026年2月時点で「契約は署名されておらず資金も動いていない」と報じられました（CNBC 2026-02-03）。

ただし、その2月報道だけで現在地を語ると実態を外します。今回のベンチマーク公開の8日前、2026年8月17日に、OpenAIはオハイオ州パイク郡のPORTS-Pike Technology Campusで約8ギガワット（gigawatts-IT）分の容量を確保する契約を結んだと発表しています。SB Energyがデータセンターを建設・所有・運営してOpenAIに20年リースする形で、サイトは「exclusively host NVIDIA AI compute infrastructure」（NVIDIAのAI計算基盤のみを設置する）とされ、NVIDIAはSB Energyに15億ドルを出資し、初期の4.25 IT-GW分の土地・電力・建屋整備に信用補完を提供します（OpenAI 2026-08-17）。10GWのLOIが最終契約に至ったかどうかとは別に、NVIDIA向けの大規模な計算基盤は動いている、というのが公開情報上の現在地です。なおSemiAnalysis自身は推定値ベースでVera Rubinとの比較も行っており、そこではperf/TCOでほぼ互角、MWあたりの出力トークンではJalapeñoが上回るとされています（SemiAnalysis 2026-08）。展開が本格化する2027年時点で、比較相手がGB200／GB300のままである保証はありません。

第三に、ベンチマークの素性です。InferenceXはSemiAnalysisが開発した公開ベンチマークで、OpenAI自身も「a public benchmark from SemiAnalysis」と紹介しています。ただし今回の数値を出したのはOpenAIです。SemiAnalysisは「数値はすべてOpenAIから提供されたものだ。ラボでInferenceXの実行は直接確認したが、InferenceXの全スイートを我々が回したわけではなく、AgentXの結果も見ていない」と明記しています。スイートは第三者製だが、測定と数値の提出はベンダー自身、という構図で、MLPerfのように第三者が結果を受け付けて審査・公開する枠組みではありません。加えてSemiAnalysisは、テストされたのが入出力8k/1kという「チューニングしやすいワークロード」で、ルータやプレフィックスキャッシュ管理といった本番特性を突くAgentXの実行はまだない、とも述べています。Techeratiはこれらを「展開前のベンダー公表ベンチマーク」（vendor-reported benchmarks ahead of deployment）と評しています（Techerati）。The Registerは、今回のテストが投機的デコードを含まないことも指摘しています。

残された不確実性

  • 比較相手側の測定条件：公表されているのは正規化に使ったパッケージTDP（GB200 1,200W／GB300 1,400W）と、InferenceX・nominal 8k/1k・STPという条件までです。比較システムの具体的な構成、ソフトウェアスタック、そして実際の消費電力は公開されていません。推論性能はハードだけでなくプラットフォーム全体で決まる、という点はThe Registerも指摘しています。
  • スケールアップ網のレーン計算：ローカル600GB/s・グローバル200GB/sという配分とレーン構成（N3EのI/Oチップレットに800G SerDesを32レーン、うち24レーンがローカル、8レーンがグローバル）は、いずれもSemiAnalysis 2026-08の記述ですが、同じ記述の中で単純計算が合いません。24レーン×800Gなら2.4TB/sとなりローカルの600GB/sに合わず、600GB/s＝4.8Tb/sから逆算すると1レーンあたり200G相当になります。1レーンあたり速度の解釈に注意が必要で、内訳を断定できません。
  • チップ仕様が公式に出ていない：216GB／15.4TB/s／13.4 PFLOPSはいずれも媒体報道の数字で、公式結果ページには載っていません。216の単位（GB／GiB）も媒体間で揺れています。
  • 量産の時期と規模：OpenAIは「年内に自社の計算基盤へJalapeñoの展開を開始する計画」としており、Hot Chipsでは2026年末に「ごく少量」から、本格展開は2027年と説明されました。BroadcomのHock Tan CEOはCNBCに対し、2027年に立ち上がり2028年前半に本格化するとの見通しを述べたと報じられています。2026年末の少量投入が、公表ベンチマークと同じ構成・同じ電力条件で回るかは、まだ分かりません。
  • ソフトウェア側のコスト：OpenAIは「新しいモデルファミリーに対応するには、今も新しいカーネルとモデル固有の最適化が必要だ」と認めた上で、CodexとGPT-Astraを使って、当初の量産計画に入っていなかったオープンウェイトモデル3つを2か月で高性能まで持っていったと述べています。またGPT-OSSの一部のattention／MoEブロックでは、AI生成の実装が人間の専門家による既存実装より1.5〜1.8倍速かったとしています。ただしこれは選ばれたブロックの話で、モデル全体の移植工数や既存スタックとの互換範囲を示す数字は公表されていません。

まとめ

Jalapeñoの公表値は、条件が付表まで開示された数字でした。InferenceXのnominal 8k/1k・STPという条件、比較相手がGB200とGB300に分かれること、そして「kWあたり」の分母が各アクセラレータの公称パッケージTDP（700W／1,200W／1,400W）であることまで、公式のAppendixに書かれています。

一方で、見出しの2つの範囲は分けて読む必要があります。kWあたり1.9倍はGPT-OSS 120B対GB200、レイテンシ3.6倍はDeepSeek R1対GB300の数字であり、同じケースで両方が同時に出るわけではありません。3モデルの並びから「大きいモデルほど電力効率の優位が縮む」と読むのも、比較相手が入れ替わり、active parametersの大小も総パラメータ数と逆転している以上は無理があります。

分母がパッケージTDPだということは、両側について「定格と実測の差」が捨てられている、という意味でもあります。Jalapeñoは定格700Wに対し実測持続550W以下と公表されていますが、比較相手の実消費は公表されていないため、実消費どうしの倍率が公式値より大きくなるとは限りません。公式Appendixの数値だけから、ホスト・ネットワーク・冷却まで含めたall-in電力ベースの倍率を再計算することもできません。SemiAnalysisは独自のシステム電力モデルでall-in utility MWベースの比較（2ラック約160kW）を公開していますが、これは公式の1.5〜1.9倍とは別の指標です。

仕様値の扱いにも一段の注意が要ります。媒体が報じた1パッケージの仕様（13.4 PFLOPS／15.4TB/s／216GB）は128倍してラック値と整合しますが、SemiAnalysisによれば13.4 PFLOPSはfab内にあるB0 steppingの仕様で、公開されたベンチマークはA0 steppingで実行されています。1.72 EFLOPSはB0仕様値の積み上げであって、測定されたA0ラックのピーク性能ではありません。

残るのは世代と素性の問題です。比較相手はBlackwell世代であり、SemiAnalysis自身が「Jalapeñoが実際に競合するのはRubinのようなチップだ」と書いています。ベンチマークのスイートは第三者製ですが、測定して数値を出したのはOpenAI自身で、対象は推論のみ。9か月でテープアウトした第1世代のASICが、公表どおりの数字を2027年の展開時にも保てるかは、次の世代の比較が出てから確かめられることになります。

主要出典

関連する過去記事