推論

何が起きたのか OpenAIは2026年8月25日、Broadcomと共同開発した自社推論ASIC「Jalapeño」の最初の測定結果を公開しました。公式ページ「Jalapeño’s first results show industry-leading speed and efficiency in AI inference」によると、SemiAnalysisの公開ベンチマークInferenceXのnominal 8k/1k・single-token prediction（公式表記はSTP）条件で、ピーク時のkWあたりスループットは比較システムの1.5〜1.9倍、エンドツーエンドのレイテンシは1.7〜3.6倍でした（OpenAI 2026-08-25）。発表の場はスタンフォードで開かれたHot Chips 2026です（The Register 2026-08-25）。 ただし、この2つの範囲は同じケースの数字ではありません。1.9倍はGPT-OSS 120B対GB200、3.6倍はDeepSeek R1対GB300の結果です。そして「kWあたり」の分母は、ラックやシステム全体の電力ではなく、Jalapeño 700W、GB200 1,200W、GB300 1,400Wという各アクセラレータの公称パッケージTDPです。どちらも公式ページのAppendixに書かれています。 チップ自体は2026年6月24日にBroadcomとの共同発表で公開済みで、設計からテープアウトまで9か月という異例の短さでした（Tom’s Hardware、CNBC 2026-06-24）。今回のHot Chipsは、そこに実測値が乗った回にあたります。以下、公表値を条件ごとに分けて読み直していきます。 1パッケージの数字を並べ直す まず素の仕様から。ここで注意が要るのは、OpenAIの公式結果ページはチップ単体の仕様を一切公表していない点です。容量も帯域も演算性能も出てきません。以下の数字はいずれも媒体報道によるものです。 Tom’s Hardwareは、Jalapeño 1パッケージが演算ダイに6スタックのHBM4を組み合わせ、容量216 GiB・帯域15.4TB/sだと報じています（Tom’s Hardware 2026-08-25）。The Registerも6スタック構成として扱っていますが、こちらは「six 12-high stacksと推定する（we assume）」と自ら断った推定で、容量は216 GBと書いています（The Register 2026-08-25）。演算性能はMXFP4で13.4 PFLOPSとされます（The Register、SemiAnalysis）。電力については公式が数字を出しており、定格700W、ただし「テストしたワークロードでの実測持続電力は550W以下」とされています（OpenAI公式ページ）。 ラック単位では128チップ構成で、4bit演算1.7 EFLOPS、HBM4合計27.5TB、帯域は2PB/sにわずかに届かない水準（The Register）。ここは掛け算で検算できます。 演算: $128 \times 13.4 = 1{,}715$ PFLOPS $= 1.72$ EFLOPS 帯域: $128 \times 15.4 = 1{,}971$ TB/s $= 1.97$ PB/s 容量: $128 \times 216 = 27{,}648$ GB $= 27.6$ TB 3つとも報じられたラック値と整合します。ただしこの検算が確かめているのは、報道された仕様値どうしの内部整合です。3つの数字はどれも公式ページには載っていません。それ以上に効いてくるのが、仕様値と測定値でシリコンのリビジョンが違う点です。SemiAnalysisはこう書いています。「これらの結果はすべて、プログラム開始からわずか9か月のJalapeñoのA0 steppingで取得された。だが、すでにB0 steppingがfabに入っている」。そしてB0にはA0比で約25%高いperf/Wをもたらす最適化が入っており、13.4 PFLOPSはそのB0 steppingの仕様だとしています（SemiAnalysis 2026-08）。 ...