OpenAI初の推論専用チップ「Jalapeño」実測公開——700W ASICが突き崩すNVIDIA Blackwellの推論独占とAIフルスタック経済学

2026年8月25日（現地時間）、米OpenAIは半導体大手Broadcom（ブロードコム）と共同開発を進めてきた初の内製AI推論専用カスタムASIC「Jalapeño（ハラペーニョ）」の初期実測ベンチマーク結果を公式に公開しました。

半導体分析機関SemiAnalysisが主導する独立した推論ベンチマークスイート「InferenceX」による実機測定において、Jalapeñoは消費電力をわずか700Wに抑えながら、1,400WクラスのフラッグシップであるNVIDIAの「GB200」および最新の「GB300（Blackwell Ultra）」ラックシステムと比較して、キロワットあたり最大1.9倍の処理スループットと、最大3.6倍の低遅延（エンドツーエンド・レイテンシ）を記録しました。

これまで生成AIフロンティアの最前線を走ってきたOpenAIは、モデルの巨大化とユーザー規模の急拡大に伴い、破格の計算資源コストに直面し続けてきました。特に「o1」「o3」シリーズに代表される推論時思考（Test-Time Compute）モデルの登場や、AIエージェントの長周期自律実行により、現在のAIインフラにおける支出の圧倒的大部分は「学習（Training）」から「推論（Inference）」へとシフトしています。

本稿では、OpenAIが自社シリコンの第一弾としてなぜ「推論ASIC」を選んだのか、700WのJalapeñoがどのようなアーキテクチャでNVIDIAのフラッグシップを凌駕したのか、そしてこの内製チップがもたらす「フルスタック推論経済学（Full-Stack Inference Economics）」とAI業界の地殻変動について、技術とビジネスの両面から徹底的に読み解きます。

1. 発表の背景：なぜOpenAIは「学習」ではなく「推論専用シリコン」を作ったのか

AI業界における半導体競争といえば、長らく数千億パラメータのフロンティアモデルを事前学習するための「超巨大GPUクラスタ」の構築競争を意味していました。しかし、2025年から2026年にかけて、業界のコスト構造には劇的なパラダイムシフトが起きています。

推論需要の爆発と「推論時計算量（Test-Time Compute）」の台頭

第一の要因は、OpenAIがサービスとして抱える推論ボリュームの天文学的な増大です。ChatGPTは全世界で数億人のデイリーアクティブユーザーを抱え、企業向けAPIのトラフィックは毎日数兆トークンを消費しています。

さらに決定的だったのが、思考プロセスを明示的に展開して難問を解く「推論モデル（Reasoning Models）」の本格普及です。従来のモデルがユーザーの入力に対して1回のフォワードパスで回答を出力していたのに対し、推論モデルは裏側で数千から数万トークンの「思考の連鎖（Chain-of-Thought）」を自己生成しながら答えを導きます。これにより、1回のユーザーリクエストで消費される計算量が数十倍から数百倍に跳ね上がりました。

AIエージェントが自律的にコードを書き、テストを実行し、失敗したら自己修正を繰り返すワークフローが日常化する中、データセンターの電力消費と運用コストの大半（推定85%以上）を推論が占めるようになったのです。

NVIDIA依存の限界：マージン、電力、そして供給制約

これまでOpenAIのインフラは、Microsoft Azure上の大規模なNVIDIA GPUクラスタ（H100/H200、そしてBlackwell B200/GB200）に依存してきました。しかし、NVIDIA製GPUの調達には以下の3つの深刻な構造的課題が存在していました。

1. 極めて高いハードウェアプレミアム: NVIDIAの粗利益率は70%を超えており、推論インフラをNVIDIA GPUだけでスケールさせ続けることは、OpenAIの営業利益率を恒常的に圧迫します。
2. 電力限界（Power Wall）: 最新データセンターの受電容量は限界に達しており、1ラックあたり100kW〜1MWを超える電力密度の中で、ワットあたりのトークン生成効率（Tokens per Watt）が事業継続の生命線となっています。
3. 推論に不要な回路のオーバーヘッド: 汎用GPUは、超高精度の科学計算（FP64）や極めて複雑な学習用バックプロパゲーション回路を内包しています。推論に特化すれば、それらを削ぎ落としてダイ面積と電力をすべて推論のスループットとKVキャッシュ帯域に割り振ることができます。

GoogleがTPUを世代交代させ、AmazonがTrainium/Inferentiaを、MetaがMTIAを展開する中、OpenAIもまた「自前の推論シリコンを持たなければ、モデルの知能向上を安価に世界へ届けることはできない」という結論に達したのです。

2. アーキテクチャ徹底解剖：Jalapeño（700W）は何が削ぎ落とされ、何が研ぎ澄まされたのか

Jalapeñoは、OpenAIのアルゴリズムエンジニアと、カスタムASICの設計・製造で世界屈指の実績を誇るBroadcomのチームが共同で設計しました。その最大の特徴は、「700W」という扱いやすい熱設計電力（TDP）の中で、現代の大規模LLM推論が真に求めるボトルネックをピンポイントで解消している点にあります。

+-------------------------------------------------------------------+
|               OpenAI Jalapeño 推論専用 ASIC (700W)                 |
+-------------------------------------------------------------------+
|  [ 高度なメモリ階層 ]                                             |
|   - 高帯域HBM + 大容量オンチップSRAM                               |
|   - KVキャッシュ専用ハードウェアアクセラレータ                     |
+-------------------------------------------------------------------+
|  [ 推論特化型演算コア ]                                           |
|   - 低精度行列演算ユニット (FP8, FP4, INT4)                       |
|   - 学習用冗長回路 (FP64/FP32汎用演算) の徹底排除                  |
+-------------------------------------------------------------------+
|  [ 動的MoE & 投機的デコード制御 ]                                 |
|   - MoEエキスパート間超高速ルーティングエンジン                   |
|   - 投機的ドラフト検証の並列パイプライン                           |
+-------------------------------------------------------------------+
|  [ Broadcom SerDes インターコネクト ]                             |
|   - ラック内・ラック間超高帯域スケールアウト通信                   |
+-------------------------------------------------------------------+

1. 徹底的な推論特化と低精度演算の最適化

Jalapeñoでは、学習時に必須となる複雑な勾配計算や高精度浮動小数点（FP64/FP32）の演算器が最小限に絞り込まれています。代わりに、現代の推論で主流となっているFP8、FP4、INT8/INT4の行列積和演算（GEMM）ユニットが超高密度に敷き詰められています。これにより、同じシリコン面積で圧倒的な演算密度を実現しました。

2. KVキャッシュとメモリアーキテクチャの革新

LLM推論、特に長文コンテキストやマルチターン対話における最大のボトルネックは、演算能力（FLOPS）ではなく「メモリ帯域幅」と「KVキャッシュ（Key-Value Cache）の容量・転送遅延」です。

Jalapeñoは、大容量のオンチップSRAMと最新世代の高帯域メモリ（HBM）を組み合わせた高度なメモリ階層を備えており、アテンション機構におけるKVキャッシュの参照をハードウェアレベルで最適化しています。これにより、バッチサイズを拡大してもメモリアクセスの待ち時間（Memory-bound）に陥りにくい設計となっています。

3. MoE（Mixture of Experts）と投機的デコードのハードウェア支援

近年の最先端モデル（DeepSeek-R1やGPT-4oなど）の多くは、必要なエキスパートのみを動的に呼び出すMoE構造を採用しています。Jalapeñoは、Broadcomの強みである超高速ネットワーク・SerDes技術をダイレベルで統合しており、トークンごとに異なるエキスパートへデータを即座にルーティングする処理を極小のオーバーヘッドで実行します。

また、小型モデルでトークン候補を先行生成し、大型モデルで一括検証する「投機的デコード（Speculative Decoding）」のパイプライン処理をチップ内で並列実行できる専用スケジューラも備えています。

4. 汎用性を捨てない「プログラマブルASIC」

一部の推論専用チップが特定の固定モデル（例: Llama系のみ）に特化しすぎてモデル構造の進化に追従できなくなる失敗を避けるため、Jalapeñoは十分なプログラマビリティを維持しています。後述のベンチマークが示す通り、OpenAI自社のモデルだけでなく、多様なオープンアーキテクチャを最高効率で実行できる柔軟性を確保しています。

3. 実測ベンチマーク：SemiAnalysis「InferenceX」が示した驚異的数値

今回の発表で世界中の半導体・AIコミュニティに衝撃を与えたのは、ベンチマークがOpenAI内部の独自テストではなく、半導体リサーチ機関SemiAnalysisの独立した標準推論テストスイート「InferenceX」を用いて測定された点です。

テストは、OpenAIのラボにおいてSemiAnalysisのエンジニア立ち会いのもと、実際の運用環境を模したクラスタ構成で実施されました。

測定対象モデルと評価環境

ベンチマークでは、現在のAI業界を代表する以下の3つのオープンウェイトモデルが使用されました。

1. GPT-OSS 120B: 高密度（Dense）な大規模基幹モデル
2. DeepSeek-R1 671B: 6710億パラメータを誇る超巨大MoE推論モデル
3. Kimi K2.5 1T: 1兆パラメータ級の次世代マルチモーダルMoEモデル

比較対象として、現在データセンター推論の最高峰とされるNVIDIAの「GB200」および最新の「GB300（Blackwell Ultra）」ラックシステムが同一条件で計測されました。

主要ベンチマーク比較表

【電力効率（スループット / kW）の相対比較】
Jalapeño (700W)       : [███████████████████████████████████████] 1.9x
NVIDIA GB300 (1400W)  : [███████████████████████] 1.2x
NVIDIA GB200 (1200W)  : [████████████████████] 1.0x (Baseline)

【エンドツーエンド遅延の短縮率（低ければ低いほど高速）】
Jalapeño (700W)       : [██████] 0.28x〜0.58x (最大3.6倍高速)
NVIDIA GB300 (1400W)  : [████████████████] 0.80x
NVIDIA GB200 (1200W)  : [████████████████████] 1.0x (Baseline)

ベンチマーク結果から見えた3つの事実

1. 半分の電力で1.9倍の仕事量をこなす圧倒的な電力性能: Jalapeñoは700WというGB300の約半分の電力枠でありながら、ピークスループットにおいて電力あたり1.5倍から1.9倍のトークンを生成しました。これは、同じ電力容量のデータセンターであれば、Jalapeñoを導入することで従来の約2倍の推論トラフィックを収容できることを意味します。
2. 高負荷時でもレイテンシが跳ね上がらない「低遅延耐性」: 従来のGPUでは、電力効率を上げるためにリクエストを大量に束ねる（バッチサイズを大きくする）と、1ユーザーあたりの応答遅延（Time to First Token: TTFT および Time Per Output Token: TPOT）が急激に悪化していました。Jalapeñoは、高スループットを維持したまま、エンドツーエンドの遅延を1.7倍から3.6倍も削減することに成功しています。
3. 超巨大MoEモデル（DeepSeek-R1 / Kimi K2.5）での圧倒的な強み: 数百億〜数千億パラメータのアクティブエキスパートが頻繁に切り替わるMoEアーキテクチャにおいて、Broadcomのネットワーク直結型インターコネクトが威力を発揮し、通信ボトルネックによるストールが劇的に抑制されました。

4. 「推論モード」の再定義とフルスタック推論経済学

Jalapeñoの登場は、単にハードウェアの数字が向上したという話にとどまりません。OpenAIのAPIサービスやChatGPTの「提供モデルと価格破壊」に直結する構造改革をもたらします。

推論モードのコスト階層シフト

OpenAIはブリーフィングの中で、Jalapeñoのインフラ投入によって推論モードの経済性が次のように一段階シフトすると説明しています。

• 超高速モード（Ultra-Fast Mode）の低コスト化: これまで応答速度を極限まで高めた低遅延モードは、GPUを専有するため高価なプレミアム料金が必要でした。Jalapeñoの低遅延特性により、従来の「標準高速モード」並みのコストで超高速推論が提供可能になります。
• 高速モード（Fast Mode）のバッチ価格化: リアルタイム対話を行う標準モードが、従来の「オフライン・バッチ処理モード（深夜などに非同期実行する安価なモード）」と同等のコスト水準まで引き下げられます。

【推論モードのコスト構造変化】
[ 従来 (NVIDIA GPU基盤) ]
・超高速モード  : [$$$$$] (極めて高価・GPU専有)
・高速モード    : [$$$]   (標準価格)
・バッチモード  : [$]     (安価・非同期処理)
         ↓
[ Jalapeño 導入後 ]
・超高速モード  : [$$$]   ← 従来の「高速モード」並みのコストへ！
・高速モード    : [$]     ← 従来の「バッチモード」並みのコストへ！
・バッチモード  : [¢]     ← 限界費用に迫る超低価格へ！

垂直統合がもたらす「フルスタック推論経済学」

OpenAIは、モデルアルゴリズム（oシリーズ、GPTシリーズ）、推論ランタイム（vLLMや独自の推論カーネル）、通信スタック、そして物理シリコン（Jalapeño）までの全レイヤーを自前でコントロールできる体制を整えました。

この垂直統合により、「新しいアルゴリズムの工夫（例: アテンションの新しいスパース化手法）」を即座にシリコンのファームウェアや次世代設計に反映させることが可能になります。NVIDIAのようなサードパーティのハードウェアロードマップに制約されることなく、アルゴリズムとシリコンを同時に最適化する「Co-Design（協調設計）」のサイクルが完成したのです。

導入ロードマップ

• 2026年後半（年内）: OpenAI内部のファーストパーティデータセンターへJalapeñoの初期ロットを配備開始。社内の実験的クラスタおよび高負荷な内部ワークロードへ投入。
• 2027年: 大規模量産クラスタの稼働開始。ChatGPTおよびOpenAI APIの商用トラフィックへ本格展開し、外部ユーザー向けの提供コスト削減に反映される見込みです。

5. AI半導体業界の地殻変動：NVIDIA一強体制への影響とハイパースケーラーの構図

Jalapeñoの実測公開は、AI半導体市場のパワーバランスにどのような影響を与えるのでしょうか。

1. NVIDIA「推論市場」への実質的インパクト

NVIDIAのAI市場における独占は盤石に見えますが、その強みの多くは「CUDAエコシステム」と「超巨大モデルの事前学習クラスタ（Hopper/Blackwell）」にあります。

しかし、推論ワークロードにおいては、モデルの重みと計算グラフが固定されており、TritonやTensorRT-LLM、オープンな推論ランタイムの普及によって、CUDAへのロックインは学習時ほど強固ではありません。

OpenAIは今後もフロンティアモデルの学習にはNVIDIA製GPUを大量に購入し続けると見られますが、全計算資源の大部分を占める推論インフラにおいて自社ASICへの置き換えが進めば、NVIDIAにとって最大の優良顧客からの「推論関連売上の流出」は避けられません。

2. Broadcomの勝利とカスタムASIC市場の急成長

今回の発表のもう一人の主役はBroadcomです。BroadcomはこれまでGoogleのTPUを長年支えてきた立役者ですが、今回OpenAIというAI界最大のアイコンとの協業を成功させたことで、カスタムシリコン（XPUs/ASIC）市場における絶対的なポジションを固めました。大手テック企業が自社製チップを作る際、Broadcomは不可欠なプラットフォームとしての地位を築きつつあります。

3. ハイパースケーラー各社の自社シリコン競争との比較

各社が自社シリコンの配備を急ぐ中、OpenAIのJalapeñoは「純粋なAIフロンティア研究者が、最先端モデルの推論特性を極限まで突き詰めて設計した」という点で、他社の汎用クラウド向けASICとは一線を画す研ぎ澄まされた性能を示しています。

6. よくある質問

JalapeñoはOpenAIの独自モデル専用で、オープンソースモデルは動かないのですか？

いいえ、オープンソースモデルも極めて高速に動作します。今回のSemiAnalysisによる実測テストでも、DeepSeek-R1 671B や Kimi K2.5 1T、GPT-OSS 120B といったサードパーティおよびオープンウェイトモデルを用いてベンチマークが実施されており、Jalapeñoが特定の独自モデルに依存しない汎用的なLLM/MoE推論プログラマビリティを備えていることが実証されています。

NVIDIAのGPUは今後OpenAIで使われなくなるのですか？

使われなくなるわけではありません。OpenAIは今後も次世代フロンティアモデルの事前学習（Pre-training）や大規模な研究開発において、NVIDIAのフラッグシップGPU（Blackwell Ultraや次世代Vera Rubinなど）を主要な計算基盤として活用し続ける方針です。Jalapeñoは主に、莫大なリクエストを24時間さばき続ける「本番サービスの推論トラフィック」を効率化するために使い分けられます。

一般の開発者や企業がJalapeñoチップを単体で購入することはできますか？

チップ単体での外販は予定されていません。JalapeñoはOpenAIの自社データセンターおよび提携インフラに組み込まれ、ChatGPTの各種サービスやOpenAI API（推論エンドポイント）を通じて、より高速かつ安価なトークン生成能力として間接的に利用者に還元されます。

なぜOpenAIは自社単独ではなくBroadcomと共同開発したのですか？

先端ASICの開発には、チップの物理設計、パッケージング、高速SerDes（シリアル通信）、PCIe/Ethernetインターコネクト、ファウンドリ（TSMC）との製造調整など、膨大な半導体エンジニアリングの専門知識が必要です。OpenAIがモデル構造や推論カーネルの論理設計に集中し、Broadcomが実績あるシリコンIPと製造プラットフォームを提供することで、最短期間かつ高歩留まりで最高性能のシリコンを完成させることができたためです。

7. まとめ：シリコンを手にしたフロンティアラボが描く次世代AIの地平

OpenAIが発表した推論ASIC「Jalapeño」は、単なる1つの半導体の成功にとどまらず、AI産業の進化が「モデル単体の競争」から「アルゴリズムからシリコンまでを包含する総合力（フルスタック・エンジニアリング）の競争」へと不可逆的に突入したことを告げています。

700Wという現実的な電力枠でNVIDIAフラッグシップの1.9倍のスループットと3.6倍の低遅延を叩き出した事実は、これまでAIサービスの普及を阻んできた「推論コストの壁」を大きく押し広げます。

思考を深めるReasoningモデルが瞬時に回答を返し、自律型AIエージェントが何万ステップものタスクを安価に並列実行できる未来は、アルゴリズムの進化と専用シリコンの融合によって現実のものとなりつつあります。2026年後半の初期導入、そして2027年の本格稼働を経て、私たちが手にするAIの知能とスピードがどのように加速していくのか、その展開から目が離せません。

参考ソース

• Tom's Hardware: OpenAI’s 700W Jalapeño ASIC outpaces 1,400W Nvidia flagship GPU — claims up to 1.9x throughput per kilowatt and 3.6x lower latency, co-developed with Broadcom (2026-08-25)
• SemiAnalysis: OpenAI Jalapeño: Better Than Nvidia Blackwell (2026-08-25)
• Impress Watch: OpenAI、自社チップ「ハラペーニョ」の性能を公表 電力効率やレイテンシ改善 (2026-08-26)
• GIGAZINE: OpenAIがカスタム推論チップ「Jalapeño」のベンチマーク結果を公開、NVIDIA Blackwell超えの電力効率 (2026-08-26)
• TechCrunch: OpenAI’s Jalapeño chip is built for fast inference at scale, benchmarks show (2026-08-25)

関連記事

• 1ラック1MW時代が迫るAIデータセンター：800V給電、Si/SiC/GaNパワー半導体の三位一体共存、そして液冷への物理限界突破
• CXLメモリプーリング入門——サーバーのメモリを「共有プール」にする技術は、AI時代のデータセンターをどう変えるのか
• OpenAI、初の自社AIチップ「Jalapeño」発表──9カ月で量産へ、NVIDIA一強時代に走った亀裂