OpenAI独自チップJalapeñoの最新情報

【事象の全貌と背景】

OpenAIの独自推論チップ「Jalapeño」が、ついにAIインフラ勢力図の中心に躍り出ました。ここで重要なのは、単に「OpenAIもチップを作ったらしい」という話ではありません。モデル企業がGPUを大量購入するだけの立場から、自社モデル、自社API、自社エージェント実行基盤に合わせてシリコンを設計する側へ回ったことです。OpenAIは2026年6月24日にBroadcomとの共同発表でJalapeñoを「初のカスタム推論チップ」と位置づけ、2026年8月25日にはInferenceX上での初期性能結果を公開しました。したがって、少なくともJalapeñoという名称、Broadcomとの共同開発、推論向けチップであることは公式確認済みの事実として扱えます。

背景にあるのは、生成AIサービスのボトルネックが学習だけでなく、日々の推論運用へ移っていることです。ChatGPT、API、Codex型エージェント、企業向けAI機能は、ユーザーが投げるたびに推論コスト、電力、ラック密度、HBM帯域、ネットワーク、待ち時間を消費します。モデルが賢くなるほど、1リクエスト内でツール呼び出しや長文脈処理や複数ステップ推論が増え、レイテンシの積み上がりが体験を壊します。つまり、AIビジネスの粗利は「モデル性能」だけでなく「1トークンを何ワット、何ドル、何ミリ秒で返せるか」に沈んでいく。Jalapeño騒動のギーク的な熱さはここにあります。

The DecoderやSemiAnalysisは、JalapeñoがNVIDIA Blackwell、さらにはRubin世代との比較で推論効率に優位を示したと伝えています。ただし、Rubin比較の詳細や「どの条件で勝ったのか」はベンチ条件に強く依存します。OpenAI公式が断定しているのは、InferenceXで商用システム群と比べてスループット、電力効率、レイテンシの組み合わせが良好だったという範囲です。一方、SemiAnalysis側はより踏み込み、実験室でOpenAIエンジニアとベンチを回した、A0ステッピングの結果、B0で約25%のperf/W改善見込み、B0はTSMC N3Pで単一レチクルサイズの計算ダイ、MXFP4で13.4 PFLOPs、TDP 700Wといった数値まで報じています。ここは公式情報と分析メディア報道を分けて読む必要があります。

【技術的ディープダイブ】

Jalapeñoの狙いは、GPU汎用性の王道勝負ではなく、LLM推論の実運用に寄せたASIC最適化です。学習では巨大な行列演算、同期、並列化、柔軟なカーネル開発、CUDAエコシステムが強烈な意味を持ちます。一方、推論ではユーザー体験を満たすTime Between Tokens、同時接続時のスループット、KVキャッシュ、メモリ帯域、バッチング、投機的デコード、電力あたりトークン数が支配的になります。ピークFLOPsだけ速くても、実際のリクエスト処理で詰まれば意味がありません。

OpenAI公式は、JalapeñoをInferenceXで評価したと説明しています。InferenceXは単体チップの理論性能ではなく、AIリクエストを実際にさばくプロセス全体を測るベンチとして位置づけられています。OpenAIはGPT-OSS 120B、DeepSeek R1 670B、Kimi K2.5 1Tといったモデルファミリーで、ユーザー体験をそろえた比較、トークン遅延、スループット per kilowattを重視したとしています。ここが重要です。Jalapeñoは「1枚のチップが何PFLOPsか」ではなく、「一定のレイテンシ制約の下で、何人分の推論を何kWで返せるか」を競っているのです。

SemiAnalysis報道ではさらに、A0ステッピングで既に高いperf/Wを示し、B0ステッピングでは約25%の性能電力効率改善が見込まれるとされています。また、B0は13.4 PFLOPsのMXFP4、TSMC N3P、TDP 700Wという仕様が報じられ、Rubin側の17.5 PFLOPs dense NVFP4、900〜1150W級という比較軸が提示されています。この数値だけ見るとRubinのピーク演算は強い。しかし推論ASICとしてJalapeñoはTDPを抑え、HBM帯域あたり、電力あたり、ラックあたりの実効トークン生産性を取りに行っている構図です。つまり、GPUの巨大な汎用筋肉に対し、JalapeñoはLLMサービングの神経系と循環器を絞り込んだ設計と見られます。

さらにOpenAIは、チップ設計プロセスにもAIを使ったと説明しています。公式発表では、初期設計から製造テープアウトまで9か月という高速サイクルが語られました。SemiAnalysisは設計開始や採用時期を含めて約16か月という文脈も報じています。この差は「どこを開発開始点と見るか」の違いと考えるのが妥当です。いずれにせよ、ASIC開発としては異例に速い部類で、ここにCodex的なAI支援設計、Broadcomの実装力、Celesticaのボード・ラック統合が絡む。AIが自分を動かすチップを設計する、という再帰的なスタックが現実味を帯びてきました。

【コミュニティの生々しい熱量と議論】

RedditとHacker Newsの反応は、かなり温度差があります。r/NVDA_Stockでは、まずNVIDIAの堀をめぐる議論が燃えています。あるユーザーは「supply chain is the real moat」と述べ、CUDAだけでなく供給網そのものが本丸だと指摘しました。別のユーザーは「inferencing has a completely different set of requirements than training」と書き、推論ではCUDAの堀が薄くなり、NVIDIAも複数ある解の一つになると主張しています。この視点は鋭いです。学習ではCUDAとGPUクラスタの成熟度が絶対的でも、推論ではワークロードが固定化しやすく、ASICの余地が大きいからです。

一方で懐疑派も強烈です。「first gen engineering sample always hype up to be the best chip ever」という声は、初代ASICあるあるを突いています。ラボの初期ベンチが華々しくても、量産歩留まり、ドライバ、コンパイラ、運用監視、故障率、次世代モデルへの追従で失速する例は多い。さらに「hardware is obsolete the day it ships」というHacker News側の冷笑も象徴的です。AIモデルの形が数年で変わるなら、特定推論パターンに最適化したチップは、出荷時点で古くなる危険があります。

NVIDIA強気派の反応も面白いです。「If the chip cant run on cuda, what good is it?」というコメントは、CUDA信仰の極北です。ただし、推論専用スタックではこの問いは半分だけ正しい。汎用開発者が自由にカーネルを書く世界ならCUDAは強い。しかしOpenAI自身が自社モデルを自社サービング基盤で回すなら、外部開発者のCUDA互換性より、内部のモデルロードマップ、カーネル、コンパイラ、スケジューラを垂直統合できるかが重要になります。

Hacker Newsでは、物理設計の難しさを突く声も目立ちました。「from RTL-freeze to tapeout」「good luck if your clock doesn’t work…」「Everything involving physical design tends to be a disaster」といったコメントは、ソフトウェア企業がチップ設計に入る時の地雷をよく知る人たちの反応です。RTLが書けることと、電源、クロック、熱、SI、パッケージ、HBM、ラック、量産、リワークまで通すことは別物です。Jalapeñoが本当に強いかどうかは、ベンチグラフではなく、2026年末以降とされる初期導入、さらに2027年以降のスケールで判明します。

【今後の展望とエコシステムへの影響】

もしJalapeñoのベンチ優位が実運用でも再現されるなら、終わるのは「NVIDIA」そのものではなく、「AI企業は最高級GPUを買うしかない」という単線的な前提です。学習ではNVIDIAが引き続き圧倒的に強い可能性が高い。しかし、推論の一部、特にOpenAI自身の定常的なAPI・ChatGPT・エージェント処理は、独自ASICへ逃がせる。これはNVIDIA売上の即死ではなく、AIインフラの利益配分が変わる話です。GPUベンダーのマージンだったものの一部が、モデル企業、ASIC実装パートナー、データセンター事業者、電力契約へ再配分される可能性があります。

Broadcomにとっては巨大な追い風です。カスタムAI ASICの時代では、勝者はチップを設計するモデル企業だけではありません。実装、ネットワーク、SerDes、パッケージ、ラック統合、供給網を押さえる企業が強くなります。OpenAIがJalapeñoを外販しないとしても、自社消費だけで巨大市場です。AI推論が電力産業になるなら、チップ性能は「データセンター1MWあたり何トークンを返せるか」という発電所的な尺度で語られるようになります。

ただし、過剰な結論は禁物です。Rubin世代との比較は、条件、時期、投機的デコードの有無、モデル、レイテンシ目標、量産ステッピングで大きく変わります。SemiAnalysisが報じる「RubinとJalapeñoがperf/TCOで拮抗」「Jalapeñoは投機的デコードなし」という主張が正しければ、将来の改善余地は大きい。しかしそれは現時点では分析メディアによるベンチ解釈を含む情報です。公式に確認できる範囲は、OpenAIがJalapeñoを推論向けに発表し、InferenceXで高い電力効率と低レイテンシを示した、というところまでです。

それでも今回の意味は大きい。AIの主戦場は、モデル名の派手な更新だけではなく、トークンを生む工場の設計へ移っています。GPUを何枚買えたかではなく、どのモデルを、どの精度で、どのKVキャッシュ戦略で、どのメモリ帯域で、どの電力契約の上に載せるか。Jalapeñoは、AI企業が「モデル会社」から「フルスタック計算資源会社」へ変わる象徴です。ベンチが本物なら、次のAI戦争はプロンプト欄の上ではなく、HBM、ラック、電力、ASICロードマップの奥底で燃えます。