【geek-terminalニュース】NVIDIA Nemotron 3.5ファミリー公開、Super VL 120B-A12BとBolt 74B-A9Bが推論スタック込みで登場

【事象の全貌と背景】

NVIDIAは2026年10月15日、Nemotron 3.5ファミリーとして「Nemotron 3.5 Super VL」と「Nemotron 3.5 Bolt 74B」を公開しました。Super VLは総パラメータ約1200億・アクティブ約120億（120B-A12B）のオープンなマルチモーダルモデルで、企業環境での常時稼働エージェントや文書分析を想定しています。もう一方のBolt 74B-A9Bは、総74B・アクティブ9BのMoEをローカル実行向けに24GBまで圧縮した位置づけです。NVIDIA公式ブログも、Super VLを常時稼働エージェント向け、Boltをローカルシステム向けと整理しています。

なぜ今このタイミングなのか。背景にあるのは、エージェント用途の主戦場が「一発回答の賢さ」から「長時間回し続けたときの速度・コスト・安定性」へ移っていることです。ツール呼び出しを何十ステップも繰り返すエージェントでは、1トークンあたりのレイテンシとメモリ効率がそのまま運用コストになります。NVIDIAはこの課題に対し、モデル単体ではなく、量子化版・投機デコード用ヘッド・主要推論エンジンの対応までを一括で出す戦略を取りました。今回の公開で最も注目すべきは、モデルの大きさよりも、この「推論スタック込み」という出し方です。

なおNemotron 3.5としては今回が初登場で、過去のPuzzle-75B-A9B（圧縮MoE）やNemotron 3 Embedとは別系統のモデルです。公式発表では、4GBの小型版「Bolt E4B」が10月23日に公開予定とされています。これは現時点では予定情報であり、まだ公開されたわけではありません。

【技術的ディープダイブ】

公式の技術レポートによれば、Nemotron 3.5 Superは総120B・アクティブ12Bで、Nemotron 3 Superから初期化されています。同じファミリーのNemotron 3.5 Lightningは総30B・アクティブ3Bで、Nano 3 Baseから初期化されました。いずれもMoE型のハイブリッドMamba-Transformerで、推論、マルチモーダル理解、長時間のエージェント処理を想定した設計です。

アーキテクチャ面で重要なのがMulti-Token Prediction（MTP）ヘッドです。両モデルはMTPヘッドによる投機的デコードをネイティブにサポートし、このヘッドが内蔵ドラフターとして複数の未来トークンを予測、1回のフォワードパスで複数候補を検証します。従来の投機デコードは、小型の別モデルをドラフターとして用意し、語彙やトークナイザの整合を取る手間がありました。モデルに内蔵されていれば、その運用負担がほぼ消えます。検証環境はA100、H100、B200、GB200、GB300、DGX Spark、DGX Station、RTX級GPUに及び、プラットフォームごとに量子化と投機デコードを調整したと説明されています。

LightningはNGCのNIMコンテナ情報で仕様が確認できます。Mamba-2層とMoE層を交互に配置し、一部にAttention層を持つハイブリッドLatent MoEで、MTP層を備え、最大1Mトークンのコンテキスト長に対応します。対応言語には日本語も含まれ、汎用推論・チャット、エージェント、RAG、コーディング支援が用途として挙げられています。Mambaの比率が高い構成は、長コンテキストでのKVキャッシュ増大を抑えられる点で、ローカル環境と相性が良い設計です。

Bolt 74B-A9Bについては、2bit量子化と量子化対応学習（QAT）で24GBまで圧縮されたと報じられています。この24GBという数字は、24GB VRAM級のGPUや、DGX Spark（GB10）、RTX Spark搭載機といったローカル環境の射程に入ることを意味します。ただし、実際の速度や品質、24GBに収まる際のコンテキスト長の余裕については、今回の資料から断定できる数値はありません。

エコシステム対応も当日に進みました。NVIDIAの説明では、Boltはllama.cpp、vLLM、Ollama、Unsloth、LM Studioから公開時点で実行でき、HermesやOpenClawなどのエージェントからも直接利用できます。また他のNemotronモデルと同様に、学習データ、重み、レシピを含めて完全にオープンとされ、独自のファインチューニングが可能です。vLLMはSuper VLのDay 0サポートを発表しており、視覚情報の解釈・推論・ツール利用を組み合わせる長時間エージェントを用途に挙げています。llama.cppにも両モデルのサポート追加のプルリクエストが出ていると伝えられています。

【コミュニティの生々しい熱量と議論】

最初にお断りしておくと、今回収集できたコミュニティ発言には「Nemotron 3.5」への直接の言及がありません。以下は、同じ日のr/LocalLLaMAなどで交わされていたNVFP4量子化とNVIDIAハードをめぐる議論で、Nemotron 3.5そのものへの反応ではない点に注意してください。ただ、今回の公開がNVFP4版を含む以上、読者にとって無関係ではない論点です。

まずNVFP4の速度面では肯定的な声があります。7900 XTXでFlash-Nextを動かすスレでは、「NVFP4の重みはNVIDIAハードで非常に高速に動き、コーディング用途でも十分使える」という趣旨の投稿がありました。DGX Sparkのスレでも「Sparkは並列処理向けに設計されていて、nvfp4でよく動く。エージェントはAPIより遅いが、トークン生成は約2倍速い」という報告が見られます。

一方で、品質への疑念も根強く残っています。「4x 6000 Pro」のスレでは、「NVIDIA配布のNVFP4量子化は、少なくともコーディングではかなりひどいことが多い。キャリブレーションデータがおかしいのではないか」という指摘がありました。これはあくまで一ユーザーの体験談であり、NVIDIA側の検証結果とは別に、コミュニティで疑惑として語られている段階です。ローカル量子化の評価スレでは「NVFP4が77%、Flash-Next NVFP4が98%」というタスク完走率の比較も出ており、同じ量子化形式でもモデルによって結果が大きく割れることがうかがえます。

さらに、別スレでは「tok/s自慢より実タスク完走率」という論点が熱を帯びていました。r/LocalLLMの投稿者は、Qwen3.8 FN（4bit）が約150tok/sで30分で終えたWebUI統合タスクは「使い物にならなかった」一方、27B FP8は約100tok/sで60分かかったものの「概ね動いた」と報告し、「同じハードならdenseがMoEを上回る」と主張しました。これに対し「FnのQ3_Sは27B FP8にあらゆる面で勝った」という反論や、「比較対象がuncensored版で不公平だ」という指摘も上がっています。この議論は、Super VLやBoltのようなMoEを評価する際にも、そのまま当てはまる視点です。

【今後の展望とエコシステムへの影響】

今回の公開が示す最大の変化は、オープンモデルの競争軸が「重みを出す」から「推論スタックまで出す」へ移ったことです。量子化版、MTPヘッド、主要エンジンの当日対応が揃うことで、導入側が自前で量子化やドラフターを整える手間は大きく減ります。これまで個人や小規模チームが手作業で行っていた量子化ハックや投機デコードの調整が、標準装備として配られる流れが強まるでしょう。

影響を受けやすいのは、別ドラフターモデルを組み合わせる従来型の投機デコード運用や、モデルごとに自前で低ビット量子化を作るワークフローです。ただし、これらがすぐに不要になるとは言えません。NVFP4の品質をめぐる賛否が示すとおり、配布された量子化が自分の用途で通用するかは検証してみないと分からず、キャリブレーションを自前で行う価値は当面残ります。

ローカル勢にとって注目すべきは、Bolt 74B-A9Bの24GBという設計です。24GB級環境で70B級MoEが射程に入るなら、「大型モデルはクラウド、ローカルは小型」という線引きが動く可能性があります。ただ、2bit量子化がコーディングやツール利用の安定性をどこまで保つかは、実際の検証報告を待つ必要があります。今回の資料にはBolt自体のベンチマークや実測速度が含まれておらず、現時点で性能を断定することはできません。

企業向けでは、Agatonが営業通話の分析にLightningを使い、知識検索をLightningにルーティングして遅延を削減していると紹介されています。NVIDIAはNeMo Switchyardで各ステップを適切なモデルへ振り分ける構想も示しており、大型のSuper VLと軽量なLightning、ローカルのBoltを使い分ける多層構成が、今後のエージェント基盤の定番になる可能性があります。

最後に、予定情報を整理します。Bolt E4Bの公開は10月23日予定、RTX Spark向けAIプレイブックは10月16日の提供予定とされています。いずれも本記事執筆時点では確定した実績ではなく、予定として受け止めてください。まずは実際にBolt 74B-A9Bを手元で動かした報告が出そろうのを待ち、速度、品質、24GBでの実用コンテキスト長がどうなるかを見極めたいところです。