【geek-terminalニュース】Nanbeige4.3-33B登場！Qwenとの比較、量子化品質とVRAMの現実

【事象の全貌と背景】
Nanbeige4.3-33Bは、手元のコーディングエージェントを更新する候補になるのか。提供資料では裏付け不足だったが、今回の追加確認では公式モデルカードに到達できた。33B、BF16、Apache 2.0の公開モデルで、開発側は小型エージェントへ能力を蒸留するための教師と位置付けている。小型版Nanbeige4.3-3Bは今後の構想であり、公開済みとは確認していない。[公式モデルカード](https://huggingface.co/Nanbeige/Nanbeige4.3-33B)

注目はQwen3.8-27Bとの比較だ。開発元の評価表ではTerminal-Bench 2.1が80.9対73.0、DeepSWEが65.5対42.5。一方、SWE-Bench Proは60.3対61.7でQwenが上回る。最高の思考強度、各ベンチで共通の推論設定と評価ハーネスを使用したという自己報告であり、第三者による再現結果ではない。「全面勝利」と読むには早い。ローカル勢が知りたいのは、この点差が自分のGPUに収めた後も残るかだ。[公式比較表](https://huggingface.co/Nanbeige/Nanbeige4.3-33B#2-model-performance)

【技術的ディープダイブ】
公式config.jsonはLlamaForCausalLM、52層、Attentionヘッド56、KVヘッド8、ヘッド次元128、最大524,288トークンを示す。複数のQueryヘッドでKeyとValueを共有するGQA構成だ。KVヘッドを削減していても、長文を読むほど保持する履歴は増える。[公式設定](https://huggingface.co/Nanbeige/Nanbeige4.3-33B/blob/main/config.json)

この設定から単一系列・全層でKVを保存する通常の推論を計算すると、BF16のKVキャッシュは1トークン当たり2×52×8×128×2＝212,992バイト、つまり208KiB。32,768トークンで6.5GiB、最大長では104GiBとなる。これは設定からの理論計算で、実測VRAMではない。重みの量子化とKVの量子化も別物だ。「4bitモデルだから長文も省メモリ」とは限らない。

重みだけなら33B×4bit÷8で約16.5GB。しかしこれは全重みを一律4bitにした理想値で、実ファイル容量ではない。量子化配布者AtomicChatは通常のQ4_K_Mを20.1GB、独自のAD-Q4_K_Mを21.2GBと掲載。BF16に対する次トークンのtop-1一致率は、それぞれ89.9％と92.6％、KLダイバージェンスは0.0693と0.0380だったと報告する。共通の多言語テキストによる配布者測定であり、タスク正答率や公式ベンチの維持率ではない。[量子化配布者の測定](https://huggingface.co/AtomicChat/Nanbeige4.3-33B-GGUF)

20.1GBを約18.7GiBとして重み容量の目安にすると、32KのBF16 KVを足すだけで約25.2GiB。24GiB GPUへの全搭載はこの仮定では収まらない。KVを8bitにすれば理論上は半分だが、実際には量子化の管理情報、作業領域、実装差も加わる。ファイルサイズを必要VRAMとして掲載するのは危険だ。まず短い文脈で読み込み、KV形式と文脈長を明記して使用量を測る必要がある。

【コミュニティの生々しい熱量と議論】
r/singularityの投稿タイトルは「Qwen3.8 27Bを明確に上回る」と強気だが、これは投稿者の評価である。[元投稿](https://www.reddit.com/r/singularity/comments/1xf5cg5/we_just_got_new_local_model_called_nanbeige4333b/)

一方、r/LocalLLaMAでは興奮とメモリ勘定が同居する。Dany0はモデル改造への期待を「DROOLING」と表現。hirak99は24GB環境で4bit版のレビューを待つという。rerriはRTX 5090でGGUF Q4を試し、約35Kの文脈で生成速度が65から40トークン／秒弱へ落ちたと報告している。ただし量子化ファイルや全設定が揃った比較ではなく、個人の体験談だ。ベンチの勢いを実作業で確かめたいという声こそ、このスレッドの温度をよく伝える。[議論と使用報告](https://www.reddit.com/r/LocalLLaMA/comments/1xf0kz4/nanbeigenanbeige4333b_hugging_face/)

さらに量子化作者DogukanUrkerは、低ビット化で思考終了タグが欠ける症状を調べ、層6〜12の精度を上げた混合量子化を報告する。最終版では12回の確認で思考と回答を得たというが、小規模な作者検証にとどまる。それでも「文章が少し崩れる」以外に、エージェント連携で重要な出力形式まで検証すべき理由になる。[作者の検証記録](https://huggingface.co/DogukanUrker/Nanbeige4.3-33B-GGUF)

【今後の展望とエコシステムへの影響】
現時点でQwenを「オワコン」と呼べる根拠はない。勝敗を決める次の材料は、同じメモリ上限、同じ文脈長、同じツール環境での比較だ。量子化後のコード修正成功率に加え、ツール呼び出しの解析失敗、長い履歴での速度、完了までの総時間を測りたい。top-1一致率が高くても、それだけでエージェントの成功率は保証されない。

Nanbeigeの面白さは、強い教師の重みが公開され、量子化や改造を試せる点にある。今後、小型版への蒸留が実現し、能力と運用コストを両立できれば、手元のエージェント選びはさらに変わる可能性がある。今はランキングの点差を、そのまま24GB環境の実力に換算しないこと。33B級の有力候補として期待しつつ、「何ビットで、何トークンを、何秒で処理できたか」を添えた追試が待たれる。