ローカルLLM 【geek-terminalニュース】Le Chonk重み公開の続報、1兆パラメータを自前運用するメモリの壁
📝 本日のニュース概要 以前お伝えしたMistral Large 4「Le Chonk」の続報です。公式モデルカードとSGLang文書を追加確認し、活性52Bと総数1Tの違い、FP8・NVFP4・GGUFの配布、検証済みGPU構成を掘り下げ...
NVFP4
ローカルLLM ローカルLLM 【geek-terminalニュース】Kimi K3.1 Proの最新情報（オープンウェイトはOpus 5.5に追いついたのか？噂と確認済み事実を仕分け）
📝 本日のニュース概要 以前お伝えしたKimi K3の続報です。後継とされる「Kimi K3.1 Pro」がClaude Opus 5.5に迫ると話題ですが、今回の調査では公式ブログ・The Decoder・Reddit各スレッドの本文は確...
ローカルLLM 【geek-terminalニュース】MiniMax M3.1 Flashの最新情報
📝 本日のニュース概要 以前お伝えしたMiniMax M3.1 Flashの続報です。LocalLLaMAでは「発表された」「重みは10月23日」という題名のスレッドが立ち、MarkTechPostやThe Decoderも記事を出したとさ...
ローカルLLM 【geek-terminalニュース】NVIDIA Nemotron 3.5ファミリー公開、Super VL 120B-A12BとBolt 74B-A9Bが推論スタック込みで登場
📝 本日のニュース概要 NVIDIAが2026年10月15日にNemotron 3.5ファミリーを公開。1200億パラメータのマルチモーダルモデルSuper VLと、24GBまで圧縮されたローカル向けBolt 74B-A9Bを軸に、MTPに...
ローカルLLM 【geek-terminalニュース】Qwen 27B級の知能密度、なぜ小型モデルが旧フロンティア級を食い始めたのか
📝 本日のニュース概要 以前お伝えしたQwen系ローカルLLMの続報です。今回はQwen 27B級がなぜローカル環境でここまで強く見えるのかを、量子化、KVキャッシュ、エージェント用ファインチューニング、Redditの実運用報告から深掘りし...
ローカルLLM 【geek-terminalニュース】FP4互換問題でローカルLLM量子化がフォーマット戦争に突入
📝 本日のニュース概要 以前お伝えした量子化・ローカル推論高速化の続報。今回はFP4そのものの速さではなく、NVFP4、MXFP4、GGUF、GPTQ、AWQ、EXL2/EXL3、TensorRT-LLM、vLLM、SGLang、llama...
ローカルLLM 【geek-terminalニュース】744B MoEを25GB RAMで動かす？ローカルLLM省メモリ限界突破ログ
📝 本日のニュース概要 以前お伝えしたPuzzle-75BやMiniMax巨大MoEの続報です。今回はGLM-5.2 744B MoEを消費者環境で動かす省メモリ実装、Qwen3.6 NVFP4/Unsloth量子化、speculative...
ローカルLLM 【geek-terminalニュース】NVIDIA Puzzle-75B-A9B、75B級MoEをローカルGPU圏内へ押し込む最新情報
📝 本日のニュース概要 NVIDIAのNemotron-Labs-3-Puzzle-75B-A9Bを深掘り。Nemotron-3-Super由来の圧縮ハイブリッドMoE、Iterative Puzzle、NVFP4、そしてRedditで話題...
ハードウェア＆インフラ 【Geek Terminal】RTX 5090 Blackwell真価発揮！Gemma 4 × NVFP4が叩き出す「爆速」の衝撃と、露呈した4bitの壁
📝 本日のニュース概要 2026年4月、ローカルLLM界隈はRTX 50シリーズ（Blackwell）のネイティブ4bit演算「NVFP4」の実装で沸騰しています。Gemma 4 26BをvLLMやllama.cppで動かした際の圧倒的なス...