ハードウェア＆インフラ 【geek-terminalニュース】NVIDIA Nemotron 3 Embedの最新情報
📝 本日のニュース概要 NVIDIAがオープンな埋め込みモデル群「Nemotron 3 Embed」を公開。8B BF16チェックポイントのRTEB首位、1B BF16/NVFP4の実運用向け設計、RAG・コード検索・エージェント記憶への影...
Nemotron
ハードウェア＆インフラ ローカルLLM 【geek-terminalニュース】744B MoEを25GB RAMで動かす？ローカルLLM省メモリ限界突破ログ
📝 本日のニュース概要 以前お伝えしたPuzzle-75BやMiniMax巨大MoEの続報です。今回はGLM-5.2 744B MoEを消費者環境で動かす省メモリ実装、Qwen3.6 NVFP4/Unsloth量子化、speculative...
ローカルLLM 【geek-terminalニュース】NVIDIA Puzzle-75B-A9B、75B級MoEをローカルGPU圏内へ押し込む最新情報
📝 本日のニュース概要 NVIDIAのNemotron-Labs-3-Puzzle-75B-A9Bを深掘り。Nemotron-3-Super由来の圧縮ハイブリッドMoE、Iterative Puzzle、NVFP4、そしてRedditで話題...
学術研究 【衝撃】NVIDIAが放つ「Tri-mode推論」がヤバすぎる！1回の計算で6トークン並列生成、Qwen3ベースで推論の物理的限界を突破か？
📝 本日のニュース概要 以前お伝えしたTPS（Tokens Per Second）向上議論に、とんでもない続報が入ってきました。NVIDIA AIが、投機的デコーディングに頼らず「モデル単体で1フォワード6トークン」を生成する新アーキテクチ...