ローカルLLM 【geek-terminalニュース】744B MoEを25GB RAMで動かす？ローカルLLM省メモリ限界突破ログ
📝 本日のニュース概要 以前お伝えしたPuzzle-75BやMiniMax巨大MoEの続報です。今回はGLM-5.2 744B MoEを消費者環境で動かす省メモリ実装、Qwen3.6 NVFP4/Unsloth量子化、speculative...
DGX Spark
ローカルLLM ローカルLLM 【geek-terminalニュース】DFlashのllama.cpp統合報告、ローカルLLM高速化が“周辺ハック”から日常運用へ近づく続報
📝 本日のニュース概要 以前お伝えしたDFlashトレンドの続報です。RedditのLocalLLaMAで「DFlash support merged into llama.cpp」と話題になり、ローカルLLM推論のtok/s、メモリ効率、...
ローカルLLM 【geek-terminalニュース】DeepSeek DSpark投機デコードの最新情報
📝 本日のニュース概要 DeepSeek-V4向け投機的デコーディング・フレームワークDSparkを深掘り。MTP-1比60〜85%高速化という報道、論文PDF、LocalLLaMA/NVIDIAフォーラム周辺の実測議論を整理します。 以前...
ハードウェア＆インフラ 【狂気】クラウドを捨てたギークの終着点：16連Sparkクラスタ自作と分散LLMの衝撃
📝 本日のニュース概要 2026年5月2日、LocalLLaMAコミュニティを揺るがしているのは、もはや単一PCの限界突破ではありません。4/28に紹介した『継ぎ木GPU』の斜め上を行く、16ノードもの物理環境をSparkでクラスタリングす...