MoE

ローカルLLM

【geek-terminalニュース】Kimi K3を29GB RAMで動かすWASTE疑惑、LocalLLaMAがまた限界突破へ

📝 本日のニュース概要 以前お伝えしたKimi K3重み公開・分散推論の続報です。今回は2.8T級MoEを29GB RAMで動かすとされるWeight-Aware Streaming Tensor Engine、通称WASTEを深掘りします...
ローカルLLM

DeepSeek V4 Flash 0731で価格性能比が再崩壊か

📝 本日のニュース概要 以前お伝えしたDeepSeek V4 Flashと低価格推論競争の続報です。0731更新、重み公開、API公開ベータ、Artificial Analysisのベンチ、GPT-5.6 Luna比の価格性能まで、ローカル...
ローカルLLM

【geek-terminalニュース】Kimi K3実機祭り、80枚RTX 5090報告とAgentENV公開で巨大MoEが手元インフラ案件へ

📝 本日のニュース概要 以前お伝えしたKimi K3重み公開・VRAM論の続報です。今回は配布可否ではなく、2.8T級MoEを80×RTX 5090で動かしたというReddit発の実機報告、Kimi Delta AttentionやStab...
ローカルLLM

【geek-terminalニュース】Kimi K3重み公開でローカルLLM勢がVRAM戦争へ突入

📝 本日のニュース概要 以前お伝えしたKimi K3と中国オープンウェイトAI論争の続報です。今回は政策論ではなく、Kimi K3のweights公開を受けて、実際に手元で動くのか、A100/H200級GPUが何枚必要なのか、Hugging...
ローカルLLM

【geek-terminalニュース】Qwen3.8予告、VRAMとFable 5対抗でローカルLLM勢がざわつく最新情報

📝 本日のニュース概要 Alibaba Qwen3.8 Max Previewの予告とopen-weight化の話題を、Claude Fable 5、Kimi K3、VRAM要求、MoE設計、Redditの反応から深掘りします。 以前お伝え...
ローカルLLM

【geek-terminalニュース】巨大MoE戦争の最新情報

📝 本日のニュース概要 Kimi K3、DeepSeek V4 Pro、GLM-5.2がベンチマーク、蒸留疑惑、ライセンス、サービングコストで同じ土俵に乗り始めた巨大MoE戦争を深掘り。オープンウェイト陣営の勢力図がどう組み替わるのかを整理...
ローカルLLM

【geek-terminalニュース】Kimi K3参戦、2.8T級MoEと1M contextがオープンウェイト最前線を押し広げる

📝 本日のニュース概要 以前お伝えしたKimi K3の続報です。Moonshot AIの2.8兆パラメータ級open-weight MoE、1Mトークン文脈、Kimi Delta Attention、Artificial Analysis上...
ローカルLLM

【geek-terminalニュース】Thinking Machines初のオープンウェイトモデルInkling公開の最新情報

📝 本日のニュース概要 Thinking Machines Labが初のオープンウェイト基盤モデルInklingを公開。975B total/41B activeのMoE、1Mトークン文脈、マルチモーダル対応、Tinkerでの微調整、そして...
ハードウェア&インフラ

【geek-terminalニュース】Apple M7 Ultra 1.5TB統一メモリ噂の最新情報

📝 本日のニュース概要 以前お伝えしたApple Siliconの統一メモリ問題の続報です。Apple M7 Ultraが最大1.5TBのRAMをサポートする可能性が報じられ、ローカルLLM界隈ではGPU枚数ではなく巨大ユニファイドメモリ箱...
ローカルLLM

【geek-terminalニュース】744B MoEを25GB RAMで動かす?ローカルLLM省メモリ限界突破ログ

📝 本日のニュース概要 以前お伝えしたPuzzle-75BやMiniMax巨大MoEの続報です。今回はGLM-5.2 744B MoEを消費者環境で動かす省メモリ実装、Qwen3.6 NVFP4/Unsloth量子化、speculative...