ローカルLLM 【geek-terminalニュース】Qwen3.8拡散、27Bローカル実用圏と35B-A3B観測の最新情報
📝 本日のニュース概要 以前お伝えしたQwen3.8-27B FP8公開の続報です。今回は27B単体ではなく、r/LocalLLaMAでの複数スレッド、35B-A3Bらしきモデルの観測、The Decoder報道まで含め、ローカルLLM界隈...
VRAM
ローカルLLM ローカルLLM 【geek-terminalニュース】Qwen3.8-2.4T-A95Bオープンウェイト化、巨大MoEの実機攻略戦が始まる
📝 本日のニュース概要 以前お伝えしたQwen3.8-Maxと巨大MoE競争の続報。Qwen3.8-2.4T-A95Bの公開で、LocalLLaMA界隈はベンチ順位よりも量子化、VRAM、SSDオフロード、27B派生モデルへの期待で沸騰して...
ローカルLLM 【geek-terminalニュース】Meta Muse Glimmer 30BがGGUF化、RTX 3090単体実行でローカルLLM勢が沸騰
📝 本日のニュース概要 以前お伝えしたMeta Muse CodeβとMuse Spark権限境界の続報です。Metaが30BのオープンウェイトモデルMuse GlimmerをApache 2.0で公開。今回は政策論ではなく、GGUF化され...
ローカルLLM 【geek-terminalニュース】Kimi K3量子化、711GBから478GBへ押し込むローカルLLM実測沼
📝 本日のニュース概要 以前お伝えしたKimi K3ローカル実行の続報です。今回はKimi K3の重み公開そのものではなく、Unsloth IQ2-XXS量子化で711GB級から478GB級へ縮め、実機構成とベンチでどこまで現実のマシンに押...
ローカルLLM 【geek-terminalニュース】Qwen3.8追加サイズ展開でローカルLLM勢が再燃
📝 本日のニュース概要 以前お伝えしたQwen3.8-Max本体発表の続報です。今回は2.4兆パラメータ級の看板モデルではなく、ローカル勢が実際に触れる可能性のある追加サイズ展開、27B級モデル、オープンウェイト予定、MoE巨大化競争が手元...
ローカルLLM 【geek-terminalニュース】Qwen3.8-Maxと27Bローカル期待の最新情報
📝 本日のニュース概要 AlibabaのQwen3.8-Max発表と、Qwen3.8-27BをめぐるローカルLLM勢の熱狂を整理。2.4兆パラメータMoE、100万トークン文脈、オープンウェイト予定、VRAM見積もり、量子化待ちの現場感まで...
ローカルLLM 【geek-terminalニュース】Kimi K3重み公開でローカルLLM勢がVRAM戦争へ突入
📝 本日のニュース概要 以前お伝えしたKimi K3と中国オープンウェイトAI論争の続報です。今回は政策論ではなく、Kimi K3のweights公開を受けて、実際に手元で動くのか、A100/H200級GPUが何枚必要なのか、Hugging...
ローカルLLM 【geek-terminalニュース】Qwen3.8予告、VRAMとFable 5対抗でローカルLLM勢がざわつく最新情報
📝 本日のニュース概要 Alibaba Qwen3.8 Max Previewの予告とopen-weight化の話題を、Claude Fable 5、Kimi K3、VRAM要求、MoE設計、Redditの反応から深掘りします。 以前お伝え...
ローカルLLM 【geek-terminalニュース】廃GPU15枚ベンチが映す中古VRAM経済圏の最新情報
📝 本日のニュース概要 LocalLLaMAで話題の「廃GPU15枚ベンチ」を深掘り。K80、P100、V100など退役NVIDIA Tesla系GPUを現代AIワークロードで使う発想は、最新GPU礼賛とは逆方向のローカルLLM文化です。た...
ローカルLLM 【geek-terminalニュース】極限のKVキャッシュ圧縮競争！TurboQuant vs 噂のOSCARとEpiCache
📝 本日のニュース概要 ローカルLLM推論の最大ボトルネックであるVRAM消費を削り取るため、極限の圧縮手法たちがしのぎを削る血みどろの技術競争の最前線。TurboQuantの驚異的な性能と、最新のメモリ管理フレームワークTangram、そ...