ローカルLLM

ローカルLLM

【geek-terminalニュース】DeepSeek V4.1 Flashで1M文脈とFP4 KV Cacheが来た件

📝 本日のニュース概要 DeepSeek V4.1 Flashを、単なる新モデルではなく長時間エージェントの記憶コストを変える推論ランタイム部品として深掘りします。1Mコンテキスト、FP4 KV Cache、Cross-Layer Atte...
ローカルLLM

【geek-terminalニュース】Qwen3.8-27B量子化、4-bit実用域と1-bit崩壊ラインの最新情報

📝 本日のニュース概要 以前お伝えしたQwen3.8-27B量子化実測の続報です。BF16比99%をうたうtask-aware quant、4-bit運用の実用性、1-bitでの品質崩壊ラインを、Reddit/HN/Lobste.rsの現場...
ローカルLLM

【geek-terminalニュース】CADローカルLLMの最新情報

📝 本日のニュース概要 以前お伝えした3D自動設計ハックの続報。llama.cppとFreeCADをつなぎ、ローカルLLMで3Dプリント可能な機械部品生成へ向かう個人設計自動化パイプラインを深掘りします。 以前お伝えしたRhinoMCP系3...
ローカルLLM

【geek-terminalニュース】Qwen3.8-Flash-Next実測祭り、Mac最適化とGLM比較の最新情報

📝 本日のニュース概要 以前お伝えしたQwen3.8-Flash-Next疑惑の続報です。今回は公式ベンチではなく、LocalLLaMA周辺で共有されているMac実測、大容量RAM、N-gramオフロード、GLM-5.3-Flash比較、そ...
ローカルLLM

【geek-terminalニュース】Z.ai GLM-5.3本体がHugging Faceで公開、ローカルLLM勢のモデル選定表がまた揺れる

📝 本日のニュース概要 以前お伝えしたGLM-5.3-Flash公開の続報です。今回はZ.ai公式Hugging Faceに登場したGLM-5.3本体のオープンウェイト化を、Flashとの違い、753B規模、vLLM/SGLang/Tran...
ローカルLLM

【geek-terminalニュース】Qwen3.8-Flash-Next疑惑、125B MoEなのに6B activeというQwen4先出し級アーキテクチャの最新情報

📝 本日のニュース概要 以前お伝えしたQwen3.8-27B評価の続報です。今回は、Qwen3.8-Flash-Nextと呼ばれる125B MoE・6B active・マルチモーダル・Qwen4アーキテクチャ先行プレビュー疑惑を、公式確認済...
ローカルLLM

【geek-terminalニュース】Ox Alpha=GLM-5.3-Flash確認騒動と低単価フロンティア推論の最新情報

📝 本日のニュース概要 以前お伝えした低価格Flash戦略の続報です。OpenRouter上の謎モデルOx AlphaとZ.aiのGLM-5.3-Flashをめぐる確認・同定騒動、Hugging Face公開、320B総パラメータ・18Bア...
ローカルLLM

【geek-terminalニュース】IBM Granite 4.2、企業向けオープンウェイトLLMに推論とエージェント能力を載せる

📝 本日のニュース概要 IBM Granite 4.2をめぐる報道とコミュニティ反応を整理。Apache 2.0、ローカルLLM、agentic RL、VRAM、ベンチマーク論争まで深掘りします。 【事象の全貌と背景】IBMのGranite...
ローカルLLM

【geek-terminalニュース】Apple M6/M5 Ultra MacがローカルLLM箱として刺さる理由

📝 本日のニュース概要 以前お伝えしたApple SiliconのローカルLLM機材論の続報です。AppleがM6、M5 Ultra、新Mac Studio、新Mac miniを発表し、コミュニティではGPUカードではなく大容量ユニファイド...
ローカルLLM

【geek-terminalニュース】Qwen3.8-27B量子化実測とCode Arena上位入り疑惑、LocalLLaMAが沸騰

📝 本日のニュース概要 以前お伝えしたQwen3.8-27B評価の続報です。今回はReddit / r/LocalLLaMAで話題化した量子化比較、reasoning_effort設定、Code Arena 9位報告を、公式確認済み情報とコ...