ローカルLLM

ローカルLLM

【geek-terminalニュース】Jev判定器がAnyJev・25行実装・論文で一気にエコシステム化

📝 本日のニュース概要 以前お伝えしたJev/OpenJevの続報です。LLMを文章生成機ではなく、型付きif文・score関数・制御チップとして扱う流れが、AnyJev、25行Python実装、Zero-Token Confidence系...
ローカルLLM

【geek-terminalニュース】Jevローカル化で“生成しない判断モデル”がオンデバイス部品になり始めた件

📝 本日のニュース概要 以前お伝えしたJev/OpenJevの続報です。今回は概念紹介ではなく、OpenJev、Laya MPS、Discern、Apple Silicon上のSystem One系ベンチマークを軸に、LLMを文章生成器では...
ローカルLLM

【geek-terminalニュース】Step 5 Preview巨大MoE騒動の最新情報

📝 本日のニュース概要 StepFunのStep 5 Previewをめぐり、600B総量・27B active・1Mコンテキストという巨大MoE設計がAI界隈で話題に。公式・大手メディアによる裏取りは提示情報内にないため、現時点では報道・...
ローカルLLM

【geek-terminalニュース】Qwen-Image-2.1、7Bオープンウェイト画像生成の最新情報

📝 本日のニュース概要 Qwen-Image-2.1が公開。7BのSingle-Stream DiT、透明画像生成、最大10枚の参照画像、局所編集、非商用研究ライセンス、そして“クローズドモデル超え”主張へのコミュニティ反応を整理します。 ...
ローカルLLM

【geek-terminalニュース】FP4互換問題でローカルLLM量子化がフォーマット戦争に突入

📝 本日のニュース概要 以前お伝えした量子化・ローカル推論高速化の続報。今回はFP4そのものの速さではなく、NVFP4、MXFP4、GGUF、GPTQ、AWQ、EXL2/EXL3、TensorRT-LLM、vLLM、SGLang、llama...
ローカルLLM

【geek-terminalニュース】Jev/OpenJev用途拡散の最新情報

📝 本日のニュース概要 以前お伝えしたJev/OpenJevの続報です。生成ではなく判定だけを返すモデルが、trusted monitor、SQL述語、ブラウザ拡張、ゲーム、Android操作評価まで横滑りし、LLMを文章屋ではなく低レイテ...
ローカルLLM

【geek-terminalニュース】Jev/OpenJev用途拡散の最新情報

📝 本日のニュース概要 以前お伝えしたJev/OpenJevの続報です。生成ではなく判定だけを返すモデルが、trusted monitor、SQL述語、ブラウザ拡張、ゲーム、Android操作評価まで横滑りし、LLMを文章屋ではなく低レイテ...
ローカルLLM

【geek-terminalニュース】DeepSeek V4.1 Flashで1M文脈とFP4 KV Cacheが来た件

📝 本日のニュース概要 DeepSeek V4.1 Flashを、単なる新モデルではなく長時間エージェントの記憶コストを変える推論ランタイム部品として深掘りします。1Mコンテキスト、FP4 KV Cache、Cross-Layer Atte...
ローカルLLM

【geek-terminalニュース】Qwen3.8-27B量子化、4-bit実用域と1-bit崩壊ラインの最新情報

📝 本日のニュース概要 以前お伝えしたQwen3.8-27B量子化実測の続報です。BF16比99%をうたうtask-aware quant、4-bit運用の実用性、1-bitでの品質崩壊ラインを、Reddit/HN/Lobste.rsの現場...
ローカルLLM

【geek-terminalニュース】CADローカルLLMの最新情報

📝 本日のニュース概要 以前お伝えした3D自動設計ハックの続報。llama.cppとFreeCADをつなぎ、ローカルLLMで3Dプリント可能な機械部品生成へ向かう個人設計自動化パイプラインを深掘りします。 以前お伝えしたRhinoMCP系3...