ローカルLLM 【geek-terminalニュース】NVMeで125B推論？Lean-QwenFlashが16GB VRAMで約20 tok/sを報告 📝 本日のニュース概要 以前お伝えしたQwen3.8 Flash Nextの続報です。Lean-QwenFlashの開発者が、NVMeへの直接オフロードにより、VRAM 16GB・割り当てRAM 8GBで約20 tok/sを報告。量子化、S... 2026.10.26 ローカルLLM
ローカルLLM 