ローカルLLM 【geek-terminalニュース】家庭用RAMで巨大推論、Strata「開始20倍」報告の中身
📝 本日のニュース概要 DeepSeek V4.1のセッション開始を約20倍高速化したというStrata改修報告を深掘り。RX 9070 XT＋64GB RAMでの入力処理短縮と、RTX 3090 Ti＋128GB RAMでの生成約35 t...
ローカルLLM
ローカルLLM ローカルLLM 【geek-terminalニュース】Le Chonk重み公開の続報、1兆パラメータを自前運用するメモリの壁
📝 本日のニュース概要 以前お伝えしたMistral Large 4「Le Chonk」の続報です。公式モデルカードとSGLang文書を追加確認し、活性52Bと総数1Tの違い、FP8・NVFP4・GGUFの配布、検証済みGPU構成を掘り下げ...
ローカルLLM 【geek-terminalニュース】Qwen4公開観測の最新情報｜Apsara発言とカーネルPRから読む1Mコンテキストの行方
📝 本日のニュース概要 以前お伝えしたQwen3.8 Flash-Nextの続報です。r/LocalLLaMAで「Apsara Conferenceの翌週にQwen4が発表されるのではないか」「100万トークン対応では」という観測が浮上しま...
ローカルLLM 【geek-terminalニュース】Mistral Large 4「Le Chonk」重み公開の続報、評価の分かれ目を検証
📝 本日のニュース概要 以前お伝えしたMistral Large 4「Le Chonk」の続報です。今回は配布形式やメモリ要件ではなく、「コーディングは強いが総合では中国勢に届かない」という評価がなぜ議論を呼ぶのかに注目します。確認できた事...
ローカルLLM 【geek-terminalニュース】Ling重み公開の報告、ベースモデルで「自分流の事後学習」へ
📝 本日のニュース概要 Ling-3.1-flash-1019の重みと、追加学習向けベースモデルが公開されたとの報告。560B総パラメータ・25Bアクティブという規模の読み方、チャットモデルとの違い、READMEの落とし穴を掘り下げます。R...
ローカルLLM 【geek-terminalニュース】Nanbeige4.3-33B登場！Qwenとの比較、量子化品質とVRAMの現実
📝 本日のニュース概要 Nanbeige4.3-33Bの公式情報を追加確認。Qwen3.8-27Bとの開発元ベンチ比較、量子化配布者による品質測定、長文推論のKVキャッシュ容量を掘り下げます。Redditの期待と使用報告も紹介し、公式仕様・...
ローカルLLM 【geek-terminalニュース】NVMeで125B推論？Lean-QwenFlashが16GB VRAMで約20 tok/sを報告
📝 本日のニュース概要 以前お伝えしたQwen3.8 Flash Nextの続報です。Lean-QwenFlashの開発者が、NVMeへの直接オフロードにより、VRAM 16GB・割り当てRAM 8GBで約20 tok/sを報告。量子化、S...
ローカルLLM 【geek-terminalニュース】4Bで3Dシーン生成？Qwen系の個人開発モデルとGGUF公開を追う
📝 本日のニュース概要 4Bの小型モデルをコードと3Dシーン生成に特化させる個人開発が、r/LocalLLaMAに登場。開発者が紹介するQwen3.5-4B-3D-Coderの生成方式、GGUF配布、実際のコメントを掘り下げます。性能は独立...
ローカルLLM 【geek-terminalニュース】Kimi K3.1 Pro、指数4位でOpus 5.5の背後に。サイバーデータ除去とステマ疑惑の最新情報
📝 本日のニュース概要 以前お伝えしたKimi K3の続報です。Moonshot AIの新モデル「Kimi K3.1 Pro」がArtificial Analysis Intelligence Indexで55点・4位に入り、Claude ...
ローカルLLM 【geek-terminalニュース】Kimi K3.1 Proの最新情報（オープンウェイトはOpus 5.5に追いついたのか？噂と確認済み事実を仕分け）
📝 本日のニュース概要 以前お伝えしたKimi K3の続報です。後継とされる「Kimi K3.1 Pro」がClaude Opus 5.5に迫ると話題ですが、今回の調査では公式ブログ・The Decoder・Reddit各スレッドの本文は確...