ローカルLLM 【geek-terminalニュース】家庭用RAMで巨大推論、Strata「開始20倍」報告の中身
📝 本日のニュース概要 DeepSeek V4.1のセッション開始を約20倍高速化したというStrata改修報告を深掘り。RX 9070 XT＋64GB RAMでの入力処理短縮と、RTX 3090 Ti＋128GB RAMでの生成約35 t...
ローカルLLM
ローカルLLM ローカルLLM 【geek-terminalニュース】Le Chonk重み公開の続報、1兆パラメータを自前運用するメモリの壁
📝 本日のニュース概要 以前お伝えしたMistral Large 4「Le Chonk」の続報です。公式モデルカードとSGLang文書を追加確認し、活性52Bと総数1Tの違い、FP8・NVFP4・GGUFの配布、検証済みGPU構成を掘り下げ...
ローカルLLM 【geek-terminalニュース】Qwen4公開観測の最新情報｜Apsara発言とカーネルPRから読む1Mコンテキストの行方
📝 本日のニュース概要 以前お伝えしたQwen3.8 Flash-Nextの続報です。r/LocalLLaMAで「Apsara Conferenceの翌週にQwen4が発表されるのではないか」「100万トークン対応では」という観測が浮上しま...
ローカルLLM 【geek-terminalニュース】Mistral Large 4「Le Chonk」重み公開の続報、評価の分かれ目を検証
📝 本日のニュース概要 以前お伝えしたMistral Large 4「Le Chonk」の続報です。今回は配布形式やメモリ要件ではなく、「コーディングは強いが総合では中国勢に届かない」という評価がなぜ議論を呼ぶのかに注目します。確認できた事...
学術研究 【geek-terminalニュース】AA指数v5は何を測る？非公開評価と「実用性」のズレ
📝 本日のニュース概要 Artificial Analysis Intelligence Index v5を巡る議論を、評価方法から深掘り。追加取得したAA公式の説明と、Reddit利用者の体感・疑惑を区別し、非公開評価の再現性、科学・コー...
ローカルLLM 【geek-terminalニュース】Ling重み公開の報告、ベースモデルで「自分流の事後学習」へ
📝 本日のニュース概要 Ling-3.1-flash-1019の重みと、追加学習向けベースモデルが公開されたとの報告。560B総パラメータ・25Bアクティブという規模の読み方、チャットモデルとの違い、READMEの落とし穴を掘り下げます。R...
学術研究 【geek-terminalニュース】DNAと会話するCarbon-X公開！148億パラメータの設計とローカル実行の注意点
📝 本日のニュース概要 DNA配列と自然言語を同じモデルで扱うCarbon-Xが公開。6-merトークナイザー、研究用途の入出力、公開範囲を掘り下げます。Redditでは学習データや英語能力の保持をめぐる濃密な質疑も。GGUFの告知と現行公...
ローカルLLM 【geek-terminalニュース】Nanbeige4.3-33B登場！Qwenとの比較、量子化品質とVRAMの現実
📝 本日のニュース概要 Nanbeige4.3-33Bの公式情報を追加確認。Qwen3.8-27Bとの開発元ベンチ比較、量子化配布者による品質測定、長文推論のKVキャッシュ容量を掘り下げます。Redditの期待と使用報告も紹介し、公式仕様・...
ローカルLLM 【geek-terminalニュース】NVMeで125B推論？Lean-QwenFlashが16GB VRAMで約20 tok/sを報告
📝 本日のニュース概要 以前お伝えしたQwen3.8 Flash Nextの続報です。Lean-QwenFlashの開発者が、NVMeへの直接オフロードにより、VRAM 16GB・割り当てRAM 8GBで約20 tok/sを報告。量子化、S...
ローカルLLM 【geek-terminalニュース】4Bで3Dシーン生成？Qwen系の個人開発モデルとGGUF公開を追う
📝 本日のニュース概要 4Bの小型モデルをコードと3Dシーン生成に特化させる個人開発が、r/LocalLLaMAに登場。開発者が紹介するQwen3.5-4B-3D-Coderの生成方式、GGUF配布、実際のコメントを掘り下げます。性能は独立...