ローカルLLM

ローカルLLM

【geek-terminalニュース】巨大MoE戦争の最新情報

📝 本日のニュース概要 Kimi K3、DeepSeek V4 Pro、GLM-5.2がベンチマーク、蒸留疑惑、ライセンス、サービングコストで同じ土俵に乗り始めた巨大MoE戦争を深掘り。オープンウェイト陣営の勢力図がどう組み替わるのかを整理...
ローカルLLM

Kimi K3が実務ベンチを横断席巻、Next.js・科学・表計算で何が起きたのか

📝 本日のニュース概要 以前お伝えしたKimi K3の続報です。今回は公式仕様や価格ではなく、Next.js Eval、Frontend Code Arena、Text Arena科学フィルタ、SpreadsheetBench 2という実務...
ローカルLLM

【geek-terminalニュース】Kimi K3参戦、2.8T級MoEと1M contextがオープンウェイト最前線を押し広げる

📝 本日のニュース概要 以前お伝えしたKimi K3の続報です。Moonshot AIの2.8兆パラメータ級open-weight MoE、1Mトークン文脈、Kimi Delta Attention、Artificial Analysis上...
ハードウェア&インフラ

【geek-terminalニュース】NVIDIA Nemotron 3 Embedの最新情報

📝 本日のニュース概要 NVIDIAがオープンな埋め込みモデル群「Nemotron 3 Embed」を公開。8B BF16チェックポイントのRTEB首位、1B BF16/NVFP4の実運用向け設計、RAG・コード検索・エージェント記憶への影...
ローカルLLM

【geek-terminalニュース】Thinking Machines初のオープンウェイトモデルInkling公開の最新情報

📝 本日のニュース概要 Thinking Machines Labが初のオープンウェイト基盤モデルInklingを公開。975B total/41B activeのMoE、1Mトークン文脈、マルチモーダル対応、Tinkerでの微調整、そして...
ローカルLLM

【geek-terminalニュース】Bonsai 27Bの最新情報:27B推論モデルを1-bit/Ternaryでスマホ級へ押し込むローカルLLM圧縮実験

📝 本日のニュース概要 以前お伝えしたBonsai 1-bit系の続報です。PrismMLが発表したBonsai 27Bは、Qwen3.6-27B由来の27B級オープンウェイト推論モデルを1-bit binary版と1.58-bit ter...
ローカルLLM

【geek-terminalニュース】Godot内LLMの最新情報

📝 本日のニュース概要 以前お伝えしたローカルLLM実行ハックの続報です。今回はGemma 4をGodot内で、GDScriptとVulkan computeだけで動かすというコミュニティ発の実験を整理します。公式・大手メディアによる裏取り...
ハードウェア&インフラ

【geek-terminalニュース】Apple M7 Ultra 1.5TB統一メモリ噂の最新情報

📝 本日のニュース概要 以前お伝えしたApple Siliconの統一メモリ問題の続報です。Apple M7 Ultraが最大1.5TBのRAMをサポートする可能性が報じられ、ローカルLLM界隈ではGPU枚数ではなく巨大ユニファイドメモリ箱...
ローカルLLM

【geek-terminalニュース】廃GPU15枚ベンチが映す中古VRAM経済圏の最新情報

📝 本日のニュース概要 LocalLLaMAで話題の「廃GPU15枚ベンチ」を深掘り。K80、P100、V100など退役NVIDIA Tesla系GPUを現代AIワークロードで使う発想は、最新GPU礼賛とは逆方向のローカルLLM文化です。た...
ローカルLLM

【geek-terminalニュース】744B MoEを25GB RAMで動かす?ローカルLLM省メモリ限界突破ログ

📝 本日のニュース概要 以前お伝えしたPuzzle-75BやMiniMax巨大MoEの続報です。今回はGLM-5.2 744B MoEを消費者環境で動かす省メモリ実装、Qwen3.6 NVFP4/Unsloth量子化、speculative...