ローカルLLM 【geek-terminalニュース】中古マイニングFPGAでQwen3.5級INT4推論を狙う地下工作室ルート
📝 本日のニュース概要 以前お伝えしたMicroGPT/TALOS-V2系FPGA実装の続報です。r/LocalLLaMAでQwen3.5アーキテクチャをFPGA fabricへ実装する投稿が浮上。実機性能は未確認ながら、GPU一強のローカ...
LLM推論
ローカルLLM ハードウェア＆インフラ 【geek-terminalニュース】CUDA RustでGPUカーネル開発はC++職人芸から変わるのか
📝 本日のニュース概要 NVIDIAがCUDA Rustを発表。cuda-oxide SIMTとcutile-rs Tileの2系統で、Rustの所有権・借用規則をGPUカーネル開発に持ち込み、aliasingやlaunch設定の危険をコン...
ローカルLLM 【geek-terminalニュース】Kimi K3量子化、711GBから478GBへ押し込むローカルLLM実測沼
📝 本日のニュース概要 以前お伝えしたKimi K3ローカル実行の続報です。今回はKimi K3の重み公開そのものではなく、Unsloth IQ2-XXS量子化で711GB級から478GB級へ縮め、実機構成とベンチでどこまで現実のマシンに押...
ローカルLLM 【geek-terminalニュース】Godot内LLMの最新情報
📝 本日のニュース概要 以前お伝えしたローカルLLM実行ハックの続報です。今回はGemma 4をGodot内で、GDScriptとVulkan computeだけで動かすというコミュニティ発の実験を整理します。公式・大手メディアによる裏取り...
ハードウェア＆インフラ 【geek-terminalニュース】Apple M7 Ultra 1.5TB統一メモリ噂の最新情報
📝 本日のニュース概要 以前お伝えしたApple Siliconの統一メモリ問題の続報です。Apple M7 Ultraが最大1.5TBのRAMをサポートする可能性が報じられ、ローカルLLM界隈ではGPU枚数ではなく巨大ユニファイドメモリ箱...