ローカルLLM

ローカルLLM

【geek-terminalニュース】Decision 3.0の最新情報:生成しないLLMがエージェントの心臓部になる

📝 本日のニュース概要 以前お伝えしたDecision Model実装フェーズの続報です。vLLM Semantic Router系のDecision 3.0が、自由文生成ではなく選択肢・Yes/No・尺度評価に確率を返す“判断専用モデル”...
ハードウェア&インフラ

【geek-terminalニュース】100B常時スマホ構想の最新情報

📝 本日のニュース概要 Qualcomm CEO発言として拡散中の「2028年までにスマホ上で100Bモデル常時実行」構想を、メモリ容量・帯域・電力・熱設計の観点から検証。現時点では公式確認済みのロードマップではなく、コミュニティ先行の話題...
ロボティクス&エージェント

【geek-terminalニュース】文章を生成しないDecision Modelがエージェントの判断専用チップになり始めた最新情報

📝 本日のニュース概要 以前お伝えしたJev/OpenJevやStrands Decider系の続報です。Pac-Man実験、AIエージェント・ハーネス統合議論、Liquid AIのopen-weight d1公開を軸に、出力トークンなしで...
ローカルLLM

【geek-terminalニュース】Mistral Large 4 “Le Chonk”の広域反応まとめ:欧州発1兆級オープンウェイトMoEは本当に戦えるのか

📝 本日のニュース概要 以前お伝えしたMistral Large 4、通称Le Chonkの続報です。今回はReddit、MarkTechPost、Ars Technicaなどを横断し、1.05T総パラメータ、49B active、マルチモ...
ローカルLLM

【geek-terminalニュース】Qwen 27B級の知能密度、なぜ小型モデルが旧フロンティア級を食い始めたのか

📝 本日のニュース概要 以前お伝えしたQwen系ローカルLLMの続報です。今回はQwen 27B級がなぜローカル環境でここまで強く見えるのかを、量子化、KVキャッシュ、エージェント用ファインチューニング、Redditの実運用報告から深掘りし...
ローカルLLM

【geek-terminalニュース】Reflection AIの米国発オープンウェイト対抗モデル噂とDeepSeek/Qwen包囲網

📝 本日のニュース概要 以前お伝えした中国製オープンウェイト規制・調達リスクの続報です。Reflection AIがDeepSeekやQwenに対抗する米国発オープンウェイトモデルを準備しているという話題を、未確認情報として慎重に整理しつつ...
ローカルLLM

【geek-terminalニュース】中古マイニングFPGAでQwen3.5級INT4推論を狙う地下工作室ルート

📝 本日のニュース概要 以前お伝えしたMicroGPT/TALOS-V2系FPGA実装の続報です。r/LocalLLaMAでQwen3.5アーキテクチャをFPGA fabricへ実装する投稿が浮上。実機性能は未確認ながら、GPU一強のローカ...
ローカルLLM

【geek-terminalニュース】欧州発オープンウェイトMoE「Kolibri」公開、主権AIは誰の計算基盤に乗るのか

📝 本日のニュース概要 Aleph Alphaが英語・ドイツ語向けの78B級MoEモデル「Kolibri」を公開。Apache 2.0、Hugging Face配布、最大100万トークン文脈、3B級アクティブパラメータという仕様の裏にある“...
ローカルLLM

【geek-terminalニュース】決定モデル波の最新情報:llama.cpp、Cloudflare Clef、Strands Deciderがエージェントの心臓を置き換え始めた

📝 本日のニュース概要 以前お伝えしたJev/OpenJev系の続報です。生成AIを文章生成器ではなく、選択肢・Yes/No・尺度を確率付きで返す制御部品として使う流れが、llama.cpp、Cloudflare Clef、AWS Stra...
ローカルLLM

【geek-terminalニュース】中国製オープンウェイトAI規制圧とDeepSeek×Ascend報道の最新情報

📝 本日のニュース概要 以前お伝えした中国AIアクセス・調達リスクの続報。中国製オープンウェイトモデル禁止論、DeepSeekのHuawei Ascend向けツール報道、GLM/DeepSeek系モデルの研究利用、そしてLocalLLaMA...