ローカルLLM

ローカルLLM

【geek-terminalニュース】Qwenが音声AIの“静かな背骨”になりつつある? audio.cpp発の100超モデル生態系観測

📝 本日のニュース概要 以前お伝えしたQwen Audio/Qwen3系音声モデルの続報です。今回は個別モデルの性能ではなく、audio.cpp周辺で観測された100超の音声モデル構成から、Qwen系LLMがTTS、ASR、音楽生成、spe...
ローカルLLM

【geek-terminalニュース】AIエージェントがMac向け27B推論エンジンを580tps級まで高速化した疑惑

📝 本日のニュース概要 AIエージェントがMac向け27B推論エンジンを66tpsから580tpsへ高速化したというReddit発の未検証報告を、公式に確認できるApple Silicon/Metal/MLX系の実測値、Opus 5.5以降...
ローカルLLM

【geek-terminalニュース】Qwen3.8 Flash-NextはQwen4先取りなのか、単体3090ローカル推論の夢と現実

📝 本日のニュース概要 以前お伝えしたQwen3.8 Flash-Nextの続報です。Qwen4系アーキテクチャの技術プレビュー疑惑、n-gramオフロード、MoE圧縮、そしてRTX 3090級ローカル運用のリアルな期待と限界を整理します。...
ロボティクス&エージェント

【geek-terminalニュース】Jev判定器波がSystem Oneエコシステム化、LLMは喋る装置から行動採点器へ

📝 本日のニュース概要 以前お伝えしたCLM-8B/Jev系の続報です。今回はCLM-8B単体ではなく、Ollaya、JevOut、TypeSafe AI Jev、Zero-Token Confidence、長文チャンク処理まで含めた“生成...
学術研究

【geek-terminalニュース】CLM-8B対Jevで“AI判定器市場”が立ち上がり始めた最新情報

📝 本日のニュース概要 以前お伝えしたJev/AnyJevの続報です。今回はCLM-8BというオープンなSystem Oneモデルが登場し、LLMを喋らせるのではなく、エージェントの行動を高速に採点・選択する“判定器”として使う競争が一気に...
ローカルLLM

【geek-terminalニュース】Jev判定器がAnyJev・25行実装・論文で一気にエコシステム化

📝 本日のニュース概要 以前お伝えしたJev/OpenJevの続報です。LLMを文章生成機ではなく、型付きif文・score関数・制御チップとして扱う流れが、AnyJev、25行Python実装、Zero-Token Confidence系...
ローカルLLM

【geek-terminalニュース】Jevローカル化で“生成しない判断モデル”がオンデバイス部品になり始めた件

📝 本日のニュース概要 以前お伝えしたJev/OpenJevの続報です。今回は概念紹介ではなく、OpenJev、Laya MPS、Discern、Apple Silicon上のSystem One系ベンチマークを軸に、LLMを文章生成器では...
ローカルLLM

【geek-terminalニュース】Step 5 Preview巨大MoE騒動の最新情報

📝 本日のニュース概要 StepFunのStep 5 Previewをめぐり、600B総量・27B active・1Mコンテキストという巨大MoE設計がAI界隈で話題に。公式・大手メディアによる裏取りは提示情報内にないため、現時点では報道・...
ローカルLLM

【geek-terminalニュース】FP4互換問題でローカルLLM量子化がフォーマット戦争に突入

📝 本日のニュース概要 以前お伝えした量子化・ローカル推論高速化の続報。今回はFP4そのものの速さではなく、NVFP4、MXFP4、GGUF、GPTQ、AWQ、EXL2/EXL3、TensorRT-LLM、vLLM、SGLang、llama...
ハードウェア&インフラ

【geek-terminalニュース】HBM4供給戦の最新情報:Samsung増産報道とCXMT新プラットフォーム騒動

📝 本日のニュース概要 以前お伝えしたCXMT/HBM3E観測の続報です。SamsungがHBM4/HBM4Eを含むHBM4シリーズの生産を来年2倍超に増やす計画と報じられ、AI性能競争の焦点がモデル設計だけでなくHBM供給網、ガラスキャリ...