ローカルLLM

ローカルLLM

【geek-terminalニュース】Mistral Large 4 “Le Chonk”の広域反応まとめ:欧州発1兆級オープンウェイトMoEは本当に戦えるのか

📝 本日のニュース概要 以前お伝えしたMistral Large 4、通称Le Chonkの続報です。今回はReddit、MarkTechPost、Ars Technicaなどを横断し、1.05T総パラメータ、49B active、マルチモ...
ローカルLLM

【geek-terminalニュース】Qwen 27B級の知能密度、なぜ小型モデルが旧フロンティア級を食い始めたのか

📝 本日のニュース概要 以前お伝えしたQwen系ローカルLLMの続報です。今回はQwen 27B級がなぜローカル環境でここまで強く見えるのかを、量子化、KVキャッシュ、エージェント用ファインチューニング、Redditの実運用報告から深掘りし...
ローカルLLM

【geek-terminalニュース】Reflection AIの米国発オープンウェイト対抗モデル噂とDeepSeek/Qwen包囲網

📝 本日のニュース概要 以前お伝えした中国製オープンウェイト規制・調達リスクの続報です。Reflection AIがDeepSeekやQwenに対抗する米国発オープンウェイトモデルを準備しているという話題を、未確認情報として慎重に整理しつつ...
ローカルLLM

【geek-terminalニュース】中古マイニングFPGAでQwen3.5級INT4推論を狙う地下工作室ルート

📝 本日のニュース概要 以前お伝えしたMicroGPT/TALOS-V2系FPGA実装の続報です。r/LocalLLaMAでQwen3.5アーキテクチャをFPGA fabricへ実装する投稿が浮上。実機性能は未確認ながら、GPU一強のローカ...
ローカルLLM

【geek-terminalニュース】欧州発オープンウェイトMoE「Kolibri」公開、主権AIは誰の計算基盤に乗るのか

📝 本日のニュース概要 Aleph Alphaが英語・ドイツ語向けの78B級MoEモデル「Kolibri」を公開。Apache 2.0、Hugging Face配布、最大100万トークン文脈、3B級アクティブパラメータという仕様の裏にある“...
ローカルLLM

【geek-terminalニュース】決定モデル波の最新情報:llama.cpp、Cloudflare Clef、Strands Deciderがエージェントの心臓を置き換え始めた

📝 本日のニュース概要 以前お伝えしたJev/OpenJev系の続報です。生成AIを文章生成器ではなく、選択肢・Yes/No・尺度を確率付きで返す制御部品として使う流れが、llama.cpp、Cloudflare Clef、AWS Stra...
ローカルLLM

【geek-terminalニュース】中国製オープンウェイトAI規制圧とDeepSeek×Ascend報道の最新情報

📝 本日のニュース概要 以前お伝えした中国AIアクセス・調達リスクの続報。中国製オープンウェイトモデル禁止論、DeepSeekのHuawei Ascend向けツール報道、GLM/DeepSeek系モデルの研究利用、そしてLocalLLaMA...
ローカルLLM

【geek-terminalニュース】Qwenが音声AIの“静かな背骨”になりつつある? audio.cpp発の100超モデル生態系観測

📝 本日のニュース概要 以前お伝えしたQwen Audio/Qwen3系音声モデルの続報です。今回は個別モデルの性能ではなく、audio.cpp周辺で観測された100超の音声モデル構成から、Qwen系LLMがTTS、ASR、音楽生成、spe...
ローカルLLM

【geek-terminalニュース】AIエージェントがMac向け27B推論エンジンを580tps級まで高速化した疑惑

📝 本日のニュース概要 AIエージェントがMac向け27B推論エンジンを66tpsから580tpsへ高速化したというReddit発の未検証報告を、公式に確認できるApple Silicon/Metal/MLX系の実測値、Opus 5.5以降...
ローカルLLM

【geek-terminalニュース】Qwen3.8 Flash-NextはQwen4先取りなのか、単体3090ローカル推論の夢と現実

📝 本日のニュース概要 以前お伝えしたQwen3.8 Flash-Nextの続報です。Qwen4系アーキテクチャの技術プレビュー疑惑、n-gramオフロード、MoE圧縮、そしてRTX 3090級ローカル運用のリアルな期待と限界を整理します。...