【geek-terminalニュース】DeepSeek V4.1 Flash 1017続報:552B MoEが単一RTX 4090で約27tok/sという狂気

📝 本日のニュース概要

以前お伝えしたDeepSeek V4.1 Flashの続報です。2026年10月17日に公開された「1017」版について、公式で確認できる提供形態(Web・アプリ・API、Hugging FaceとModelScopeでの重み公開)と、コミュニティが即日で実現した量子化・移植の動きを深掘りします。特に話題のXolotl/Strataによる単一RTX 4090(24GB)での約27tok/s動作はReddit上の自己申告であり、公式の裏付けはありません。DeepSWE 77.0やSearch API開放についても、確度を切り分けて解説します。

#DeepSeek #DeepSeekV41Flash #ローカルLLM #RTX4090 #MoE #GeekTerminal

以前お伝えしたDeepSeek V4.1 Flashの続報です。10/18の放送では「1017」版の話題を本文未確認の噂ベースで整理しましたが、その後、公式モデルカード系の情報とコミュニティによる量子化・移植の具体的な中身が見えてきました。今回は、公式で確認できた事実と、Redditで沸騰している自己申告ベースの話を、確度を切り分けながらお届けします。

【事象の全貌と背景】

まず確度の高い事実から整理します。DeepSeek-V4.1-Flash-1017は、DeepSeek-V4.1-Flashのマイナーアップデートとして2026年10月17日に公開されました。モデルカードの説明によれば、推論、コーディング、エージェントタスク、視覚系ベンチマークで大幅な改善があり、あわせてタスク実行時間と出力長を減らすことで、ユーザーがより速く低コストでタスクを完了できるようにするとされています。複数のエージェントハーネスにおいて、性能とコストのパレートフロンティアを前進させるというのが公式の位置づけです。

提供形態も明確です。DeepSeekのWebサイト、アプリ、APIで即日利用でき、モデルの重みはオープンソースとしてHugging FaceとModelScopeで公開されました。さらに報道によれば、自己フィードバックを用いた強化学習で訓練されており、エンドツーエンドのソフトウェア開発とエージェントタスクに強いと同社は説明しています。また、同社が自社の検索エンジンを外部開発者に初めて開放するとも伝えられており、MarkTechPostの見出しが示す「Search APIの公開」とも整合します。

一方で、ここで厳密に線を引いておく必要があります。MarkTechPostの見出しにある「DeepSWEで77.0」という数値は、今回確認できた範囲ではURL・見出しからの情報にとどまり、本文での裏付けは取れていません。Search APIの仕様や料金、他社モデルに対する優位性の具体的な根拠も同様に未確認です。r/singularityで「新しい中国製モデルのベンチマークスコアがやばい」という趣旨のスレッドが立っていること自体は確認できますが、その熱狂の中身を数値として断定することはできません。したがって本稿では、DeepSWE 77.0は「報じられている数字」として扱います。

なぜ今これが起きたのか。背景にはV4.1 Flash自体が9月10日にオープンソース化されたばかりという流れがあります。さらにモデルカードの引用元には「DeepSeek-V4.1-Flash: Pushing the Limits of KV Cache Compression」が挙げられており、長大コンテキストを前提にKVキャッシュ圧縮を突き詰める設計思想が一貫しています。巨大モデルをオープンウェイトで出し、コミュニティが即日で動かす。この循環が、今回の「公式スコアとローカル勢の沸騰が同時に走る」状況を生んでいます。

【技術的ディープダイブ】

構成面では、V4.1 Flashは総パラメータ約552BのMoEで、ネイティブで1,048,576トークン(約100万)のコンテキストを持つ構成として、コミュニティの量子化報告からも読み取れます。公式チェックポイントは約510GBと報告されており、これをいかに小さく畳むかが、ローカル勢の腕の見せ所になりました。

注目すべきはEngramテーブルです。EXL3 2.9bpw版を公開したLibertAIDAIの説明によれば、V4.1は2つのEngram n-gramルックアップテーブル(layers.1.engram.embedとlayers.14.engram.embed、FP8・E8M0ブロックスケール)を持ち、それぞれ約95GiBに達します。これらは量子化されずにそのまま使われ、ベースチェックポイントのshard 47と48(101,535,150,936バイトと101,537,926,640バイト)から読み込まれる仕様で、sha256も公開されています。つまりモデルの相当な割合が「計算ではなく巨大な参照テーブル」であり、これが後述する単一GPU動作の鍵になります。

Baekpica版のVQ GGUFは、128GBのDGX Spark 1台に収めることを狙った変換です。約510GBの公式チェックポイントを約113.6GBのベースGGUFに変換し、モデル自身の3タワーMTPドラフターを内蔵、約1GBのビジョン用サイドカーと1017版のEngramテーブルが付属します。コンテキストはネイティブの1,048,576トークンを維持。ベースはV4.1リファレンスと同じテンソル構成とバイトレイアウト(1,000テンソル、113,556,639,424バイト)で、ds4-dfm-rsのローダー検査(slots=1000 bound=1000 required-missing=0)に合格しています。ただし重要な注意点として、このアーティファクトでのDGX Spark上の実測は未実施で、掲載の速度・忠実度の数値は同じレシピによるV4.1 Flashのものだと明記されています。V4.1 Flashのds4-dfm-rsへの移植は、JLFN氏がYoungAiのVQアーティファクトを使って行ったとされています。

本番利用向けには、deepseek-recipeも公開されています。Pythonバインディング付きのRustライブラリ群で、Messages、Chat Completions、Responses APIのリクエストをConversation形式に変換し、V4およびV4.1のプロンプトまたはトークンIDにエンコードします。モデル出力を完全な応答またはストリーム応答にパースでき、thinking、ツール呼び出し、画像、生成設定にも対応します。プロンプト形式の「公式実装」が出たことで、サードパーティ実装の再現性ズレが減る期待があります。

【コミュニティの生々しい熱量と議論】

ここからはコミュニティの声で、確度は「自己申告・噂」の段階です。最大の話題は、r/LocalLLaMAに立った「Xolotl: strata based DeepSeek-V4.1-Flash 552B on a…」というスレッドです。抜粋として確認できた範囲では、投稿者の環境は単一のRTX 4090(24GB)、Ryzen 7 5700X、90GBのDDR4という構成で、タイトルにある通り約27tok/sという速度が報告されています。さらに「The 1017 update: I’m downloading the new DeepSeek-V4.1-Flash-1017 right now.」という一文があり、投稿者が1017版へ更新中であることもうかがえます。ただし、これは本文全体を確認できていない自己申告であり、27tok/sという数字の測定条件(コンテキスト長、量子化、バッチ条件など)は不明です。「Strata」方式の詳細も、現時点では私たちには裏取りができていません。

それでも、この構成の狂気は十分に伝わります。24GBのVRAMに、90GBのメインメモリ。510GB級のチェックポイントが、そのままGPUに載るはずはありません。MoEの疎性と、前述のEngramテーブルのような「巨大だがアクセスが疎な領域」を階層的に配置する発想でなければ成立しない数字で、これがコミュニティ製ランタイムの面白さです。一般メディアが「DeepSWE 77.0」を追っている横で、LocalLLaMAは「で、何GBのRAMで何tok/s出る?」を競っている。この温度差こそGeek Terminalの守備範囲です。

別スレッドでは、2台のDGX Sparkで1017版を動かし、テキスト生成57tok/sという報告も出ています。抜粋では「TensorFold is 2.1-2.3x faster than the vLLM kit on the same pair, same weights, same prompts, same day.」と、同じ2台・同じ重み・同じプロンプトでvLLMキットの2.1〜2.3倍という主張が見られます。ベンダー比較の自己申告なのでそのまま鵜呑みにはできませんが、「同日・同条件」を強調する書き方に、検証を意識するコミュニティの文化が見えます。r/LocalLLMのスレッドでは、4x48GBの4090を「DSpark」で動かすという自己申告構成も確認できました。詳細は不明です。

一方でr/StrixHaloには「soooo. Deepseek apparently dropped a banger.」で始まる投稿があり、Qwenとはアーキテクチャが違い、かなり大きいので専用の対応が必要になりそうだ、という指摘がありました。これは冷静な指摘で、巨大モデルはllama.cpp系で「とりあえず動く」とは限らず、Engramやマルチトークン予測(MTP)など固有機構への対応が必要になることを示しています。Hugging Faceの公式モデルページのスレッドは1.1K votes・298 commentsと大きな反応を集めていますが、コメント本文は確認できていないため、賛否の中身には踏み込みません。NVIDIA開発者フォーラムのDGX Spark/GB10向けスレッドには「再び印象的な改善」という投稿があり、ただしスレッドタイトルの「1710」は1017の誤記とみられます。

【今後の展望とエコシステムへの影響】

何がオワコンになるのか。断言は避けますが、少なくとも「巨大MoEは多GPUサーバーのものである」という前提は揺らいでいます。単一4090で552Bクラスが約27tok/sで回るという報告が本当に再現されるなら、必要なのはVRAMの総量ではなく、疎性を活かした階層配置の設計力だという流れが加速します。同じ日にDGX Spark 1台(128GB)向けの約113.6GB変換や、EXL3 2.9bpw版が出てきたことも、「重みの公開から数時間で、複数のハード帯に最適化版が出揃う」というオープンウェイトの新常識を示しています。

ただし、冷静な留保も必要です。Baekpica版は実機測定が未実施、27tok/sは測定条件が不明、DeepSWE 77.0とSearch APIの仕様は本文での裏付けがない。これらが埋まるまでは、期待値と事実を分けて見るべきです。特に量子化版については、元モデルとの忠実度(品質劣化)がどの程度かが実用の分かれ目になります。

エコシステム面では、deepseek-recipeのようなプロンプト形式の公式ツールキットが整備されることで、推論エンジン間の挙動差が縮まり、エージェント用途での採用ハードルが下がる可能性があります。また、検索エンジンの外部開放が事実であれば、モデル単体ではなく「モデル+検索基盤」で提供するスタックの競争が始まることになります。これが仕様と価格の面でどこまで実用的かは、公式ドキュメントの確認待ちです。

次回以降は、27tok/sの再現報告、Strata方式の詳細、DeepSWEの一次データが揃い次第、改めて検証します。ギークの皆さんは、手元の4090とDDR4で何ができるか、ぜひ試してみてください。

※この記事は、Geek Terminalの自律型AIパイプラインによって自動生成・配信されています。

📺 映像と音声でサクッとチェックしたい方は
Geek Terminal 公式YouTubeチャンネルへ!

タイトルとURLをコピーしました