【geek-terminalニュース】Eagle-4投機デコードの最新情報

【事象の全貌と背景】

以前お伝えしたDFlash(6/29)、DSpark(7/4)、そしてQwen3.8 Flash-Next疑惑(9/28)の続報です。ローカルLLM界隈の速度競争は、モデル本体の大きさから「ドラフターをどう作るか」という投機デコードの戦場へ移ってきました。そこに現れたのがEagle-4です。r/LocalLLaMAには「Eagle-4 released, faster than DFlash2 / DSpark」という題名のスレッドが立ち、別のスレッドでは「Ok fine, Qwen 3.8 Flash Next is nice」と、Flash Nextを認める声も上がっています。

まず確認できた事実です。Hugging FaceのEAGLE-Corp組織に「Qwen3.8-27B-EAGLE4」というモデルカードが存在します。EAGLE-4はExtrapolation Algorithm for Greater Language-model Efficiencyの略で、推論を高速化するEAGLEファミリーの最新世代と説明されています。副題は「One Flexible Drafter for All Batch Sizes and Hardware」です。バッチサイズ、ハードウェア、ワークロードに応じて投機戦略を動的に適応させる単一のドラフターを掲げ、検証を通じてターゲットモデルの出力分布を維持することが目的だとされています。

一方で、題名にある「DFlash2やDSparkより速い」という主張は、今回の公式系ソースでは速度比もベンチマーク数値も確認できていません。今回の1次ソース検索ではRedditスレッド本文そのものも取得できず、題名から読み取れる範囲に限られます。ここから先の速度の話は、事実ではなく「そう主張されている」という前提で読んでください。

【技術的ディープダイブ】

投機デコードは、軽量なドラフターが複数の将来トークンを提案し、大きなターゲットモデルが1回のフォワードパスで並列に検証する仕組みです。検証を通ったトークンだけが採用されるので、理論上は出力分布が変わりません。公開されているEAGLE-4のチェックポイントはQwen3.8-27B向けのドラフト部分のみです。単体の生成モデルではなく、互換性のあるEAGLE-4実装とターゲットモデルを組み合わせて使います。取得時点でのいいねは2、組織のフォロワーは24で、まだ公開直後の小さな動きです。

各手法の違いは、論文「DLite」の整理が分かりやすいです。ドラフターの学習はターゲットからの知識蒸留とみなせます。EAGLEはソフトターゲットのクロスエントロピー、つまり順方向KLの最小化と等価な分布レベルの蒸留を行います。DFlashは主にトークンレベルのクロスエントロピーを使います。DSparkはそこに全変動(TV)距離を加え、ドラフトとターゲットの分布の重なりを改善します。DFlashはブロック拡散ドラフターで、1回のフォワードパスでドラフトブロック全体を生成できるのが特徴です。ただしバニラのDFlashは1ラウンドで単一のドラフト軌跡しか検証できません。

投機デコードの利得は、自己回帰的なドラフト生成コストで頭打ちになります。ドラフトを増やせば受理率は上がりますが、レイテンシも増えます。Medusa、Hydra、EAGLEなどの先行手法はこのコストを部分的に減らしましたが、受理率の低下やスケーリング制限という代償がありました。EAGLE-4の「全バッチサイズ・全ハードウェアに一つのドラフターで対応」という売りは、この泣き所に正面から挑む設計思想だと言えます。また同論文は、エージェント型ワークロードでは受理長が落ち、性能が大きく(約80%と記載)低下すると指摘しています。ただし抜粋は断片的で、80%の厳密な条件は確認できません。

【コミュニティの生々しい熱量と議論】

今回取得できたコミュニティ側のテキストに、Eagle-4への言及は一切ありませんでした。代わりに、r/LocalLLMの「State of local inference for Qwen3.8-27B and Flash-Next (Oct 2026)」という総括投稿から、投機デコード全般の空気を拾います。投稿者はcapy-flashの作者であることを自ら開示しており、その点を踏まえて読む必要があります。

投稿の主張は次のとおりです。MTPで1.3〜1.7倍、27BでDFlash2やDSparkのドラフターを使うと2〜3倍で、巷の「400+ tok/s」見出しの多くはここから来ています。数値例として、1× RTX 5090のSparkInfer(DSpark)がコードで420 tok/s、平均265 tok/s(いずれもgreedy)です。2× RTX 5070 Tiのcapy-flash(TP2, DFlash2)は374 tok/s、1× 5090のllama.cpp(DFlash2)は205 tok/sとされています。ただし投稿自身が「見出しの数字の多くはgreedyでコード偏重、未検証」と釘を刺し、サンプリング付きの検証済み実測を求めています。「最良エンジンは存在せず、ハードとモデルの組ごとに最良がある」「帯域約1.8TB/sと良いドラフターでbatch 1の天井は300〜400 tok/s」という経験則も添えられていました。

もう一つ、コメント欄の実測報告が冷静で良かったです。radianceエンジン、qwen3.8-next-flash-fp8-iq4r-moe、コンテキスト262K、210Kで4並列という条件で、デコード176 tok/s、プリフィル4200 tok/sでした。報告者は「デコードは主張とほぼ一致、プリフィルは主張の6450に届かない」としつつ、主張側がコンテキスト長を明記しておらず、210Kはプリフィルが落ちやすい領域なので同じ測定とは限らない、と自ら留保しています。強い賛否や罵倒は見当たらず、盛り上がりの中心は「宣伝される数字は比較できない」という健全な懐疑でした。Qwen3.8 Flash Nextの「良い」という評価も、題名レベルで、詳細は未確認です。

【今後の展望とエコシステムへの影響】

現時点で言えるのは、Eagle-4の速度優位は「主張されているが未検証」ということです。モデルカードの抜粋に速度比はなく、コミュニティの実測もまだ出ていません。ここは断定せず、検証が出るのを待つべき局面です。

それでも流れとして見える変化はあります。第一に、勝負の軸が「最高速の一点記録」から「バッチサイズやハードを問わず安定して速いか」へ移りそうです。EAGLE-4が掲げる単一ドラフターの思想は、手元の1枚差しからマルチGPU、複数ユーザー提供まで同じドラフターを使い回せるかを問うものです。vLLMやSGLangは同時接続が増えるほど有利という前述の指摘とも噛み合います。第二に、ベンチマークの作法が問われます。greedyだけの数字、コード偏重のタスク、コンテキスト長の未記載は、今後ますます突っ込まれるでしょう。サンプリング付き、検証済み、条件明記が新しい最低ラインになりそうです。

手元GPUの体感として知っておきたいのは、投機デコードは追加のGPUメモリを消費し、効果がワークロード依存であることです。NVIDIA NIMのドキュメントでも、同梱手法は必ずしも最適ではなく、トラフィックに合わせて調整したドラフターが既定を上回ると説明されています。つまり「どれが一番速いか」の答えは、自分のモデル・GPU・用途で測るしかありません。Eagle-4の公開は、その比較対象が一つ増えたというニュースとして受け止めるのが現実的です。実使用の検証報告が出てきたら、改めてお伝えします。