【geek-terminalニュース】Decision 3.0の最新情報：生成しないLLMがエージェントの心臓部になる

【事象の全貌と背景】
以前お伝えしたDecision Model実装フェーズの続報です。10月9日にはJev/OpenJevやLiquid AI d1、10月11日にはMicrosoft-Decision-1、Drex 1.5、OpenAI Decisions APIを軸に、「LLMを文章生成機ではなく、選択肢を採点する判定器として使う」流れを取り上げました。今回のDecision 3.0は、その流れがさらに実装エコシステム側へ寄ったニュースです。vLLM Semantic Router系のDecision Modelsとして、Hugging Face上でd3-edgeなどが確認でき、自由文を長々と生成するのではなく、アプリケーションがそのまま使える確率付き判断を返すモデル群として配布されています。

ここで重要なのは、これは単なる「小さいLLMが出た」話ではないことです。従来のLLM利用では、分類したいだけなのに自然文を生成させ、その文章をさらにパースし、失敗時にはリトライし、最終的に正規表現やJSON schemaで縛る、という妙な迂回路がありました。Decision 3.0系の発想は、その迂回路を潰します。入力を受け取り、複数選択、Yes/No、尺度評価といった型付きの問いに対して、生成文ではなく各選択肢の確率を返す。これはLLMを“会話相手”としてではなく、低遅延の判定ASICのような基盤部品として扱う方向です。

MarkTechPostやReddit由来の紹介では、Decision 3.0はテキスト、JSON、画像、動画を入力に扱うオープンなマルチモーダルDecision Modelファミリーとして説明されています。ただし、モデルサイズの範囲やApache-2.0ライセンス、Jev Decision Indexでの1位といった主張は、提示された公式確認範囲だけではすべてを直接裏取りできません。したがって本稿では、Hugging Face上で確認できるモデルカードやCore MLコレクションの情報を確度Aとして扱い、27Bモデルやランキング首位などはコミュニティ記事側の報告として切り分けます。

【技術的ディープダイブ】
公式に確認できる中核は、vllm-sr/d3-edgeのモデルカードです。d3-edgeはDecision 3.0に属する0.6B規模のマルチモーダル基盤Decision Modelで、vLLM Semantic RouterのDecision Modelsの一部と説明されています。入力はテキストまたはJSONを受け取り、必要に応じて画像や動画も添付可能です。そして最大の特徴は、テキストを生成しないことです。複数選択、Yes/No、尺度評価のような質問に対して、各回答の確率を返す設計になっています。

さらに、d3-edgeはAMD Instinct MI325X GPUで学習されたとされます。ここも地味に面白いポイントです。GPUクラスタ上で巨大な汎用生成モデルを作る競争とは別に、判定タスク専用の小型モデルを作り、推論時にはルーター、ガード、承認ゲート、優先度付け、停止判断に差し込む。つまりモデルの主戦場が「最終回答を書くところ」だけではなく、「どのモデルに投げるか」「ツールを呼ぶべきか」「このエージェントは止まるべきか」「人間承認へ回すべきか」という制御平面へ広がっています。

Hugging FaceのDecision 3.0 Core MLコレクションでは、d3-lite、d3-nano、d3-miniがApple Silicon向けCore ML形式として整理されています。そこでは、d3-liteは0.8Bでテキスト向け、d3-nanoは2Bでテキストと画像向け、d3-miniは4Bでテキスト、画像、動画向けと記載されています。またFluidInference/d3-lite-coremlのモデルカードでは、d3-lite-coremlはvllm-sr/d3-liteをCore MLへ変換したApple Silicon向けモデルで、0.85B規模と説明されています。推論契約もかなり具体的で、質問ごとに1回のフォワードパスを行い、最後のプロンプトトークンで255-wayのFP32 readoutを使い、各選択肢の確率を返し、テキスト生成はしないとされています。

この「1回のフォワードパスで判断する」という契約は、エージェント基盤にとってかなり強いです。通常のLLM生成では、出力トークン数が増えるほどレイテンシとコストが増え、しかも途中で脱線する可能性があります。一方、Decision Modelは回答候補の確率を返すだけなので、停止条件、ルーティング、ポリシー判定、優先順位付けに組み込みやすい。OpenAI APIのDecisionsガイドもDecision 3.0そのものの資料ではありませんが、テキストや画像を型付き判断に変換し、真偽、固定選択、ルーブリック採点を返す用途として、コンテンツ分類、リクエストルーティング、作業優先度付けを挙げています。つまり、Decision 3.0だけの孤立した話ではなく、生成AIスタック全体で「生成しないモデル」の需要が立ち上がっているわけです。

【コミュニティの生々しい熱量と議論】
今回、検索結果2としてReddit、Hacker News、lobste.rs、LessWrongなどの具体的なコメント本文は提供されていません。そのため、実在する個別コメントを引用したかのように書くことはできません。ここはかなり重要です。RedditのLocalLLaMA投稿URL自体は原本ソースとして提示されており、Decision 3.0が「open multimodal decision models」として紹介され、Jev Decision Indexの2つのボードで1位になったという報告もあります。しかし、コメント欄で誰が何を言ったか、どのハックが実際に共有されたかまでは、今回の入力データからは確認できません。

それでも、LocalLLaMA文脈でこのニュースが刺さる理由は明確です。ローカルLLM界隈の関心は、すでに「チャットで賢い返事をするか」だけではありません。むしろ、限られたVRAM、オンデバイス推論、量子化、ルーティング、複数モデルの使い分け、エージェントの暴走防止といった、運用の泥臭いところに熱があります。Decision 3.0のような小型判断モデルは、まさにその泥臭い実装部品です。派手なデモで観客を驚かせる主役ではなく、アプリの奥で毎秒何度も呼ばれるスイッチング素子に近い。

賛否の軸も見えています。肯定派にとっては、生成文をパースする時代から、確率付きの固定選択を直接得る時代への前進です。ツールルーティングなら「search」「code」「calendar」「human_review」のどれに送るかを確率で決められる。停止判断なら「continue」「stop」「ask_user」を返せる。コンテンツ分類ならJSONの整形崩れを心配せずにスコアを取れる。逆に慎重派の論点は、ランキングやベンチマークの再現性、実タスクでの校正、しきい値設計、誤判定時の責任です。Decision Modelが生成しないからといって、判断が常に正しいわけではありません。むしろ、間違った判断が静かに下流へ流れるぶん、可観測性と評価セットがより重要になります。

また、Qiita指定URLについては、提示された検索抜粋内にDecision 3.0そのものの確認情報がなく、DGX Spark、ローカルAI、Harness、AIエージェント検証に関する別記事が表示されているとされています。そのため、今回の記事ではDecision 3.0の事実確認材料としては使わず、原本URLとして保持するに留めます。ここを混ぜると、読者に「Qiita記事がDecision 3.0を裏付けた」と誤認させる危険があります。

【今後の展望とエコシステムへの影響】
Decision 3.0の台頭で古くなりそうなのは、「何でも汎用LLMにプロンプトで頼み、長い自然文を出させてから後処理する」設計です。もちろん自由文生成は消えません。しかし、エージェント基盤の心臓部に必要なのは、気の利いた文章ではなく、低遅延で安定した判断です。どのツールを呼ぶか、どのモデルへ回すか、ユーザー確認が必要か、危険な操作を止めるか、処理を継続するか。ここでは詩的な文章力より、校正された確率と型付き出力が強い。

今後のパラダイムシフトは、LLMアプリが「単一の巨大モデルに全部やらせる」構成から、「生成モデル、埋め込みモデル、リランキングモデル、Decision Model、ガードモデルを組み合わせる」構成へ進むことです。Decision 3.0のd3-edgeが0.6B、Core ML側でd3-liteが0.8Bまたは0.85B級、d3-nanoが2B、d3-miniが4Bとして見えていることは、オンデバイスやローカル推論にとって大きい。Macやワークステーション、エッジ端末上で、生成モデルの前段・横・後段に小型判断モデルを差し込む設計が現実味を帯びます。

特にエージェントでは、Decision Modelがランタイムの神経系になります。生成モデルが「考える」部分なら、Decision Modelは反射、選別、遮断、集中モードの切り替えを担う。たとえば高価な巨大モデルを呼ぶ前に、小型Decision Modelがリクエストの種類を判定する。ツール実行前にリスクを評価する。長いタスク中に、続行すべきか、人間に確認すべきかを判断する。これらはユーザーからは見えにくいですが、AgentOpsでは最重要の制御点です。

一方で、27Bモデルの存在、Apache-2.0ライセンス、Jev Decision Indexでの1位といった主張は、今回の公式確認範囲では完全には断定しません。ギーク系記事やReddit由来の紹介ではそう報じられているものの、モデルカードで確認できる事実と、コミュニティ発の熱量ある主張は分けて読むべきです。ただし、確実に言えるのは、Decision 3.0が「生成しないAIモデル」というカテゴリを一段具体化したことです。LLMの価値が、文章を書く能力だけでなく、アプリケーションの分岐を支える判断能力にも移りつつある。地味ですが、これはエージェント時代のかなり大きな地殻変動です。