智东西

编译 | 杨京丽

编辑 | 李水青

智东西 10 月 12 日消息，昨天，vLLM 社区孵化的开源 AI 基础设施项目 vLLM Semantic Router 推出并开源多模态决策模型Decision 3.0 系列。该系列模型能够根据输入内容完成分类、选择、是非判断和评分等任务，直接返回判断结果和概率，不生成长篇文本。

vLLM Semantic Router 推出并开源 Decision 3.0（图源：X）

这类不生成长文本，专门 " 做判断 " 的模型，近期因 Jev 走红而受到关注。Jev 模型上线仅 3 天，其 Token 用量便达到1 万亿；上线仅 24 天，其开发商 TypeSafe AI 便宣布获得 a16z 领投的8.7 亿美元（约合人民币 58 亿元）融资，估值达到75 亿美元（约合人民币 502 亿元）。

除 Jev 外，10 月 10 日，微软也推出其决策模型Microsoft-Decision-1，通过 Microsoft Foundry 和 OpenRouter 提供服务。该模型基于Qwen3.5-9B微调，对预设选项评分、返回结构化判断及置信度，可用于工具选择、模型路由和 Agent 流程控制。

vLLM-SR 的决策模型 Decision 3.0 共包含d3、d3-flash、d3-mini、d3-nano、d3-lite 和 d3-edge六款模型，参数规模覆盖0.6B 至 27B，相关模型权重已在 Hugging Face 开源。

开源地址：

https://huggingface.co/collections/vllm-sr/decision-30

其中，旗舰模型 d3 基于 Qwen3.8-27B 打造，是一款 27B 的多模态模型，支持输入多张图片和视频。其余 5 款模型则基于不同参数规模的 Qwen3.5 打造。

与 Jev 不同的是，Jev 主要通过云端 API提供文本决策服务，Decision 3.0 则开放权重，支持本地部署，可以直接处理图片和视频。

目前，在决策能力榜单 Jev Decision Index 0.3.1 榜单中，d3 文本决策指数为 64.7 分，公开集得分为 65.5 分，位列文本榜第一，超过 Jev 的 60.1 分。d3（27B）、d3-flash（9B）及 d3-mini（4B）的成绩均领先于微软 Decision-1（9B）的 53.2 分。

在视觉榜中，d3 得分为 71.6 分，同样排名第一。此外，9B 参数的 d3-flash 在文本榜中获得 59.8 分，在视觉榜中获得 66.9 分，位列对应规模模型前列。

第三方评测方面，一位开发者在自己的网站上设置了 75 道工具选择题，让模型判断应调用哪个 WebMCP 工具。其本地 Mac 测试中，Microsoft-Decision-1 答对71 题，位列第一；d3-flash 和 d3-mini 答对 70 题，并列第二；Jev 答对69 题；d3-nano 则答对68 题。

Desicion 3.0 可以用于客服分流、内容审核、风险识别和模型路由等场景。

例如，客户称其收到的搅拌机破损，希望换货，并附上收据图片和配送视频。模型可以在一次请求中回答三个问题：该由哪个团队处理、收据是否包含这台搅拌机，以及包裹如何送达，分别给出 " 退换货团队 "、" 是 "、" 当面送达 " 三个回答。

团队公布的数据显示，在单张 AMD Instinct MI325X GPU 上运行时，d3 处理文本请求的延迟中位数为55 毫秒，处理包含图片的请求为273 毫秒，处理 10 秒视频的请求为553 毫秒。

还有一位开发者将 d3-lite 通过 Core ML 部署在搭载 M5 Pro 的 Mac 上，对1000 个 Pull Request（代码合并请求，PR）进行工作组分类与路由，总耗时约 2 分钟。实测视频显示，单个 PR 平均处理耗时约 0.12 秒，吞吐量约为每秒 8.3 个 PR，整个推理过程在本地完成，无需调用云端 API。

结语：类 Jev 模型瞄准 AI 决策需求

随着 AI 应用对意图识别、任务分类和模型路由等能力的需求提升，类 Jev 决策模型有望承担更多轻量、结构化的判断任务。它们可以先识别用户意图、判断请求类型，再将任务交给更合适的生成模型处理。

对于多模型系统来说，这类模型能够减少通用大模型处理简单任务的负担，同时帮助系统控制推理成本、提升响应速度和路由准确性。