Vking⋅AI - 「决策模型」元年：2B 小模型不写字，只负责替 AI 做选择

# 「决策模型」元年：2B 小模型不写字，只负责替 AI 做选择

10 月 1 日，AI 圈冒出了一个新词：**Decision Models（决策模型）**。代表作品是 Amazon Strands Labs 开源的 **Strands Decider 2B** 和 Cloudflare 开源的 **Clef / Clef-flash**。它们的共同点是——**不写文字**。

一、它们到底输出什么

Strands Decider 2B 很直白：**它不给答案，它做选择**。

在你给的多个选项里挑一个；

回答「是 / 否」；

在一个尺度上打分；

并给每个结果附带一个**置信度**。

性能上，团队报告在 NVIDIA RTX 3090 上**单次决策中位数 115 毫秒**。代码、权重、训练数据和脚本全部以 **Apache-2.0** 公开。Cloudflare 的 Clef 系列同样是 Apache-2.0，用于**路由、分流、工具选择、护栏判断**。

二、为什么需要一个「只做决定」的模型

因为 Agent 的工作流里，**大量步骤其实不需要生成文本**：

这一步该调哪个工具？

这条输入是否安全、要不要拦截？

这个任务该交给哪个模型？

结果够不够好，要不要重试？

用大模型干这些活，问题很明显：**慢、贵，而且容易「话说太多」**。而一个 2B 的决策模型，能在一百毫秒内给出一个带概率的判断，**便宜到可以随便调用**。这就是它的价值。

三、和「推理模型」的关系

注意，决策模型**不是要替代推理模型**，而是**分工**：

需要复杂推理时，交给旗舰模型；

需要高频判断时，交给决策模型。

同一时期的 llama.cpp 也已经引入了「决策模型」这一**新的模型类型**，让本地推理引擎能跑这类模型。一个清晰的架构正在浮现：**大模型管「想」，小模型管「选」，沙箱管「兜底」**。

四、顺带一提：速度也成了商品

同一天，OpenAI 为 **GPT-6 Astra** 推出了 **Ultrafast 极速推理**服务，把「快」单独拿出来卖钱。这和「决策模型」其实是同一个信号的两面：**当能力不再是唯一卖点，延迟和成本就开始被明码标价**。

小结

「决策模型」的出现，是 Agent 架构成熟的一个标志：**不是所有判断都需要一个万亿参数的大脑**。把高频、低风险的决定交给便宜的小模型，把稀缺的算力留给真正难的问题——这可能是 2026 年最务实的一次分工。