
AWS开源决策模型Strands Decider 2B:不写字的20亿参数小模型,专为智能体做选择题
新闻原文
10月2日,亚马逊云科技旗下Strands Labs团队正式开源Strands Decider 2B。这款模型参数量仅20亿,可跑在笔记本本地,决策延迟低于150毫秒,目前已将模型权重、完整代码库、训练脚本与示例一并放出,开发者可在HuggingFace下载权重、在GitHub查看配方。它属于一类正在冒头的新物种——决策模型,也叫"系统1模型"。
与大语言模型不同,决策模型放弃自由文本生成,面对开发者提供的一组预设选项,直接输出选择结果并附带一个置信度分数,不产生任何额外文字。这个方向由初创公司TypeSafe AI发布的Jev带火,但AWS团队认为Jev的并行输出结构在需要复杂推理时会拖累性能,于是自己在概念上做了改进。
架构上,Strands Decider 2B以Qwen3.5-2B作为语言理解底座,移除了负责生成文本的语言模型头,换上一个仅约100万参数的微型"指针头",并用rank-16的LoRA适配器微调,让候选答案的隐藏状态直接对着答案位置打分。本次放出的v.20版本特意选在20亿参数规模,以平衡准确率、校准度与延迟。AWS称其在RTX 3090上中位延迟约115毫秒,在M3 MacBook上约150毫秒;在JevBench公开测试集上,完整配方版排名第一。
能力上,它适合处理智能体工作流里的模型路由、工具选择、上下文管理、护栏执行与策略分类等重复性判断;AWS希望由此构建"混合智能体"——简单、重复的选择交给决策模型,复杂推理交给大语言模型。目前放出的版本可通过HuggingFace下载,AWS是否会在自家云上提供托管版仍有待观察。
企服观察
决策模型的价值,是把"判断"从"生成"里彻底拆了出来。过去一个智能体每做一个路由选择,往往要调一次大模型、等它吐出一段理由再解析,成本和延迟都高;现在一个20亿参数的小模型,100毫秒出头就给出答案加置信度,等于把决策这一步从昂贵的生成链路里剥离,变成流水线上的廉价工位。对智能体架构来说,这不是多了一个玩具模型,而是成本结构和响应速度的一次重排。
为什么2B这个尺寸值得重视?因为它小到能本地跑、延迟低到能放在请求路径上实时发生,意味着"下一步该调哪个工具、参数是否齐了、这次动作是否越权"这类判断,可以发生在每一次交互里,而不是攒一批再批处理。当决策几乎零成本,智能体才有可能真正做到"边干边自查",而不是干完一整段才发现第一步就选错了。
对企业软件而言,工作流里大量存在"基于当前状态,下一步做什么"的路由判断,过去要么写一堆脆弱的规则引擎,要么调大模型硬扛。决策模型把这类判断做成可微调、可检视的标准件,企业可以把常见分支训成自己的小模型,部署在边缘或私有环境,既降成本又不出域。凡是做过审批流、工单分派、告警归类系统的团队,都应该认真评估这类模型对人力成本的替代空间。
AWS把训练数据和脚本一起开源,是这单发布最硬的一点。开发者能看清整套配方、基于Qwen开放权重做二次微调,而不是只拿到一个黑盒API。这也再次说明,当前决策模型这一波实验高度依赖开放权重生态——Jev可本地部署,AWS放出配方,底层都是公开模型。对企业来说,可审计、可私有化,本身就是采购时的硬门槛。
路线分歧已经出现。TypeSafe做Jev、OpenAI同周发了有限预览的Decisions API托管接口、AWS则走可下载可改的开源路。托管接口上手快但锁定强、数据出域;开源可下载自由度高但要自己运维。对国内厂商,成熟的打法应该是两者都给:既有托管端点降低试用门槛,也放出权重满足私有化与合规,让客户按数据敏感度自己选。
也要泼点冷水。决策模型不生成文本,意味着它没法解释"为什么这么选",置信度分数是使用者判断可靠性的唯一抓手,一旦分数失真,错误会被静默放大。生产化还缺两样东西:一是托管版与治理套件,让企业能统一纳管;二是和护栏、日志、人工审批的衔接。但方向已经清楚——智能体基础设施正在分层,生成、决策、执行各司其职,谁先把这一层做扎实,谁就拿到企业agent的底座门票。
对企业采购智能体平台,启示很直接:把"决策模型"列为评测清单里的一项独立能力,而不是笼统看大模型跑分。能本地跑、能给置信度、能微调配方的小模型,往往在路由与护栏上比单纯堆参数更实用。选型时不妨专门测一下:在你们真实的若干工作流样本上,它挑对工具的比例和校准度分别是多少,再决定要不要为它单独留预算。
对国内云厂商,这波决策模型的走红也是提醒:开放权重生态正在把" agent 基础设施"拆成可替换的薄层,谁先提供好用、可私有化、带治理的决策与路由组件,谁就能在agent底座之争里占一块。别只盯着 flagship 大模型发布,真正黏住企业客户的,往往是这些每天被调用成千上万次的廉价工位。







评论
请评价真实、客观、有价值的内容请回复有价值的信息,无意义的评论将很快被删除,账号将被禁止发言。