每百万输入4.2美分,微软用9B模型给Agent选项打分

2026年10月13日 由 ATYUN编辑部 发表 747 0
服务工单进入四个固定流程通道,其中一个通道设置人工确认挡板
原创示意图:有限选项评分可辅助工单路由,低置信度情况仍需人工复核。

Agent不一定每一步都需要长篇推理。有些环节只需要判断“继续、重试、拒绝,还是交给人”。微软10月9日发布Microsoft-Decision-1,基于Qwen3.5-9B后训练,为固定选项返回概率评分,输入每百万token收费0.042美元,输出免费。它把流程里的小决策拆出来,也让权限、阈值和失败回退成为实施团队必须明确的新接口。

9B基础模型后训练,服务固定选项的单次评分。
面向路由、分类、排序、验证和工作流控制。
概率与供应商自测成绩,需要在真实任务分布上校准。

先列出选项,再由模型评分

微软把这类产品称为决策模型,重点是可供软件立即使用的结构化结果。输入可以是是非题、多项选择、评级选项,或依据规则评判AI回答与Agent动作。它不负责凭空生成所有行动空间,业务系统先要定义可选动作与判断标准。

模型基于Qwen3.5-9B后训练,采用快速单次决策评分;未来计划重新基于MAI与OpenAI等模型构建。当前技术基础、未来路线和已交付能力应分开理解,不能把后续计划写成已经上线的底层架构。

官方给出Microsoft Foundry和OpenRouter入口,并发布Foundry使用文档。企业接入仍需确认所在账户和区域的支持、模型ID以及接口参数。本轮没有实际账户调用测试,因此不把公告入口等同于每个客户都已经可以零配置使用。

速度很重要,统计口径更重要

微软披露的比较覆盖36个基准、接近15万道题,基准与训练保持隔离;其中包括路由、排序、长上下文、多语言和分布外任务。官方称其准确性与中位延迟领先,但该结果来自发布方评测,而非同等硬件与端到端业务条件下的独立认证。

约35倍于GPT-6 Sol的速度比较针对P50延迟,2.5倍于H2O-Lightning-4B v1.1也是该次测量。中位数无法描述最慢的一批请求;输入长度、并发、网络与服务部署会改变延迟。企业必须补测P95/P99和整个工作流,不能把模型环节的倍数直接乘成全流程收益。

官方用20个串行决策各增加100毫秒、累计两秒说明小决策延迟的影响,这是简单加总示例,不是生产结果。对并行或主要等待工具的工作流,更快评分带来的整体提升可能有限;先测时间到底花在哪里,再决定是否需要新模型。试点还应设置最小观察周期,覆盖高峰流量和少见工单,避免只按一批干净示例判断收益。

1.3%扰动翻转,仍需要业务校准

微软对同一请求做八种扰动,包括改写、选项重排、键名变化与格式噪声,报告平均决策翻转率1.3%;部分改写或重排条件下为零。它展示了输入等价性测试的方法,但不能推导成所有业务输入错误率仅为1.3%。

概率也不能只当排名分数。业务用它决定自动动作还是复核,90%置信度应在代表性样本上接近九成正确。上线前需要观察各类别、语言与风险级别的校准误差,并设置不同阈值;总体准确率相同的模型,可能在少数高风险类别中表现很不一样。

选项集合本身同样重要。如果所有选项都不适用,系统应能返回不确定或交给人,而不是强迫选择最不坏的一项。会造成外部状态变化的动作,还要经过权限检查与审批;评分模型提供判断信号,业务系统承担执行约束。

小编判断:把廉价评分放在可回退的位置

适合先试点的环节包括工单分类、查询路由、输出质量核查和候选动作筛选。实施团队可以保留大模型作疑难回退,将规则清晰、选项固定的小决策交给评分服务,再以真实标注样本比较费用、人工介入和漏判。

微软还披露Xbox反馈分类、Copilot质量核查和科研重规划等内部测试,包含速度和成本倍数,但缺乏完整的硬件、样本构成与独立业务基线。它们可帮助发现应用方向,不应写成企业接入即可获得的普遍收益。

公开材料尚未说明可下载权重,也未给出所有生产场景的任务完成率与可靠性。企业应保存选项、规则版本、概率、最终动作与人工改判,定期重校阈值。决策便宜之后,更值得问的是能否知道什么时候不该自动作决定。

文章来源:AI Agent
欢迎关注ATYUN官方公众号
商务合作及内容投稿请联系邮箱:bd@atyun.com
评论 登录
热门职位
Maluuba
20000~40000/月
Cisco
25000~30000/月 深圳市
PilotAILabs
30000~60000/年 深圳市
写评论取消
回复取消