Hugging Face 中的决策模型

英文原标题：Decision Models in Hugging Face

本文为英文原文的机器翻译摘要，原文见：Hugging Face Blog ↗

• 文章介绍 Hugging Face 上的决策模型（decision model），其核心接口为“状态 + 问题 + 允许答案 → 决策 + 概率”，模型直接对预设选项输出概率分布，而非逐 token 生成文本。
• 以客服工单为例，传统做法是提示 LLM 返回 JSON，但存在不遵循 schema、约束解码带来额外开销、以及为选答案而生成整段回复的浪费等问题。
• 决策模型与分类模型的区别：传统分类的输出类别固定在分类头中，新增类别需改头重训；零样本分类可在推理时提供候选标签，但决策模型进一步支持多个带类型的命名问题（choice、score、noul）。
• 文章对比三种方式：传统分类、零样本分类和决策模型，指出决策模型的优势在于把运行时定义标签、概率分类等能力组织成一致接口，并可能由专门优化的架构与训练流程支撑。
• 文中提到 TypeSafe AI 的 Jev 被称为 System One 模型，社区最终采用“decision model”这一术语，以描述模型的计算角色而非某种认知理论。

关键数据

• 示例中决策模型对 billing 的置信度为 0.9974000453948975，概率分布为 billing 0.9982666969299316、technical 0.0010246571619063616、sales 0.0007087149424478412
• 零样本分类示例 facebook/bart-large-mnli 对 billing 的分数为 0.8466812372207642
• 加入 legal 标签后，billing 分数变为 0.8185835480690002，legal 为 0.03318570926785469
• 文章发布日期为 2026 年 11 月 10 日

为什么值得看：文章说明在只需从预设选项中选择的场景下，决策模型可避免 LLM 生成文本的 schema 风险与计算开销，并提供带概率的结构化输出。