英文原标题:As decision model use skyrockets, is customization the next frontier?

本文为英文原文的机器翻译摘要,原文见:TechCrunch AI ↗

  • Vercel的AI模型路由数据显示,10月超过四分之一的请求流向了决策模型而非LLM,而这类模型仅在一个月前才被发明。决策模型不生成输出token,而是快速低成本地在预设选项间做选择并给出置信度,适合生产环境中对速度要求高于推理深度的场景。
  • TypeSafe凭借Jev系列模型成为估值75亿美元的公司,其模型在OpenRouter等平台使用量领先,上周处理超15亿次查询。但决策模型门槛不高,Jev发布后涌现数十个模型,亚马逊工程师周末即可做出一个,各大 hyperscaler 也纷纷推出自己的方案。
  • 微软CEO Satya Nadella周二宣布,Microsoft-Decision-1.1即日起在Azure上广泛可用。该模型由工程VP Achint Srivastava领导开发,强调在成本、延迟、智能和校准之间取得平衡,并指出过度追求基准测试的模型在企业实际使用中很快会失效。
  • 英国初创公司Sqwish宣布300万美元pre-seed融资,其决策模型kettei fat在部分基准上表现良好。联合创始人Ushnish Sengupta和Federica Freddi在剑桥读研时开始开发小型LLM,Jev出现后意识到其架构可改造成强大的决策模型。
  • 数据是决策模型成功的关键:TypeSafe CEO Diogo Almeida称构建Jev最难的部分是用统计调整的合成数据精细校准判断力。Sqwish同样使用合成数据,但独特之处在于内置后训练工具,允许客户用自身生产数据持续改进模型判断力。

关键数据

  • 10月Vercel AI模型路由上超过四分之一的请求流向决策模型
  • OpenRouter上周处理超15亿次对TypeSafe模型的查询
  • TypeSafe估值75亿美元
  • Sqwish完成300万美元pre-seed融资
  • Freddi预测System One是100亿至500亿美元的机会

为什么值得看:决策模型在极短时间内获得大规模采用,微软等巨头与初创公司同时布局,数据定制和持续调优可能成为竞争关键,而这一细分市场与前沿LLM形成互补而非替代。

站内导航