英文原标题:OpenAI makes its Jev competitor widely available as decision model competition heats up

本文为英文原文的机器翻译摘要,原文见:TechCrunch AI ↗

  • OpenAI 首次向所有客户开放 Decisions API 模型,进入快速、低成本智能模型市场,与 TypeSafe 的 Jev 模型竞争。
  • TypeSafe 由前 OpenAI 研究员创立,其 Jev 模型开创了“超级分类器”类别,能快速做出选择并给出置信度,可替代 LLM 用于多种工作流,速度更快、成本更低。
  • OpenAI 并未专门构建校准决策模型,而是将 ChatGPT Luna 重新配置以加速推理并降低成本;产品负责人称速度从 1-3 秒缩短至 100-180 毫秒。
  • 公开版新增语音和视觉模态,并通过地理定位推理资源降低全球延迟;早期客户包括 Box、Datadog、Ramp 和 Speak,Speak 将操作间隔从 1.4 秒降至 0.13 秒。
  • 决策模型优劣尚无统一标准,基准测试结果不一:AIM System One Index 和 Artificial Analysis Decision Index 偏向 Liquid 的 D1 Ultra 和 Base Lab 的 Elephant-1,但 TypeSafe 模型在 OpenRouter 上查询量最广。

关键数据

  • TypeSafe 估值 76 亿美元
  • OpenAI Decisions API 于 9 月 29 日开发者日发布,周四向所有客户开放
  • 速度从 1-3 秒缩短至 100、120、180 毫秒
  • Speak 将操作间隔从 1.4 秒降至 0.13 秒
  • 最新 Jev 模型在 AIM System One Index 和 Artificial Analysis Decision Index 分别排名第七和第三,OpenAI 决策模型排名第八和第十四

引语

  • “哇,我们有上百万个用例”
  • “未来我们可能会专门训练模型,让它们在这些方面更好。但现在,只是普通的老 Luna 就能完成任务。”
  • “我们能否将其做到 60 毫秒,然后你可以想象为视频的每一帧调用 API?”

为什么值得看:决策模型竞争升温,OpenAI 的入局可能加速这类快速低成本模型在各类工作流中替代 LLM,并催生新的应用场景。

站内导航