英文原标题:Meta’s Muse Spark Open now available in Amazon SageMaker JumpStart

本文为英文原文的机器翻译摘要,原文见:AWS Machine Learning Blog ↗

  • Meta 的编码优化开放权重模型 Muse Spark Open 已在 Amazon SageMaker JumpStart 上线,用户可在自己的 AWS 账户中几步部署到 SageMaker AI 端点,无需自行管理服务基础设施。
  • 该模型采用 MoE 架构,总参数 816B、每 token 激活 42B,支持 100 万 token 上下文窗口,输入支持文本、图像、文档、音频和音视频,输出为文本。
  • Meta 称其针对智能体编码工作流训练,强调首次尝试准确率、工具调用和对大型代码库的理解,能规划、行动、观察结果并自我纠正,还可浏览网页、协调子智能体及操作计算机。
  • SageMaker JumpStart 提供 BF16(Muse-Spark-Open-816B-A42B)和 NVFP4 量化(Muse-Spark-Open-816B-A42B-NVFP4)两个变体;NVFP4 权重内存约为 BF16 的四分之一,分别运行在 ml.p5e.48xlarge 和 ml.p6-b300.48xlarge 实例上。
  • 部署后端点运行在用户 AWS 账户内,可接入自有 VPC、用 AWS KMS 加密存储卷、开启网络隔离,并固定模型版本;启动时仅在美国东部(弗吉尼亚北部)和俄亥俄可用。

关键数据

  • 总参数 816B,每 token 激活 42B
  • 上下文窗口 1 百万 token
  • NVFP4 变体运行于 ml.p5e.48xlarge,BF16 变体运行于 ml.p6-b300.48xlarge
  • NVFP4 权重内存约为 BF16 的四分之一
  • 启动时可用区域:US East (N. Virginia) 和 US East (Ohio)
  • SDK 路径需要 Python 3.10 或更高版本及 SageMaker Python SDK v3

为什么值得看:该模型以开放权重和 100 万 token 上下文面向长时编码智能体,并在 SageMaker JumpStart 提供两种量化变体,便于在自有 AWS 环境中评估和部署。

站内导航