英文原标题：NVIDIA Nemotron 3.5 Super VL is now available in Amazon SageMaker JumpStart
本文为英文原文的机器翻译摘要，原文见：AWS Machine Learning Blog ↗
- NVIDIA Nemotron 3.5 Super VL 现已在 Amazon SageMaker JumpStart 中提供，用户可通过 SageMaker Studio 或 Python SDK 快速部署。
- 该模型是 Nemotron 3.5 系列中的视觉语言模型，接受图像、视频和文本输入并生成文本，采用 120B 参数混合 MoE 语言骨干（12B 激活参数）和 C-RADIO 视觉编码器，支持高达 100 万 token 的上下文长度。
- JumpStart 提供两个变体：NVFP4（经量化感知蒸馏优化推理）和 BF16（全精度参考权重，用于自定义），两者均支持英语、法语、德语、意大利语、日语、西班牙语和中文。
- 模型面向文档智能、GUI 理解、视频问答和多模态智能体等用例，支持工具调用、JSON schema 输出和可配置推理。
- 在 SageMaker JumpStart 上的推理性能测试中，NVFP4 变体在 ml.g7.24xlarge 上平均输出吞吐为 63.07 tokens/秒，BF16 变体在 ml.p5en.48xlarge 上达到 140.85 tokens/秒，首次 token 时间均约半秒。
关键数据
- 120B 总参数，12B 激活参数
- 上下文长度高达 100 万 token
- NVFP4 检查点约 75 GB，BF16 约 249 GB
- NVFP4 在 ml.g7.24xlarge 上输出吞吐 63.07 tokens/秒，首次 token 时间 0.45 秒
- BF16 在 ml.p5en.48xlarge 上输出吞吐 140.85 tokens/秒，首次 token 时间 0.53 秒
- MMLongBench-Doc 得分：BF16 62.82，NVFP4 62.82
- OCRBench v2 英文得分：BF16 68.12，NVFP4 68.34
为什么值得看：该模型为需要视觉理解的多模态智能体工作负载提供了高性能开源选择，并可通过 SageMaker JumpStart 快速部署和优化推理。
