英文原标题:Introducing managed cluster extensions for observability and user management in Amazon SageMaker HyperPod Slurm

本文为英文原文的机器翻译摘要,原文见:AWS Machine Learning Blog ↗

  • Amazon SageMaker HyperPod 为 Slurm 集群推出 cluster extensions,通过 API 或控制台管理节点上运行的软件,首批包括可观测性和用户管理扩展。
  • 此前 HyperPod 已实现前五层配置的声明式管理:API 驱动的 Slurm 配置、基于 AMI 的配置、持续供应、自动拓扑管理和深度健康检查。
  • cluster extensions 相比生命周期脚本的优势:提交时按 schema 校验、自动应用到所有节点(含扩缩容新增节点)、通过 API 或控制台变更、报告状态和每节点健康。
  • 可观测性扩展(sagemaker-observability)采集节点、GPU、EFA、Slurm 作业和集群指标,发送到 CloudWatch 或 Managed Service for Prometheus。
  • 用户管理扩展(sagemaker-user-management)在各节点创建相同 ID 的用户和组,控制 SSH 和 sudo 权限,注册 Slurm 记账,并可连接 Active Directory。

关键数据

  • 2026 年推出 API 驱动的 Slurm 配置、基于 AMI 的配置、持续供应、自动拓扑管理和深度健康检查
  • 2026 年 11 月推出 cluster extensions
  • 提供六个集群扩展 API,覆盖安装、配置、更新、删除、状态查询和版本列表
  • Slurm 25.11 或更高版本支持分区级拓扑(树形或块状)
  • 深度健康检查对 GPU 施压并测试 NCCL 连通性

为什么值得看:它把节点上持续变化的软件也纳入声明式、可校验、可观测的管理方式,减少配置漂移,同时保留对节点的完全访问控制。

站内导航