新闻 · AWS Machine Learning Blog
借助 AWS Batch 的配额管理为 SageMaker Training 作业实现跨团队资源借调
AWS Batch 配额管理是一项新的调度能力，可用于将 GPU 容量按团队或项目划分为配额份额，自动在各份额之间借调闲置容量，并通过抢占机制优先运行最高优先级的 SageMaker Training 作业，全程无需人工协调。
en
英文原标题：Lend and borrow resources across teams with AWS Batch’s quota management for SageMaker Training jobs
本文为英文原文的机器翻译摘要，原文见：AWS Machine Learning Blog ↗
- AWS Batch 新增对 Amazon SageMaker Training 作业的支持，提供全托管的排队、调度和重试能力，用户无需自建基础设施。
- 随着多团队共享 GPU 资源，管理员面临协调开销，如设置独立队列、调整容量限制和编排工作负载。
- 新推出的配额管理功能允许管理员按团队、项目或工作负载划分计算容量为配额份额，并配置资源共享策略。
- 资源共享策略包括 RESERVE（保留空闲容量）、LEND（借出空闲容量）和 LEND_AND_BORROW（既借出也借入），以最大化 GPU 利用率。
- 配额份额作为虚拟队列嵌套在作业队列中，支持跨份额抢占和份额内基于优先级的抢占，确保高优先级作业优先运行。
关键数据
- 示例中使用 ml.g5.xlarge 实例类型，每个配额份额容量限制为 1 个实例。
- 示例配置了三个配额份额：QS1 使用 LEND_AND_BORROW 并开启份额内抢占，QS2 使用 LEND 且关闭份额内抢占，QS3 使用 RESERVE 且关闭份额内抢占。
- 创建资源时设置 max_capacity=3，对应三个配额份额的总容量。
为什么值得看：该功能帮助多团队环境自动共享空闲 GPU 容量并优先运行高优先级作业，从而提升资源利用率并减少管理开销。