新闻 · AWS Machine Learning Blog
使用 Amazon SageMaker 训练会话 API 编写自己的训练循环，无需管理 GPU
Amazon SageMaker AI 训练会话 API 让你可以在 Python 脚本中编写自己的 LLM 训练循环（SFT、RL 或自定义目标），由服务负责运行 GPU。本文介绍其编程模型和三个 SDK 客户端，并演示在 GSM8K 上的 GRPO 循环以及一个面向竞赛编程的强化学习工作负载。
en
英文原标题：Write your own training loop — without managing GPUs — with Amazon SageMaker training session APIs
本文为英文原文的机器翻译摘要，原文见：AWS Machine Learning Blog ↗
- Amazon SageMaker AI 推出训练会话 API，将抽象边界下移：不再抽象算法，而是抽象计算，让用户自行编写训练循环。
- 核心操作如 forward_backward()、optim_step()、sample() 成为 SageMaker API 调用，针对有状态会话，模型在 GPU 上保持加载，服务负责运行时、分布式执行、梯度同步、故障恢复等。
- SDK 包含三个客户端：ServiceClient 管理平台设置并启动会话，TrainingClient 负责训练和检查点操作，SamplingClient 负责生成和评分；会话还提供 OpenAI 兼容的聊天补全端点。
- 计费按处理的 token 数量，本地奖励计算等不产生 GPU 费用，适合奖励模型复杂、多工具代理等场景，成本更易预测。
- 适用于需要自定义损失、RL 奖励函数、多阶段流程的团队，如后训练研究员、SFT 团队、代理 RL 构建者等；同时发布 cookbook 提供 SFT 和 RL 配方。
关键数据
- 计费方式为按处理的 token 数量计费
- 示例包括在 GSM8K 数学题上的最小 RL 循环，以及基于单元测试评分的竞赛编程 RL 工作负载
为什么值得看：它为需要算法自由度的团队提供了无需管理 GPU 基础设施的折中方案，兼顾训练循环控制与运维简化。