英文原标题:Scaling MoE reinforcement learning on Amazon EKS with EFA and DeepEP with 40% more throughput

本文为英文原文的机器翻译摘要,原文见:AWS Machine Learning Blog ↗

了解如何使用 Elastic Fabric Adapter(EFA)和 DeepEP 在 Amazon EKS 上扩展混合专家(MoE)强化学习。本文介绍了一种结合 Amazon EKS、EFA 和 Amazon S3 的架构,将大规模 RLHF 和 GRPO 训练的强化学习 rollout 总吞吐量提升了 40%。

站内导航