新闻 · AWS Machine Learning Blog
通过 Amazon SageMaker AI 的跨区域推理路由,在区域容量短缺时保持推理运行
Amazon SageMaker AI 的跨区域推理路由为你的应用提供一条统一的调用路径,覆盖你已在一个或多个 AWS 区域和 AWS 账户中运行的端点和推理组件。路由器优先使用自身所在区域,仅当本地目标无法可靠提供服务时,才将新请求转移到其他目标。
en
新闻 · AWS Machine Learning Blog
Amazon SageMaker AI 的跨区域推理路由为你的应用提供一条统一的调用路径,覆盖你已在一个或多个 AWS 区域和 AWS 账户中运行的端点和推理组件。路由器优先使用自身所在区域,仅当本地目标无法可靠提供服务时,才将新请求转移到其他目标。
英文原标题:Keep inference running through regional capacity shortfalls with cross-Region inference routing in Amazon SageMaker AI
本文为英文原文的机器翻译摘要,原文见:AWS Machine Learning Blog ↗
为什么值得看:该功能解决了跨区域推理中手动构建故障转移和流量管理代码的运维难题,帮助应用在区域容量短缺时保持服务可用。