新闻 · AWS Machine Learning Blog
Salesforce 如何借助 Amazon SageMaker AI 的跨区域推理路由推进全球规模模型服务
了解 Salesforce 如何利用 Amazon SageMaker AI 中的跨区域推理路由器,将分散的区域容量转化为可靠的模型服务。Salesforce 在遵守数据驻留承诺的同时,安全地跨区域和跨账户增加容量,并能按请求查看每次调用在何处被服务以及原因。
en
新闻 · AWS Machine Learning Blog
了解 Salesforce 如何利用 Amazon SageMaker AI 中的跨区域推理路由器,将分散的区域容量转化为可靠的模型服务。Salesforce 在遵守数据驻留承诺的同时,安全地跨区域和跨账户增加容量,并能按请求查看每次调用在何处被服务以及原因。
英文原标题:How Salesforce is advancing global-scale model serving with cross-Region inference routing in Amazon SageMaker AI
本文为英文原文的机器翻译摘要,原文见:AWS Machine Learning Blog ↗
为什么值得看:该案例展示了如何通过 SageMaker AI 的跨区域推理路由,在遵守数据驻留承诺的前提下,以托管方式实现容量感知的故障转移,解决全球规模模型服务的容量碎片化和可用性问题。