新闻 · AWS Machine Learning Blog
Amazon Bedrock 推出基于印度的 Kimi K3 推理服务
Amazon Bedrock 现为 Kimi K3 提供印度境内推理服务，处理过程保持在孟买和海得拉巴区域。本文介绍了全球和地理跨区域推理选项，并分享了使用 Kimi K3 读取和理解印度语系文档的示例代码。
en
英文原标题：Introducing India-based inference for Kimi K3 on Amazon Bedrock
本文为英文原文的机器翻译摘要，原文见：AWS Machine Learning Blog ↗
- Amazon Bedrock 新增印度境内推理选项，支持 Kimi K3 模型，满足严格数据驻留要求的本地工作负载。
- Kimi K3 是 Moonshot AI 推出的多模态开放权重基础模型，据称在发布时达到前沿水平的编码和通用智能体能力。
- 通过跨区域推理配置文件控制推理目的地：global.moonshotai.kimi-k3 为全球推理，成本最低；in.moonshotai.kimi-k3 确保推理仅在印度孟买和海得拉巴区域处理。
- 客户 Ultrahuman 已在生产中使用，其 AI 健康助手 Jade 每天处理超过 14,000 次对话，利用提示缓存将 LLM 成本降低 80%，多轮聊天速度提升 85%。
- 文章提供 Indic 语言文档理解示例，包括 OCR 和 Hinglish 问答，展示如何通过 OpenAI 兼容 API 调用模型，并建议将图像置于文本之前以提高输出质量。
关键数据
- Ultrahuman 的 Jade 助手每天处理超过 14,000 次对话。
- 使用提示缓存后，LLM 成本降低 80%，多轮聊天速度提升 85%。
- 印度地理推理配置文件 ID 为 in.moonshotai.kimi-k3，目的地为孟买（ap-south-1）和海得拉巴（ap-south-2）区域。
为什么值得看：它为有严格数据驻留要求的印度客户提供了在 AWS 上使用前沿开放权重模型进行本地推理的合规选项，并已有生产案例验证成本与性能优势。