英文原标题:Introducing Kimi K3 on Amazon Bedrock

本文为英文原文的机器翻译摘要,原文见:AWS Machine Learning Blog ↗

  • Moonshot AI 的 Kimi K3 现已在 Amazon Bedrock 上线,官方称其为该公司最强模型,也是首个达到 2.8 万亿参数的开源模型。
  • Kimi K3 具备原生视觉能力与 100 万 token 上下文窗口,相比 Kimi K2 在扩展效率上提升约 2.5 倍,适合需要长上下文的编码与知识工作流。
  • 它是 Amazon Bedrock 上首个支持显式 prompt caching 的开源权重模型,可降低复用上下文时的延迟与输入成本。
  • AWS 持续在 Bedrock 上引入开源权重模型,2026 年新增工具调用、结构化输出、推理、响应流式传输以及 Responses 和 Chat Completions API 等平台能力。
  • 数据在 AWS 数据边界内处理,不共享给模型提供商、不用于训练底层模型,推理请求始终启用零数据保留,零操作员访问防止 AWS 操作员查看提示与补全。

关键数据

  • Kimi K3 参数规模为 2.8 万亿,是首个达到该规模的开源模型。
  • 上下文窗口为 100 万 token。
  • 相比 Kimi K2 扩展效率提升约 2.5 倍。
  • 显式缓存要求可复用前缀至少 1,024 token,缓存保留至少 30 分钟。
  • 全球跨区域推理比地理配置文件便宜约 10%。
  • 需要 Python 3.10+ 及 bedrock:InvokeModel、bedrock:InvokeModelWithResponseStream、bedrock:CallWithBearerToken 权限。

为什么值得看:Kimi K3 以超大参数、长上下文和显式缓存进入 Amazon Bedrock,为编码与知识工作流提供了兼顾能力、成本与数据控制的新选择。

站内导航