英文原标题:Introducing Anthropic models on Amazon Bedrock for in-region inference in Seoul and Singapore

本文为英文原文的机器翻译摘要,原文见:AWS Machine Learning Blog ↗

  • Amazon Bedrock 现支持在首尔和新加坡区域进行区域内推理(in-region inference),调用 Anthropic 的 Claude 模型:首尔支持 Claude Opus 5 和 Claude Sonnet 5,新加坡支持 Claude Sonnet 5。
  • 区域内推理意味着请求完全在指定的单个 AWS 区域内处理,输入提示和输出结果在整个请求生命周期内都不会离开该区域,适合金融服务、医疗和公共部门等有严格数据驻留要求的场景。
  • 与跨区域推理配置文件不同,区域内推理没有路由层,请求由该区域单独服务,但吞吐量受该区域容量限制,并受各区域服务配额约束;计费按所调用区域的标准按需定价执行。
  • 配额消耗、CloudWatch 指标和 CloudTrail 日志均限定在同一区域内,监控中无需区分源和目标区域。
  • 可通过 bedrock-runtime 端点使用直接模型 ID(如 anthropic.claude-opus-5 或 anthropic.claude-sonnet-5)调用,支持 Anthropic Messages API、Amazon Bedrock InvokeModel 和 Converse API,以及 Guardrails 和智能提示路由等功能。

关键数据

  • 首尔区域代码为 ap-northeast-2,新加坡区域代码为 ap-southeast-1。
  • 首尔支持 Claude Opus 5 和 Claude Sonnet 5,新加坡支持 Claude Sonnet 5。
  • 示例代码中 max_tokens 设置为 4096 或 1024。
  • 使用 Anthropic Messages API 时需安装 anthropic 和 aws_bedrock_token_generator 包。

为什么值得看:对于在韩国或新加坡有严格数据驻留要求的企业,现在可以在本地区域直接使用 Anthropic Claude 模型进行推理,无需将数据传出区域。

站内导航