Amazon Bedrock上Anthropic Claude模型的结构化输出

英文原标题：Structured outputs for Anthropic Claude models on Amazon Bedrock

本文为英文原文的机器翻译摘要，原文见：AWS Machine Learning Blog ↗

• Amazon Bedrock 现为所有 Anthropic Claude 模型提供结构化输出，覆盖 bedrock-runtime 和 bedrock-mantle 两个端点，开发者可直接获得符合预定义 JSON schema 的响应，无需自定义解析、重试或后处理。
• 该功能采用约束解码，在 token 生成阶段强制执行 JSON schema，使输出格式从概率性变为确定性；同时提供 JSON Schema 输出格式和严格工具使用两种机制，分别用于控制响应结构和校验工具参数。
• 结构化输出保证每个响应都是有效 JSON、字段类型安全且必填字段始终存在，因此无需因 schema 违规而重试；同时只输出 schema 定义的字段，可减少输出 token 数，在高并发场景下可能降低推理成本。
• 该功能支持批量推理，在 bedrock-runtime 端点还支持跨区域推理，并可流式返回结构化响应；工作流程包括 schema 校验（基于 JSON Schema Draft 2020-12 子集）、语法编译、缓存 24 小时和约束生成。
• 首次使用新 schema 时因需编译语法工件可能稍慢，后续请求因缓存而开销极小；缓存按账户隔离、有效期 24 小时，修改 schema 结构会使缓存失效，仅改名称或描述则保留缓存。

关键数据

• 支持 JSON Schema Draft 2020-12 子集
• 编译后的语法缓存有效期为 24 小时
• 缓存按账户隔离
• 修改 schema 结构会触发重新编译，仅改 name 或 description 字段不影响缓存

为什么值得看：结构化输出将 Claude 在 Bedrock 上的响应格式从概率性变为确定性，减少解析错误和重试，并可能降低高并发场景的推理成本，使生产级部署更可靠。