英文原标题:Best practices for writing Denied Topics in Amazon Bedrock Guardrails

本文为英文原文的机器翻译摘要,原文见:AWS Machine Learning Blog ↗

  • Amazon Bedrock Guardrails 的 Denied Topics 按语义而非关键词匹配,容易误伤含义相近的合法请求,文章归纳了四类常见编写问题:按主题领域而非用户意图定义、用关键词列表导致漏判和误判、示例教错边界、多个主题定义重叠互相干扰。
  • 文章以虚构的 AnyCompany Bank 客服助手为例,其初版 Finance、Legal、Fraud、Competitors 四个主题都按领域命名,结果拦截了“直接存款何时到账”“帮忙修改房贷”等本应放行的查询。
  • 最佳实践 1 建议围绕用户意图而非主题领域来框定主题,并用表达该意图的具体动作或内容类型来命名,定义也应以“Asking for X”“Requests for Y”等动作开头,避免“Related to X”这类领域式开头。
  • 最佳实践 2 强调主题名称对匹配范围影响很大,宽泛的类别名(如 Finance、Security、Legal)会扩大语义关联,应改用 2–5 个词的具体动作或行为短语(如 Investment Recommendations、Suing for Damages)。
  • 文章说明 Standard 层级下每个主题由名称、定义和最多 5 个示例组成,三者作为整体被评估;名称上限 100 字符,定义上限 1,000 字符(实用区间 100–300),示例各 100 字符,单个 guardrail 最多容纳 30 个主题。

关键数据

  • 主题名称最多 100 字符
  • 定义最多 1,000 字符,实用区间为 100–300 字符
  • 每个示例最多 100 字符,每个主题最多 5 个示例
  • 一个 guardrail 最多可包含 30 个主题

引语

  • Intention is the framing lens.

为什么值得看:Denied Topics 按语义匹配,主题写得过宽会误拦正常业务查询,文章给出的命名与定义方法能帮助在拦截违规内容和放行合法请求之间取得平衡。

站内导航