Amazon Quick 中的智能审批：在关键环节保留人工监督

英文原标题：Smart Approvals in Amazon Quick: Human oversight where it matters

本文为英文原文的机器翻译摘要，原文见：AWS Machine Learning Blog ↗

• Smart Approvals 是 Amazon Quick 中的一项功能，旨在在 AI 代理执行操作时保留人类监督，通过自动审核符合条件的操作来减少不必要的审批提示，同时不授予额外权限或移除必需的人工审批。
• 策略决定边界：Quick 根据 Custom Permissions、Quick Guardrails、连接器操作权限和用户设置评估每个操作，被拒绝的操作保持拒绝，强制人工审批仍然适用。只有用户设置为“每次询问”且无其他控制要求人工审批时，操作才符合自动审核条件。
• 审核机制：Smart Approvals 使用独立的分类器模型，根据用户请求和有限对话上下文评估操作，考虑操作内容、数据去向和影响对象，并可查询用户的知识图谱以理解人际关系。自动批准仅限单次使用，且仅适用于审核的确切操作和参数。
• 当操作超出请求范围时（如将内容发送给请求中未指定的更广泛受众），Smart Approvals 会将其返回给用户审核，且之前的批准不能重复用于更广的受众。
• 审计与调查：权限服务将相关权限更新记录到 AWS CloudTrail，聊天日志和代理元数据日志可传递到 CloudWatch Logs，帮助重建事件过程。CloudTrail 事件历史保留 90 天，建议配置跟踪以支持更长时间调查。

关键数据

• CloudTrail Event history 保留事件 90 天
• 示例中所有销售分发列表约 2,000 人
• Smart Approvals 默认开启
• 自动批准为单次使用，仅适用于审核的确切操作和参数

为什么值得看：它为安全领导者提供了一种在 AI 代理承担更多工作时平衡效率与人类监督的方法，并通过试点和审计证据来验证其有效性。