新闻 · AWS Machine Learning Blog
深度信任：在不让渡控制权的前提下赋予智能体更多自主权
企业领导者希望AI智能体承担更多工作，但并不完全信任它们每次都能正确行事。Trust in Depth是AWS的分层方法——界定范围、了解、约束、观察和验证——让智能体在行为可被验证时自主行动，将人类判断保留给真正需要决策的事项。
en
英文原标题：Trust in Depth: Giving agents more autonomy without losing control
本文为英文原文的机器翻译摘要，原文见：AWS Machine Learning Blog ↗
- 企业领导者希望AI代理承担更多工作，但担心其行为不可靠，因为代理具有自主性和创造性，每次运行路径可能不同，测试通过不代表未来行为正确。
- 传统的人工审批方式在规模扩大后会导致审查疲劳，成为瓶颈，因此需要让代理在可验证时自主行动，将人类判断保留给真正需要决策的环节。
- AWS提出Trust in Depth框架，通过独立分层的信任机制（类似Defense in Depth）来建立信心，让代理在无人监督时也能遵守限制。
- 该框架围绕代理生命周期提出四个问题：Scope（运行前定义范围）、Know（部署时确认身份和授权）、Bound（运行时限制行为）、Observe（运行后重建和审计）。
- 对于可精确表达的规则，使用自动推理（automated reasoning）进行数学证明；对于模糊规则，则限制访问、评估行为并将歧义交给人类判断。
关键数据
- AWS的IAM处理超过每秒21亿次请求
- AWS已在生产环境运行自动推理超过十年
引语
- Trust in Depth: Trust you can verify
- AWS calls it Trust in Depth.
为什么值得看：随着AI代理承担更高风险的任务，企业需要在赋予自主权和保持控制之间找到平衡，Trust in Depth提供了一种可验证的信任框架。