英文原标题:Four layers of context engineering for production AI agents: How Deep Insight applies them in working code
本文为英文原文的机器翻译摘要,原文见:AWS Machine Learning Blog ↗
- 生产级AI代理在处理数据分析、报告生成等任务时,上下文管理是主要瓶颈;200K token窗口在真实任务中可能几分钟耗尽,导致执行失败、准确性下降或成本上升。
- 文章将上下文工程分为四层:架构层通过多代理隔离上下文;提示层通过输出控制和行为规则限制上下文流入;工具层将重内容外化到文件系统;验证层用独立代理和保障措施捕获错误。
- Deep Insight是基于Strands Agents SDK和Amazon Bedrock AgentCore的开源多代理数据分析方案,作为参考实现展示四层实践;其Coordinator、Planner、Plan Reviewer、Supervisor和Tool Agents层级中,每个代理拥有独立上下文。
- 隔离的关键是最小化共享信息:shared_state仅存储messages、clues、full_plan和history;clues使用固定格式传递压缩后的核心结果,而非完整对话历史。
- 提示层为每个代理设定输出token预算(如Coder为1,000–1,500 tokens),防止长响应污染Supervisor上下文;参考实现中,单一写入执行工具将每个脚本添加到上下文的token减少约95%,按需加载技能使系统提示缩小约97%。
关键数据
- 200K token上下文窗口
- 复杂任务消耗超过150K tokens,耗时15分钟
- Coder代理总token保持在25K以下
- Coder输出预算1,000–1,500 tokens
- 写入执行工具减少约95%的脚本token
- 按需加载技能使系统提示缩小约97%
为什么值得看:文章提供了可落地的四层上下文工程框架和开源参考实现,帮助解决生产AI代理因上下文膨胀导致的失败、降智和成本问题。