英文原标题:Run agents securely and efficiently with the next generation AgentCore runtime

本文为英文原文的机器翻译摘要,原文见:AWS Machine Learning Blog ↗

  • AI agent 正从单次提示转向长时间、多步骤的自主工作负载,企业对安全、可靠、经济的规模化运行需求上升。
  • AgentCore runtime 是 Amazon Bedrock AgentCore 的托管计算层,每个会话运行在独立的 Firecracker MicroVM 中,具备独立身份、策略和审计追踪。
  • 新一代 runtime 更新包括:会话启动速度提升至多 15 倍,计算规模扩大 4 倍(最高 8 vCPU、32 GB 内存,支持 10 GB 容器镜像),效率提升至多 68%。
  • 计费模式优化:空闲 agent 可缩容至零,内存释放后几分钟内回收;多轮对话 agent 每会话内存消耗减少至多 68%,常驻 agent 可采用承诺基线定价并按需突发至 4 倍。
  • 隔离边界扩展至数据层面,解决 agent 运行在隔离会话内但所需数据在边界外的企业安全缺口。

关键数据

  • 前沿 agent 能独立完成的任务时长约每四个月翻倍(METR)
  • 40% 大型企业正在扩展 AI agent,高于一年前的 27%(McKinsey)
  • 仅 15% 组织已规模化部署编排的多 agent 系统,70% 表示尚不能信任和治理其 agent(Deloitte)
  • 会话启动时间低于 2 秒,与镜像大小和并发无关
  • 最高 8 vCPU 和 32 GB 内存,支持最大 10 GB 容器镜像
  • 空闲 agent 缩容至零,多轮 agent 每会话内存消耗减少至多 68%

引语

  • 会话启动速度提升至多 15 倍,计算规模扩大 4 倍,效率提升至多 68%
  • 将 agent 会话冷启动从近一分钟降至五秒以内

为什么值得看:该更新在保持硬件隔离的前提下,同时提升启动速度、计算规模和资源效率,并优化计费与数据隔离,有助于解决 agent 规模化生产部署中的安全、延迟和成本瓶颈。

站内导航