英文原标题:How MRH Trowe enabled secure self-service AI agents in financial services

本文为英文原文的机器翻译摘要,原文见:AWS Machine Learning Blog ↗

  • MRH Trowe 是德国领先的商业和工业保险经纪商,在德国、瑞士和奥地利运营,是首批完全基于云 IT 基础设施运营的德国保险经纪商之一,AWS 是其首选合作伙伴。
  • 公司面临员工对生成式 AI 的需求增长,但担心分散、不受管理的工具导致敏感客户和保险数据泄露,因此需要让员工自助构建和使用 AI 代理,同时保持安全、集中治理的环境。
  • 解决方案结合了 Strands Agents(开源 SDK,简化代理创建)、Amazon Bedrock AgentCore(生产环境平台,支持开源框架、会话隔离和成本透明)和 LibreChat(开源聊天界面,提供用户管理、令牌预算、多模型支持和品牌定制)。
  • 首个生产代理将 Microsoft Teams 会议转化为结构化会议纪要,员工在 LibreChat 中用德语请求,代理查找会议、检索转录并起草摘要,所有处理在 AWS 欧洲(法兰克福)区域进行,确保数据留在德国。
  • 架构部署在单个 AWS 账户的 VPC 内,包括安全连接(中转网关和零信任提供商)、应用层(LibreChat 等容器化服务)、数据层(DocumentDB、ElastiCache、RDS、OpenSearch、EFS、S3)和代理层(Strands + AgentCore)。

关键数据

  • 约 400 名员工在第一个月内获得安全自助 AI 代理访问权限
  • 初始生产成本约为每席位每月 14 美元
  • 通过合理调整规模和计划扩展,基础设施成本有望降低约 40%
  • 处理在 AWS 欧洲(法兰克福)区域进行,基础模型在 eu-central-1 可用

引语

  • 每个问题都应首先由 AI 回答,然后才由人工干预,重复性流程应由过去执行它们的人自动化。

为什么值得看:该案例展示了金融服务业如何在严格监管下,通过结合开源工具和云服务,安全、合规地实现 AI 代理的自助服务,并控制成本和数据驻留。

站内导航