Orca Security 利用 Amazon Bedrock 实现自然语言安全查询

英文原标题：Natural language security queries at Orca Security using Amazon Bedrock

本文为英文原文的机器翻译摘要，原文见：AWS Machine Learning Blog ↗

• Orca Security 与 AWS 合作，基于 Amazon Bedrock 构建了自然语言查询代理 Discovery AI，将用户的自然语言问题转换为 Sonar 查询。
• Sonar 是 Orca 的领域特定查询系统，覆盖 900 多种云模型，用户需精确指定模型名、从 18 个操作符中选择并导航嵌套关系，门槛较高。
• 最初的概念验证将完整 Sonar schema 加载到单个提示中，输出质量虽好，但生产规模下存在输入 token 约 200 万、端到端延迟约 60 秒、复杂多模型查询准确率有限等问题。
• Discovery AI 采用九阶段流水线，结合 RAG 与 schema 感知查询构建，各阶段匹配不同的 Amazon Bedrock 基础模型，包括 Amazon Titan Text Embeddings、Cohere Rerank 3.5、Anthropic Claude Haiku 4.5 和 Amazon Nova 2 Lite 等。
• 流水线包含快速确定性匹配器、LLM 护栏筛查、语义候选召回、神经重排序、模型选择、工具增强的代理式过滤器生成以及静态与 API 验证等步骤。

关键数据

• 覆盖超过 900 种云模型
• 18 个操作符
• 初始基线约 200 万输入 token 每工作负载
• 初始基线端到端响应时间约 60 秒
• 查询成本降低 90%
• 输入 token 减少 93%
• 延迟降低 75%
• 每天处理数千次查询
• 响应时间约 15 秒
• 检索 20 个最近示例，重排序后选 5 个最高信号示例

为什么值得看：该案例展示了如何通过多阶段流水线和多模型编排，将自然语言查询云基础设施的成本、token 消耗和延迟大幅降低，为类似领域特定查询场景提供了可复用的架构参考。