英文原标题:PolyAI Dialog-RSN-1 is now on Amazon SageMaker JumpStart

本文为英文原文的机器翻译摘要,原文见:AWS Machine Learning Blog ↗

  • PolyAI 的实时对话推理模型 Dialog-RSN-1 现已上线 AWS Marketplace 和 Amazon SageMaker JumpStart,用户可通过订阅在自有 AWS 环境中部署为 SageMaker 端点。
  • 该模型直接处理通话音频,单次完成感知、推理与实时响应,无需独立的语音转文字步骤,可捕捉语气、犹豫和时机等转录丢失的信号。
  • 端点兼容 OpenAI Realtime 协议,现有客户端只需修改 base URL 即可通过 PolyAI 桥接连接;音频输入为 16-bit PCM 单声道 16 或 24 kHz,连接最长 30 分钟,目前仅支持英语。
  • 在 SageMaker JumpStart 中提供一键部署,并设有延迟优化、吞吐优化、成本优化和均衡四种优化配置,部署前可查看 P50 延迟、首 token 时间等指标。
  • 端点运行在用户自己的 VPC 内,使用自有 IAM 角色和 CloudWatch 监控,通话音频与转录文本保留在用户可控边界内,便于满足数据驻留和审计要求。

关键数据

  • 音频输入为 16-bit PCM 单声道,采样率 16 或 24 kHz
  • 连接最长持续 30 分钟
  • 模型目前仅支持英语
  • 提供延迟优化、吞吐优化、成本优化和均衡四种优化配置
  • 部署前可查看 P50 延迟、首 token 时间和吞吐量指标

为什么值得看:Dialog-RSN-1 将实时语音对话推理模型引入 SageMaker JumpStart,让企业在自有 AWS 账户内一键部署并保留数据控制权,同时兼顾实时响应与语义理解。

站内导航