英文原标题:Announcing AI data preparation capabilities in Amazon SageMaker: Build high-quality datasets for model development workflows

本文为英文原文的机器翻译摘要,原文见:AWS Machine Learning Blog ↗

  • Amazon SageMaker AI 新增 AI 数据准备能力,旨在帮助团队为生成式 AI 模型开发构建高质量数据集,涵盖合成数据生成、数据质量评估、自动标注、人工审核和数据转换等模块。
  • 这些能力以独立的构建块形式提供,可通过 Python SDK API 或 AWS AI-ML agent skill 在笔记本或 IDE 中调用,用户可检查并修改生成的规格和代码。
  • 自动标注支持分类、命名实体识别、抽取式问答、序数评分和摘要等任务,对于固定答案集的任务,采用多模型陪审团机制,以模型间一致程度作为置信度分数。
  • 低置信度数据可进入基于 Label Studio 社区版的人工审核队列,审核者的修正会反馈到自动标注流程,并可生成共识指标和标注报告。
  • 数据质量评估可检查重复、近似重复、标签噪声和答案泄漏等问题;数据转换支持用自然语言描述变更、使用内置操作或运行自定义 Python 代码。

关键数据

  • 内置任务类型包括分类、命名实体识别、抽取式问答、序数评分和摘要。
  • 人工审核队列使用开源 Label Studio Community Edition。
  • Splunk 用于其 Agent Observability 产品的 GenAI Eval 模型训练。

引语

  • “我们能够可靠且快速地生成统计上具有代表性的合成数据集,同时保留模型依赖的底层模式。”

为什么值得看:该能力将数据准备中的标注、合成、评估和转换等环节整合为可组合的模块,有助于减少数据科学家在数据整理上的时间,并支持从原始数据到模型训练的连贯工作流。

站内导航