英文原标题:DaisyRose-27B: Pushing the Frontier of Post-Training Efficiency

本文为英文原文的机器翻译摘要,原文见:Hugging Face Blog ↗

  • RadixArk 发布首个模型 DaisyRose-27B,基于 Qwen3.8-27B,使用 Miles 框架进行强化学习后训练,专注于长周期智能体任务。
  • 训练仅用 1,200 个精选任务,在 144 块 H200 GPU 上耗时 18 天,会话长度可达 1M tokens,并通过 harness summarization 跨多个轨迹。
  • 在 Terminal-Bench 4.1 上 pass@1 从 5.6% 提升至 12.0%,并在 Terminal Bench 2.1、DeepSWE v1.1、SWE Bench Pro v2、HLE、IFBench、GPQA Diamond 等基准上全面优于原模型。
  • 训练后端采用全异步模式:128 块 H200 运行推理,16 块运行训练器;内部后端 MFU 达 37%,开源训练器为 16%,同等训练节省 57% GPU 时间,端到端速度约 2 倍。
  • 沙箱服务基于开源 AgentENV,项目期间运行约 944,000 个沙箱,最高并发 1,566 个,99% 创建成功(10 月底后超 99.95%),云基础设施成本比主流云沙箱提供商低约 80%。

关键数据

  • 训练使用 144 块 H200 GPU,18 天,1,200 个精选任务,总计 63,000 GPU-hours
  • Terminal-Bench 4.1 pass@1 从 5.6% 提升至 12.0%
  • 内部后端 MFU 37%,开源训练器 16%,节省 57% GPU 时间
  • 发布运行训练速度约 16,800 tokens/秒,开源训练器约 8,300 tokens/秒
  • 沙箱运行约 944,000 个,最高并发 1,566 个,99% 创建成功,10 月底后超 99.95%
  • 沙箱云成本比主流云沙箱提供商低约 80%
  • 模型保留 256K-token 上下文窗口,以 Apache 2.0 提供 BF16、FP8、NVFP4 检查点

引语

  • 57% lower training cost.
  • 2× faster end to end.

为什么值得看:该模型展示了用少量精选任务和高效异步训练后端,在有限 GPU 资源下显著提升智能体任务表现并大幅降低训练与沙箱成本。

站内导航