使用 LFM2.5-24B-A2B 在设备端运行快速、私密的智能体

英文原标题：Run fast, private agents on-device with LFM2.5-24B-A2B

本文为英文原文的机器翻译摘要，原文见：Hugging Face Blog ↗

• LiquidAI 发布 LFM2.5-24B-A2B，总参数 24B、每 token 仅激活 2B，专为设备端快速、私密的智能体设计，能先推理再回答、调用工具并完成多步任务。
• 架构延续 LFM2-24B-A2B：40 层、每 MoE 块 64 专家 top-4 路由、门控短卷积与 GQA 混合；上下文从 32K 扩至 131K，词表经原地扩展从 65K 翻倍至 128K，且为纯推理模型，会输出显式思维链。
• 训练规模扩大：预训练从约 17T 增至约 33T token；中期训练加入 2T token（32K 上下文，偏推理/数学/代码/指令/多语言）和 300B token（131K 上下文，偏长上下文）；后训练分 SFT、教师专精、非智能体 MOPD、智能体 MOPD、智能体 RL 五阶段，并在 OpenClaw、Hermes Agent、Pi、OpenCode 等 harness 中训练。
• 在 16 项基准上对比 Qwen3.6-35B-A3B、Gemma-4-26B-A4B-it、Nemotron-3.5-Lightning：工具使用与智能体任务领先或持平（如 AutomationBench 27.69 为次优三倍以上，LiveClaw 48.09 对 38.19），三项指令遵循基准均领先；但知识类（GPQA Diamond、HLE、AA-Omniscience）和编码类（SWE-Bench Verified、SciCode）仍落后于更大模型，建议搭配检索或网络搜索。
• 推理速度：在 M5 Max 上 184 tok/s、Ryzen AI Max+ 395 上 114 tok/s，比次优模型快至多 1.7 倍且内存占用最低；单张 B300 GPU 高并发下输出超 21K tok/s。首日支持 llama.cpp、MLX、vLLM、SGLang、ONNX。

关键数据

• 24B 总参数、2B 激活参数
• 上下文窗口 131K token，词表 128K
• 预训练约 33T token，中期训练 2T（32K）+300B（131K）token
• LiveClaw 48.09 对 Qwen3.6-35B-A3B 的 38.19
• AutomationBench 27.69，为次优模型三倍以上
• M5 Max 184 tok/s，Ryzen AI Max+ 395 114 tok/s，比次优快至多 1.7 倍
• 单张 B300 高并发输出超 21K tok/s

为什么值得看：该模型以更小激活参数在工具调用与指令遵循上媲美更大 MoE，并能在本地设备高速运行，为私密、低成本的端侧智能体提供了新选择。