新闻 · Hugging Face Blog
nemotron-halloween
en
英文原标题：nemotron-halloween
本文为英文原文的机器翻译摘要，原文见：Hugging Face Blog ↗
- 作者利用NVIDIA Nemotron开源模型打造了名为MonsterHouse的万圣节互动投影装置，让车库门化身脾气暴躁的老海盗船，与讨糖的孩子对话。
- 系统基于Nemotron Voice Agent构建，整合了Nemotron ASR语音识别、Nemotron 3.5 Bolt E4B 4GB语言模型、Magpie TTS Zeroshot语音合成和Audio2Face-3D面部动画，全部运行在一台工作站上。
- 对话流程设计为：房子先以抱怨回应访客，但一句“please”能立刻打破僵局，“thank you”则获得温暖告别，且一旦被说服就会保持友好。
- 作者测试了十多个模型后选择Bolt E4B作为对话核心，因其专为本地对话代理设计且占用更小，并训练了LoRA适配器来塑造角色性格。
- 为降低延迟，系统采用流式输出和缓存策略：使用Bolt Q4与TTS时语音结束到音频的中位延迟为1.70秒，缓存响应时仅0.72秒。
关键数据
- Bolt E4B 4GB为4位量化版本，BF16检查点可用于对比
- 训练数据集包含超过5000段多轮对话
- 使用Bolt Q4与TTS时，语音结束到音频的中位延迟为1.70秒
- 缓存响应时，语音结束到音频的中位延迟为0.72秒
- 语音结束检测目前等待300毫秒静音
- 硬件包括NVIDIA RTX PRO 6000 Blackwell Max-Q和RTX PRO 4000 Blackwell
引语
- “I’m busy grumbling, go bother the neighbors!”
- “A ‘Please’ could break through immediately”
为什么值得看：该案例展示了如何用开源模型和单台工作站构建低延迟、有性格的实时语音交互角色，为本地化AI互动装置提供了可复用的技术路径。