英文原标题:Palette: teaching a small model to build decks in your design language

本文为英文原文的机器翻译摘要,原文见:Hugging Face Blog ↗

  • Palette 项目旨在训练一个小型开源模型,使其能按照企业自身的设计语言生成演示文稿,从而避免前沿模型风格趋同和机密内容外泄的问题。
  • 幻灯片生成对小型模型来说很难,因为模型需要在不看渲染结果的情况下进行布局计算,同时兼顾编辑判断和几何定位,而且缺乏公开的演示文稿制作过程数据。
  • Palette 将任务拆分为设计师和编码者两个角色,由同一个 LoRA 适配器承担:设计师输出结构化 JSON 简报,编码者根据简报为每页幻灯片编写 pptxgenjs 代码,编码阶段可并行执行,速度提升约 6–7 倍。
  • 训练数据由大型开放教师模型合成,约 1000 个演示文稿、近 1 万页幻灯片,每个示例都包含反事实推理;合成数据经过渲染检查,修复重叠和溢出问题,并将修复过程改写为新的训练示例。
  • 用户可以通过 [[ ]] 包裹的指令(directive)用自然语言控制设计,例如 [[make this a timeline]],模型因训练时见过 12 类指令的多种表述而能理解意图。

关键数据

  • 微调了一个 20B 模型
  • 在 PresentBench 的三个测量领域中排名第一的有两个
  • 编码阶段约快 6–7 倍
  • 编码者示例长度约为设计师示例的 5 倍,因此对设计师示例进行了 5 倍过采样
  • 生成约 1000 个演示文稿,覆盖约 10,000 页幻灯片
  • 指令数据包含 12 个类别

为什么值得看:它验证了小型开源模型经过合成数据训练和检查修复流程后,能在特定设计语言下生成可用演示文稿,同时让企业保留对模型和数据的控制权。

站内导航