AI决策模型如何改变内容审核

英文原标题：How AI decision models could change content moderation

本文为英文原文的机器翻译摘要，原文见：TechCrunch AI ↗

• Musubi公司发布了一款名为PolicyLM-1.7B的轻量级决策模型，专为实时内容审核设计，并开放了模型权重。
• 该模型能将用自然语言写成的政策应用于消息，处理时间低于50毫秒，且成本与速度接近主流社交平台使用的AI分类器。
• 由于具备现代LLM的灵活性，PolicyLM-1.7B无需特殊训练即可应用复杂政策，政策变更时也无需重新训练，方便人工政策制定者迭代。
• Musubi联合创始人兼首席AI官Filip Jankovic认为，这能让平台管理者主动标记内容，帮助产品团队更好地理解平台上发生的事情。
• 决策模型自Typesafe AI的Jev发布后成为热点，OpenAI和亚马逊也相继推出竞品；这类模型输出结果概率而非文本，速度更快、成本更低。

关键数据

• 模型名称：PolicyLM-1.7B
• 处理时间：低于50毫秒
• 发布时间：周二
• Jev发布时间：9月
• 相关项目：2024年的GLiNER

为什么值得看：决策模型正成为AI热点，Musubi将其用于内容审核，提供了一种快速、低成本且灵活的政策执行方式，可能改变平台内容管理。