OpenAI 将在欧盟为 ChatGPT 文本添加水印

英文原标题：OpenAI will start watermarking ChatGPT’s text in the EU

本文为英文原文的机器翻译摘要，原文见：TechCrunch AI ↗

• OpenAI宣布将在欧盟为ChatGPT和Codex生成的文本添加不可见水印，以遵守8月2日生效的欧盟AI法案透明度规则。
• 水印将在未来几周内向欧盟所有套餐的合格用户推出；全球开发者即日起可通过API为部分模型开启，但默认关闭，OpenAI暂不将其设为全球默认。
• 水印并非可见符号，而是通过微妙调整模型用词留下检测器可识别的模式，随文本复制粘贴而保留；OpenAI称水印不识别用户，且模型性能无明显变化。
• OpenAI发布名为textGrain的技术报告，与宾夕法尼亚大学和耶鲁大学研究人员合著，描述用密钥排序下一个词预测的方法。
• 测试显示水印可被编辑去除：替换10%的同义词使检测率从约92%降至66%；短文本、数学答案和翻译文本更难检测。

关键数据

• 欧盟AI法案透明度规则于8月2日生效
• 替换10%词语为同义词后，检测率从约92%降至66%
• Anthropic在两个月前宣布对Claude文本加水印，并在全球应用
• OpenAI曾在2024年因担心用户转向竞争对手而暂缓发布文本水印

引语

• “这些限制促使我们决定仅向经批准的研究人员和专家组织提供初始检测器访问权限”
• “水印可以表明OpenAI系统生成或处理了部分段落，但不能说明其中有多少人类判断、编辑或创造力”

为什么值得看：这反映了AI公司为遵守欧盟AI法案而采取的内容溯源措施，以及水印技术的实际局限和行业竞争考量。