OpenAI 将在欧盟为 ChatGPT 文本添加隐形水印

OpenAI 周一在一篇 博客文章 中表示，为遵守欧盟《人工智能法案》（EU AI Act），该公司将开始为欧盟境内由 ChatGPT 和 Codex 生成的文本添加不可见水印。

欧盟《人工智能法案》的透明度规定已于 8 月 2 日生效，要求 AI 公司必须以其他系统能够识别的方式标记 AI 生成内容。

OpenAI 称，该水印将在未来几周面向欧盟境内所有套餐的符合条件的 ChatGPT 和 Codex 用户逐步推出。全球开发者也可即日起在 OpenAI API 的指定模型上启用此功能，但默认处于关闭状态。OpenAI 表示，目前尚未将文本水印设为全球默认选项。

该水印并非实际的符号，而是通过微妙地影响模型选词来运作，留下一种读者看不见但检测器能捕捉到的模式。由于水印嵌入在文本中，复制粘贴时会随之移动。OpenAI 称，该水印无法识别用户身份，且开启后模型性能未见显著变化。

OpenAI 还随公告发布了名为 textGrain 的方法的技术报告。该报告由宾夕法尼亚大学和耶鲁大学的研究者共同撰写，通过示例展示了如何使用密钥对下一个单词的预测进行排序以补全句子。将这些微小的引导累积数百次，检测器即可仅凭文本和密钥识别出 AI 生成内容。

通过编辑能否去除水印？OpenAI 的测试表明可以。在其中一个测试中，用同义词替换 10% 的单词后，检测率从约 92% 降至 66%。该公司还指出，短文、数学答案和翻译文本更难被检测。

该公司表示：“这些局限性促使我们决定仅向经过批准的研究人员和专家机构开放检测器，以便他们帮助我们评估其可靠性和负责任的使用方式。”

OpenAI 还提醒道，缺少水印“并不能证明内容由人工撰写”。文本可能太短、被大幅修改，或来自其他公司的 AI。

该公司补充道：“[水印] 只能表明 OpenAI 系统生成或处理了段落的一部分，但无法反映其中包含多少人工判断、编辑或创造力。”

就在两个月前，Anthropic 宣布将为其 Claude 模型生成的文本添加水印，这一措施已在全球范围内实施。该决定引发部分 Claude 用户的强烈不满，他们认为自己是提供“指令、上下文和决策”的一方，而 Claude 只是“工具”。

据《华尔街日报》2024 年报道，OpenAI 此前已开发出文本水印技术，但因担心用户会转向不添加水印的竞争对手而推迟上线。

Anthropic、Google、Meta、Microsoft 和 OpenAI 均已承诺遵守 欧盟关于 AI 生成内容的行为准则。