ChatGPT 即将“悄悄”给回答加水印：这对你复制和分享的文本意味着什么？

今年早些时候，我写过一篇文章介绍 Claude 的决定：遵守 欧盟人工智能法案。该法案要求所有 AI 生成的文本都必须可被识别为 AI 产物，因此 Claude 开始在生成的文本中嵌入水印。不过，Anthropic 并未将此限制在欧盟客户范围内，而是决定全球推广这一功能，这在当时看起来似乎有些反应过度。

现在，OpenAI 也宣布了类似举措，但将影响范围限定在欧盟地区。OpenAI 将在生成的文本中插入水印，但仅针对居住在欧盟的 ChatGPT 用户。这意味着美国和不列颠群岛用户完全不受影响。

OpenAI 于 10 月 5 日公布了这项变更：“未来几周，我们将为欧盟地区符合条件的 ChatGPT 和 Codex 文本输出添加不可见水印。”

最新视频 | TechRadar 在此观看完整视频：

水印的插入方式

为插入水印——这需要微妙地改变生成文本的用词——OpenAI 使用了一套自研系统，称为 textGrain。OpenAI 官网的说明指出：“我们的文本水印技术 textGrain 会在模型选词中嵌入一种不可见的统计信号。检测器会寻找这种信号，以判断某段文字是否含有 OpenAI 水印。关于 textGrain 工作原理的更多细节，请参见我们的技术报告⁠，未来几周将补充更多细节。”

和许多人一样，我觉得这个观念很糟糕：我付费使用的 AI，其用词选择现在会受到水印算法的影响，而非以顾客利益最大化为优先。我并非说生成的文本会因水印而自动变差，但说它达到最优水平肯定是不准确的。

而且这个方案听起来漏洞百出，很容易被绕过。检测 textGrain 水印生成的 AI 文本需要专用的 AI 检测工具，而该工具目前并未对公众开放。OpenAI 表示正在向研究人员和专业机构提供检测工具的访问权限，获批的研究人员和机构即日起就可以申请。

OpenAI 的文章还提到：“该工具只报告是否检测到 OpenAI 水印，不会识别用户身份，也不会泄露用户的提示词或对话内容。考虑到存在漏检和误判的风险，我们不会在发布时将其向公众开放。”

那么问题来了：既然检测工具不对公众开放，这个水印到底有什么意义？

走过场而已？

OpenAI 的文章明确指出，检测工具容易出错，“较短或受约束较多的文本更难检测”，而且“编辑文本会削弱水印效果”。这已经够离谱了，但更值得注意的是：如果你直接要求 ChatGPT 别用能被检测的写作方式、或者别用 textGrain，它会照做吗？

种种迹象让我得出结论：OpenAI 这步棋，看起来更像是为了应付欧盟《AI 法案》而做的表面功夫。法案要求生成式 AI 提供商以“机器可读的方式”让生成的文本可被识别，OpenAI 不得不照办。

好消息是，这些改动只会在欧盟内部实施，使用检测工具时文本内容也会保持私密。但我怀疑，大多数 ChatGPT 用户宁愿 OpenAI 把精力放在生成更好的回答上，而不是想方设法让这些回答更容易被识别为 AI 生成。

这套系统还有一个根本性的怪异之处：它故意改变 AI 选用的词语，却又不告诉你具体改了哪些，只为插入一个水印。而这个水印，你稍加编辑文字就可能把它去掉。如果目标是让 AI 生成的内容变得更透明，那答案应该是一套真正行之有效的方案，而不是一个连外部人士都无法自行核查的隐形信号。

---