读者的反叛

阅读对我而言非常重要。虽然我既不算快读，也不算特别的读书狂热者，但我发现长篇阅读在我人生中产生了深远的影响。

正因为阅读对我如此重要，写作也一样：写作不仅能让我们传达思想，其本身的过程更迫使我们检验并提炼观点——这既让想法更加稳固，又提供了分享它们的载体。

但我现在写下这些，是因为作为一个读者，我们深感沮丧：太多人——那些我们 otherwise 喜欢和尊敬的人！——正在撰写（或以其他方式署名）明显由 LLM 生成的文章。我们这些读者不禁要问那些推崇 LLM 生成作品的人：你认为我们读不出来吗？还是你认为我们并不在乎？

对于第一个问题，答案是：我们绝对能看出来。对于广泛阅读的人来说，LLM 的痕迹显而易见，简直就像作者的精神拉链没拉好一样。事实上，这种违和感是如此强烈，以至于我不得不相信，那些使用 LLM 写作的人要么阅读量不足，未能察觉 LLM 那些显而易见的结构破绽；要么（或者？）他们甚至都没有读过自己生成的内容。（坦白说，面对那些特别拙劣的作品，我曾幻想让作者本人朗读一遍，因为我确信他们自己也无法忍受自己强加给我们的大堆垃圾。）

至于第二个问题，读者非常在意。实际上，大模型写作的痕迹如此刺耳（“而这就是为什么这种框架很重要！”），以至于我们的大脑会触发一种大模型触发的“弹射机制”，在中途就把我们甩出去，这是一种自我保护行为。这里特意使用了第一人称复数：正如 Cynthia Dunlop 所写的，在回复她调查的 668 名开发者中，78% 的人表示一旦检测到 LLM，就“立即停止阅读”。而且后果不止于此：Cynthia 调查中的 71% 受访者还“今后会回避该作者”（！！）。发人深省的是，受访者追求的不是语言完美，而是真实性：98% 的人表示更偏好作者亲笔（尽管不完美）的文章，而非经 LLM 润色的版本。最后，别把 Cynthia 的受访者简单视为自我选择的群体：社交媒体上的活跃读者恰恰是最可能转发自荐或推广他们喜欢的内容的人——他们是网络散文领域的早期采用者和品味引领者。

人们为何会有这种反应？除了不得不忍受令人恼火的语言习气之外，当阅读一篇由 LLM 大幅辅助的文章时，我们——读者——无法分辨什么是真实的、什么不是的。正如我在 RFD 576 中所写，用 LLM 写作等于破坏了作者与读者之间的社会契约：读者不应被期望为理解一个作者本人未曾努力打造的句子而费力推敲。

读者的反叛重要吗？这话得说清楚：当你使用 LLM 来撰写公开发布的文章时，你不再是为了自己写作，或借此压力测试自己的想法——此时的唯一目的便是服务读者。如果读者选择无视你（或许永远如此），那你便自毁前程：你不仅未能吸引读者，反而在主动驱赶他们。因此，抛开其他评判不论，使用 LLM 的效果将变得越来越……无效。

说到这里，我想起垃圾邮件的历史。2000 年代初，人们一度（相当合理地）担心垃圾邮件的泛滥会让电子邮件走向消亡。那还是社交网络兴起之前的年代，电子邮件堪称互联网的杀手级应用；眼看它要被垃圾邮件毁掉，实在令人沮丧。但到了 2000 年代后期，局面发生了转机：垃圾邮件过滤技术进步到足以摧毁垃圾邮件的经济逻辑。而且随着垃圾邮件被有效遏制，被标记为垃圾邮件的代价也越来越高。如今，正规企业使用群发邮件时都格外小心，因为一旦被标记为垃圾邮件，域名就等于报废，品牌形象也随之受损。

反垃圾邮件之战之所以出现转折，是因为我们能够大规模地识别垃圾邮件。类似的事情能不能也发生在 LLM 生成的文字上？和垃圾邮件一样，LLM 写的东西人类读者一眼就能看出痕迹，这理应是个可以解决的问题吧？

直到不久前，这个问题的解决效果一直参差不齐。我曾尝试用 LLM 本身来检测 LLM 生成的文字，但发现它们的漏报率实在太高了：我百分百确定是 LLM 写的内容，它们却欣然判定为人类作品。另一些检测服务似乎只盯着 LLM 的一些表面特征，但作为一个狂热（且毫不悔改！）使用破折号的人，这些肤浅的检测手段让我如坐针毡（而且它们可靠度太低，根本不值得日常使用）。

去年年底，Pangram Labs 发布了Pangram 3 模型。我发现它比其他检测工具有了质的飞跃，从此成了重度用户。重要的是，经过数月的使用（尤其是针对那些我本就知道出处的样本），我发现它的误报率非常低：只要 Pangram 判定某段文字大部分由 AI 写成，我就能相当有把握地认为其中确实大量使用了 LLM。（它的漏报率比我所希望的高一些，但为了低误报率，这点代价完全值得。）

一个多月前，他们推出了 Pangram 4，我发现它相比同样令人印象深刻的 Pangram 3 实现了跨越式的提升：据我的经验，它的误报率和漏报率都低得惊人（也就是说：准确率极高）。鉴于它如此有效，以及公众对使用 LLM 的声音的信任崩塌得如此迅速，我最近将 RFD 576 扩展为明确涉及公开写作，特别规定公开出版的 Oxide 写作必须由 Pangram 标识为人类作者。正如我在该 RFD 中所解释的，我们对公开写作的标准不仅仅是「不使用 LLM 撰写」，而是读者有充分的信心确认其非 LLM 生成——而这日益意味着需要通过 Pangram 检测。对于那些珍视机构声音真实性的组织，我建议制定类似政策，规范旗下作者的写作行为。（此处特意点名 Rust Foundation！）

事实上，Pangram 对我们中的许多人来说已变得至关重要，因此当 Pangram Labs 联合创始人兼 CEO Max Spero 最近做客我们的 Oxide and Friends 时，我倍感欣喜。我推荐大家聆听这段对话，不仅因为其中涉及 Pangram 的技术细节，还因为 Adam 随手抛出了一个精准无比（尽管当时鲜有人欣赏）的《辛普森一家》梗：当我把 LLM 生成的写作比作「把外卖当自家厨艺端上桌」时，Adam 调侃道这种写作就像「蒸火腿」，影射了 Skinner 校长试图把 Krusty Burger 谎称成老配方」的那集经典情节。除了这个恰到好处的小插曲，Max 对 Pangram 4 为何如此有效——以及其效果为何引发某些可疑的抗议声浪——的洞察也很有意思。

所以，写作者们请注意：读者正在反抗。 你完全可以预期你的文章会被 Pangram 处理一遍。如果你认为用 LLM 根据你的提示词生成文本没什么问题，那就别浪费大家的时间，直接把提示词交出来就好。或者，更明智的做法是效仿历代写作者，把提示词当作骨架，亲自动笔完成文章！当然，这并不意味着 LLM 毫无用处——LLM 是卓越的编辑助手——只是说，如果你真指望其他人会读你的作品，就别让它代笔。