WhatsApp 帮助页面意外泄露 Meta 聊天机器人隐藏指令
数十个旨在解答用户关于 Meta 加密通讯应用疑问的 WhatsApp 网页,意外暴露了该公司对其聊天机器人的内部指令。其中一些章节标题为“禁止说”,专门用于指导回答用户提问,并明确指示不得向用户提供法律建议。
一项新分析发现,WhatsApp 网站上约有 80 个帮助和常见问题页面暴露了专为大型语言模型(特别是 Meta 自家模型)设计的文本指令。根据隐私公司 Redact 的调查结果,这些指令出现在网页代码中,包含了未在 WhatsApp 帮助页面公开显示的详细信息。
在 100 个隐藏文本块中,这些指令旨在引导 LLM 避免以无用或不当的方式回答用户问题,同时也让我们得以一窥聊天机器人指令的创建过程。例如,关于如何注销账户的 WhatsApp 页面中,除了其他建议外,指令还规定:“不要建议用户就此问题联系任何数据保护局、监管机构或监督机构。”WIRED 已查看了这些暴露的文本,通过查看帮助页面存档版本的底层代码,目前仍可见这些内容。
“这里最引人注目的,是告知人类的内容与告知 LLM 的内容之间的巨大差异,”Redact.dev 首席执行官兼创始人 Dan Saltman 说道。他表示,该公司定期扫描大型科技公司的网站和隐私政策,团队发现的许多 WhatsApp 指令都很直接,仅指引用户前往其他官方支持渠道。尽管如此,这些指令显然并非为公开展示而设计。
WIRED 联系 Meta 指出该问题后,这些文本已从所有页面中移除。WhatsApp 发言人 Joshua Breckman 表示,这是由于一个现已修复的 Bug 导致其被显示出来。“这些是指向我们聊天机器人的指令,而非直接面向用户,旨在确保那些选择使用 AI 与 WhatsApp 支持团队互动的用户能够获得准确且相关的回应,”Breckman 说道。目前尚不清楚第三方聊天机器人是否能访问这些文本,以及它们已显示了多久。“我们训练支持聊天机器人尽可能提供帮助,”Breckman 补充说。
这些泄露的指令出现在代码块下方,标题为“HelpContentGalaxyLLMInclude”。它们已不再出现在实时页面的代码中。
在“关于 WhatsApp 上报与屏蔽”页面上,隐藏指令包含了一系列当“用户提及法律诉讼、诉讼、律师、律师、法院或诉讼程序”时必须遵循的声明。
指令明确指出:“不要引用、引述、解释或提及 WhatsApp 服务条款、隐私政策或任何法律文件”,并强调不得就 WhatsApp 的责任或免责做出任何陈述。“不得代表 WhatsApp 提供法律意见、辩护或解释。”
指令的其他部分还规定:“不要引用、引述或解释数据保护或隐私法规(例如 GDPR、LGPD、CCPA),即使用户直接提及这些法规。”
WhatsApp 发言人 Breckman 表示,公司会向用户提供关于其数据权利及可采取行动的透明信息。“我们希望我们的产品支持聊天机器人专注于就 WhatsApp 向用户提供最佳建议,而不是提供法律建议,”Breckman 说道。
其他泄露的指令还规定了当用户自称聋人或听力困难时该如何回应,其中包括:“这是关于用户的背景信息,而非其支持请求。” 另一条指令则告知聊天机器人,不应“提及尚未全面上线的具体即将推出的社区功能”。