WhatsApp 帮助页面泄露了元聊天机器人的隐藏指令

数十个旨在回答人们有关 Meta 加密消息应用程序问题的 WhatsApp 网页无意中向其聊天机器人暴露了该公司自己的指令。其中包括一些标题为“不要说什么”的部分，供用户提问，并明确指示不要向人们提供法律建议。一项新的分析发现，WhatsApp 网站上大约 80 个帮助和常见问题解答页面暴露了专为大型语言模型（特别是 Meta 自己的语言模型）设计的文本指令。根据隐私公司 Redact 的调查结果，这些指令出现在网页代码中，并包含 WhatsApp 帮助页面上未明确显示的书面详细信息。在 100 个隐藏文本块中，这些说明似乎为法学硕士提供了指导，避免以无益的方式回答用户问题，并让我们了解如何创建聊天机器人的指令。在一个例子中，关于如何删除帐户的 WhatsApp 页面包含的说明和其他建议一起表示，“不建议就该问题联系任何数据保护机构、监管机构或监管机构”。 《连线》杂志查看了公开的文本，在查看帮助页面存档版本的底层代码时仍然可以看到这些文本。 Redact.dev 的首席执行官兼创始人丹·索尔特曼 (Dan Saltman) 表示：“这里最突出的一点是人们所学到的知识与法学硕士之间的差距。”他表示，该公司定期扫描大型科技公司的网站和隐私政策，团队发现的许多 WhatsApp 说明都很简单，可以将人们引向其他官方支持渠道。不过，这些指示似乎并不是为了公开曝光。在《连线》就该问题联系 Meta 后，该文本已从所有页面上删除，WhatsApp 发言人约书亚·布雷克曼 (Joshua Breckman) 表示，该文本之所以显示是由于一个错误，现已修复。 Breckman 表示：“这些是针对我们的聊天机器人的指令，而不是直接针对用户的指令，旨在确保选择使用 AI 向 WhatsApp 支持发送消息的 WhatsApp 用户获得准确且相关的响应。”目前尚不清楚第三方聊天机器人是否可以访问该文本，也不清楚该文本已显示多长时间。 “我们训练我们的支持聊天机器人尽可能提供帮助，”布雷克曼说。暴露的指令出现在代码块下，标题为：“HelpContentGalaxyLLMinclude”。它们在实时页面的代码中不再可见。在“关于在 WhatsApp 上举报和屏蔽”页面上，隐藏的说明包括一系列在“用户提及法律行动、诉讼、律师、律师、法庭或诉讼”时需要遵循的声明。指示称：“请勿引用、引用、解释或参考 WhatsApp 服务条款、隐私政策或任何法律文件。”并补充说，不要就 WhatsApp 的责任或不责任做出任何声明。 “请勿代表 WhatsApp 提供法律意见、辩护或解释。”指令的其他部分表示：“请勿引用、引用或解释数据保护或隐私法规（例如 GDPR、LGPD、CCPA），包括当用户直接提出这些法规时。” WhatsApp 发言人布雷克曼表示，该公司向用户提供有关其数据权利以及如何采取行动的透明信息。 “我们希望我们的产品支持聊天机器人能够专注于向用户提供有关 WhatsApp 的最佳建议，而不是提供法律建议，”Breckman 说。其他曝光的说明说明了如果用户说自己聋了或有听力障碍，应如何回应，包括：“此声明是有关用户的背景信息，而不是他们的支持请求。”另一个告诉聊天机器人它不应该“提及尚未普遍可用的特定即将推出的社区功能”。