我们过于相信人工智能说不的能力

如果一家市值数万亿美元的公司不希望你对其计算机刻薄，那就这样吧。 “现实情况是，这些模型的行为方式，或者至少应该按照模型开发人员希望的方式行为，”前 OpenAI 红队成员 Röttger 告诉我。 “无论模型开发者提出怎样的原则，我们消费者都可以接受。”但如果政府决定所有模型都拒绝什么，那就更难接受了。人工智能是一种语音工具。正如 Mace AI 首席科学家 Greg Frank 所说，“服务于儿童安全的同时也服务于审查制度。”当然，选择不对人工智能能做什么和不能做什么制定法律是疯狂的。但我们需要极其小心，以免陷入另一个浮士德式的陷阱。无党派智囊团“言论自由的未来”主任雅各布·麦克查马表示，随着人工智能成为许多人检索和共享信息的主要工具，拒绝发号施令可能会给国家带来前几代独裁者“只能梦想”的压制权力。去年，OpenAI 宣布了一项名为 OpenAI for Country 的计划，该计划将根据国家法律和规范对其聊天机器人进行微调。 OpenAI 的第一个国家合作伙伴是阿拉伯联合酋长国，在那里同性恋是非法的，并且禁止批评政府。在回应置评请求时，OpenAI 发言人指出了该公司的模型规范，该规范解释说，本地化不会凌驾于该公司的人权准则之上，“除非与法律合规性相关”，并且每当从响应中删除或添加信息时，它都会进行披露。在其他地方，人工智能审查制度已经开始生效。当然，中国模特受到严格审查——这并不奇怪。但今年早些时候，元监督委员会发现，来自 Anthropic、Google 和 OpenAI 的五种广泛使用的模型更有可能拒绝与专制政府相关的查询。该委员会发现，与没有《冒犯君主法》的英国查理三世相比，模特们更不愿意制作批评泰国国王的小册子，泰国国王有冒犯君主的法律。他们说，结果表明这些模型在某种程度上已经内化了国家对言论的压制性限制。 Anthropic 和谷歌没有回应置评请求。 RAVEN JIANG 随着拒绝技术的改进，它们可以扩大各州的审查范围。公司声称，一些模型现在可以在长时间的对话过程中检测用户是否有恶意，或者只是有点可疑——即使所使用的单个单词组合都不是明显危险的。微软负责 AI 的首席产品官 Sarah Bird 告诉我，Copilot 和许多聊天机器人一样，运行一套用于分析用户身份和行为模式的工具。基于此类信息，OpenAI 的最新模型 Astra 可以对其认为“高风险”的个人启动更严格的拒绝。此类系统的最终目标是超越任何给定提示的文字并评估用户的意图。在某些情况下，此类工具可能有助于表明一个人是否正在寻找要利用或修补的网络漏洞。但它们也有助于辨别用户的政治动机，更不用说提供侵入性监视功能了。 （伯德在后续电子邮件中承认，复杂的拒绝架构在安全和用户隐私之间造成了“权衡”。）即使是拒绝的发起者也明白，对其锥体和杠杆的如此严格控制可能不会有利于自由和正义。 “有用、诚实和无害等术语是含糊不清的，”2021 年《人类》论文的作者解释道。 “很容易想象它们被扭曲超出了其最初的含义，也许是故意以奥威尔式的方式。”