特朗普的反偏见人工智能命令只是更多偏见

2022 年 11 月 2 日，我参加了在纽约市举行的 Google AI 活动。主题之一是负责任的人工智能。当我听高管们谈论他们如何将技术与人类价值观结合起来时，我意识到人工智能模型的可塑性是一把双刃剑。可以对模型进行调整，例如最大限度地减少偏见，同时也可以强化特定的观点。政府可以要求进行操纵，以审查不受欢迎的事实并促进宣传。我设想这是像中国这样的独裁政权可能会采用的东西。当然，在美国，宪法将防止政府干扰私营公司创建的人工智能模型的输出。本周三，特朗普政府发布了人工智能宣言，这是一项针对国家乃至人类面临的最重要问题之一的广泛行动计划。该计划总体上侧重于在人工智能霸主竞赛中击败中国。但其中一部分似乎更符合中国的策略。以事实为名，美国政府现在希望人工智能模型遵循唐纳德·特朗普对该词的定义。你不会在 28 页的计划中发现明确表达的意图。相反，它说，“至关重要的是，这些系统从一开始就考虑到言论和表达自由，并且美国政府的政策不会干扰这一目标。我们必须确保言论自由在人工智能时代蓬勃发展，并且联邦政府采购的人工智能客观地反映事实而不是社会工程议程。”一切都很好，直到最后一句话提出了一个问题——谁说的是真理？ “社会工程议程”到底是什么？我们在下一段中得到了有关这一点的线索，该段落指示商务部研究拜登时代的人工智能规则，并“消除对错误信息、多样性、公平和包容性以及气候变化的提及”。 （已发布的计划中写的是奇怪的大写字母。）承认气候变化是社会工程？至于真相，白宫在有关该计划的情况说明书中表示，“法学硕士应诚实并优先考虑历史准确性、科学探究和客观性。”听起来不错，但这来自一个将美国历史限制为“令人振奋”的解释、否认气候变化、并将唐纳德·特朗普关于自己是美国最伟大总统的说法视为客观事实的政府。与此同时，就在本周，特朗普的真相社交账户转发了奥巴马在监狱中的人工智能视频。周三在华盛顿宣传该计划的演讲中，特朗普解释了该指令背后的逻辑：“美国人民不希望人工智能模型中唤醒马克思主义的疯狂，”他说。然后他签署了一项题为“防止联邦政府唤醒人工智能”的行政命令。虽然明确指出“联邦政府应该对监管私人市场中人工智能模型的功能犹豫不决”，但它宣称“在联邦采购的背景下，它有义务不采购为了意识形态议程而牺牲真实性和准确性的模型。”由于所有大型人工智能公司都在争取政府合同，该命令似乎是一种后门行动，旨在确保法学硕士总体上忠于白宫对历史、性别认同和其他热点问题的解释。如果对政府认为的违规行为有任何疑问，该命令用了几个段落来妖魔化支持多样性、呼吁种族偏见或重视性别平等的人工智能。 POGO警报——特朗普禁止自上而下的意识形态偏见的行政命令是对自上而下的意识形态偏见的公然行为。马克思疯狂 由公司决定如何处理这些需求。本周我与一位研究模型行为的 OpenAI 工程师进行了交谈，他告诉我该公司已经在努力保持中立。他们说，从技术意义上来说，满足反觉醒等政府标准不应该成为一个巨大的障碍。但这不是一场技术争端：这是一场宪法争端。如果像 Anthropic、OpenAI 或 Google 这样的公司决定尽量减少法学硕士中的种族偏见，或者有意识地选择确保模型的反应反映气候变化的危险，那么第一修正案可能会保护这些决定，因为它们行使了人工智能行动计划中所宣扬的“言论和表达自由”。政府授权拒绝向行使该权利的公司签订政府合同，这就是干涉的本质。你可能认为构建人工智能的公司会援引他们在这个问题上的宪法权利进行反击。但到目前为止，还没有大型科技公司公开反对特朗普政府的计划。谷歌庆祝白宫对其宠物问题的支持，例如加强基础设施建设。 Anthropic 发表了一篇关于该计划的积极博客文章，尽管它抱怨白宫本月早些时候似乎突然放弃了强有力的出口管制。 OpenAI 表示已经接近