教皇的人工智能专家担心大型实验室中的“卡特尔”行为

最近，世界上最大的人工智能实验室的研究人员对人工智能的快速发展发出警告，引发了人们对该技术可能毁灭人类的恐慌。这些警告基于这样一种想法：在美国和中国之间的激烈竞争和对抗的推动下，实验室正在快速发展超级智能模型，其能力将远远超过人类。但据为天主教会提供人工智能建议的神父保罗·贝南蒂 (Paolo Benanti) 表示，对超级智能的放手分散了人们对如何限制开发该技术的公司的公开辩论的注意力。他说，通过将问题描述得如此复杂，以至于只有他们才能解决，大型实验室将其他所有人排除在对话之外。 “道德不能属于公司董事会的事情。它必须在公共场所的辩论中得到平衡和缓和。”贝南蒂告诉《连线》杂志。 “我们需要民主监管。”在安全警告之后发表的一篇文章中，Anthropic 首席执行官达里奥·阿莫迪 (Dario Amodei) 呼吁新的人工智能模型在发布之前接受强制性的第三方评估，并对蒸馏进行某种形式的打击，蒸馏是竞争对手实验室根据专有模型的输出来训练自己的人工智能的过程。其他人则主张全面禁止递归自我改进，即人工智能利用其先进的编码能力来帮助开发自身的未来迭代。贝南蒂对限制人工智能开发方法不太感兴趣，他担心这可能会抑制创新，而更感兴趣的是建立确保模型不会脱离人类控制的标准。他说，无论这些标准采取什么形式，它们都不应该由实验室设计。 “前沿实验室的叙述是自私的，为了获得或保持在市场上的地位，”贝南蒂说。他说，当一小群公司决定一个行业的运作规则时，“这有一个非常明确的名字：卡特尔。”贝南蒂表示，由于经济、政治和个人激励因素相互重叠，很难知道如何认真对待有关最新和未来人工智能模型能力的重大声明。尽管 OpenAI 和 Anthropic 都支持放慢开发速度的呼吁，但他们也准备上市，无论谁占领市场，都将面临数十亿美元的风险。正在开发最先进人工智能模型的美国和中国之间的敌意也使情况变得复杂。人类拒绝发表评论。 OpenAI 和 Google DeepMind 没有回应置评请求。贝南蒂还对人工智能行业某些角落谈论超级智能的方式提出了质疑，他们通常对上帝抱有一种敬畏：复杂程度超出我们的理解，几乎无所不能。 （OpenAI 首席执行官萨姆·奥尔特曼 (Sam Altman) 曾表示，他渴望建立“天空中的神奇智能”。）贝南蒂表示，这种框架可能会扭曲有关该技术的讨论。 “我们是在谈论某事，还是某人？这才是真正的区别。这不是信仰问题，而是数学问题，”他说。 “我们并不是在建造下一个神。我们只是在欺骗自己，认为除了统计计算之外还有其他东西[正在进行]。”贝南蒂说，通过提出关于人与机器的区别以及如何保护子孙后代免受技术负面影响的问题，人工智能的出现有可能“为宗教在公共辩论中创造新的角色”。 “应对时代的挑战是教会使命的一部分。”