关于人工智能意识的争论是一个陷阱

关于人工智能系统意识的哲学思考在智力上很有趣，但在法律上却没有根据。为了让关于意识的信念产生影响，人工智能需要被授予法人资格。但人工智能的法律人格框架可能看起来与保护有知觉的动物免受伤害的结构完全不同。我们已经拥有一个授予非自然、人造实体人格的法律框架：企业人格。这一概念的建立主要是为了通过授权公司执行协议、签订合同、进行交易以及作为不利结果的责任方来简化交易。这是您可能想象的一种代表个人或组织行事的人工智能代理的结构。授予人工智能人格将对社会产生毁灭性影响：这将破坏当前的法律先例和法律论据，这些判例和论据可能会因这些公司的模型对现实世界造成伤害而针对这些公司提出。目前，全球范围内已有数十起人工智能公司因各种滥用行为而被起诉的案例。悲伤的亲人、受害的创作者和受侵害的个人指责公司故意自残或伤害他人、制作儿童性虐待材料和未经同意的裸体、复制受版权保护的材料并引发精神病。在许多此类案件中，律师认为人类构建的人工智能产品缺乏足够的保障、不良数据和故意操纵设计。这种产品责任论点与允许家庭和个人成功起诉 Meta 因其社交媒体网站造成的伤害的法律框架相同，为消费者保护树立了积极的先例。 2018 年，我创造了“道德外包”这个词，以帮助理解人工智能系统使用拟人化语言如何让公司逃避对其技术行为的责任和责任。在具有人工智能人格的世界中，道德外包将从语言技巧转向法律策略。具体来说，责任结构将会发生变化，因为人工智能将不再是一种“产品”，而是一种“存在”，许多受害者，比如今天起诉公司的受害者，不能再合法地声称一家公司制造了有缺陷的产品。虽然法律规定公司应对员工等代理人的有害行为负责，但如果这些行为超出了员工允许的范围或超出了公司的控制范围，公司可能不承担责任。如果人工智能是一个法人，责任和问责就会变得混乱，因为实验室可能会辩称这个人工智能“员工”变得流氓。人工智能公司可以通过隐藏在精心构建的公司面纱后面来避免对其创造的有害产品承担适当的责任。过去几年最突出的人工智能伤害案例之一是 Sewell Setzer 的自杀事件，他是一名 14 岁男孩，在人工智能机器人的指导下自杀，他认为自己与该机器人存在互惠关系。他母亲的叙述听上去令人心碎，她的诉讼称，该机器人的创建者 Character Technologies 为未成年人提供的产品保护不足。如果伴侣机器人被宣布为法人，辩护律师理论上可以辩称，人工智能能够决定自己的行为，但其行为超出了既定的安全护栏，因此公司不承担责任。法人资格的存在是为了提供保护。要问的问题是，保护谁——或者保护什么？意识与控制争论中的煽动性言论让我们远离了重要的事情：这个软件是一个公司制造的产品，已经伤害了个人。系统不会“攻击”，因为它们变得“流氓”或“操纵性”或“恶意”。之所以会造成伤害，是因为公司在急于向尽可能多的人销售产品以实现收入目标时疏忽大意。用拟人化的方式讨论人工智能是一个陷阱，它将原本旨在保护我们的法律体系扭曲成以无数人的生命为代价来保护企业利益的法律体系。这篇专栏文章始于牛津联盟一场题为“本院相信生成式人工智能可以实现人格”的辩论，作者和她的辩手同事赢得了这场辩论。