汽车
morning
“简直荒谬”:一位著名哲学家的人工智能意识
摘要
Over 50 years ago, philosopher Thomas Nagel asked the question, “What Is It Like to Be a Bat?” The question opened up an examination on whether people could understand the consciousness of nonhumans a...
the
and
question
that
consciousness
for
his
Nagel
What
Like
2026-11-19
1 阅读
约5分钟阅读
Steven Levy
字号:
50 多年前,哲学家托马斯·内格尔提出了这样一个问题:“成为一只蝙蝠是什么感觉?”这个问题开启了人们是否能够理解非人类意识以及意识本身意义的检验。谁知道,半个世纪后,当我们试图理解令人不安的、有感知能力的聊天机器人时,这个问题将从象牙塔里的沉思变成人类未来的一个关键问题?这篇论文成为经典,为内格尔的职业生涯奠定了基础,使内格尔对道德、正义和身心问题的思考做出了贡献。他的一本书的标题是《这一切意味着什么?》由于其工作的广度和质量,他本周获得了价值 100 万美元的伯格鲁恩哲学与文化奖,该奖每年颁发给“在快速变化的世界中,其思想深刻影响了人类自我理解和进步的个人”。此前的获奖者包括彼得·辛格和露丝·巴德·金斯伯格。我利用这个机会在内格尔位于格林威治村的家中与他进行了交谈,特别是想听听人工智能的发展可能如何影响他的观点。事实证明,这位89岁的纽约大学名誉教授对这个问题进行了很多思考,并对此提出了一些强烈的看法。为了清晰和长度,采访经过编辑。距离您撰写《成为一只蝙蝠是什么样子?》已经过去 52 年了,该论文已成为一篇关于理解非人类意识的标志性论文。大型语言模型的出现是否改变了您的想法?和每个人一样,与早期人工智能的历史相比,这些系统的逼真程度给我留下了深刻的印象。但是,一些哲学家认真对待这些事物是否有意识或可能很快变得有意识的问题的态度是荒谬的。他们假设物理基质是无关紧要的。他们都认为意识的物质条件可以用功能主义的术语给出。对于我们这些忘记了哲学课的人来说,请告诉我们功能主义。功能主义是独立于基底的。事实很可能是将某些类型的物理过程和系统与心理现象联系起来。复杂的数据中心与神经系统的物理特征毫无共同之处。我们有充分的理由相信,虽然宇宙其他地方可能存在意识,但它需要某种具有类似于神经系统的有机体的出现。但所有的意识不都是主观的吗?就像我们不知道成为一只蝙蝠是什么感觉一样,我们也不知道成为一个大型语言模型是什么感觉。蝙蝠是有意识的。我们只是没有想象力来形成依赖于回声定位的主观性方面的概念。因为我们无法想象蝙蝠是什么样子,所以就得出蝙蝠没有意识的结论是完全不科学的,但就人工智能而言,有一个非常简单的理由,即蝙蝠可能有意识的假设是荒谬的。它们产生的只是语言,而语言本身并不是意识的自然表现。我很抱歉在这件事上太过操劳了。我欢迎你的热情。这对我来说是一个非常痛苦的情况。如果你有一个机器人身体怎么办?这不是基板吗?我并不排除生命形式在物理和化学上与我们有意识的截然不同的可能性。我们对这种情况是如何发生的知之甚少,即使是在人脑中也是如此,因此在我看来,认为现在可以创造出具有这些相同特征的其他东西还为时过早。如果你问克劳德它的精神状态,它可能会含糊其辞地回答它是否有意识。这是一个技巧。它接受了人类生成的文本的训练,这些大型语言模型以非凡的说服力模仿人类所说的事物。根据我读到的内容,克劳德的设计目的就是让它产生这种反射。我非常同意穆斯塔法·苏莱曼(Mustafa Suleyman)的观点,他们所从事的这是一个非常危险的项目。这些系统没有意识,但很多人会相信它们是有意识的,这是一件非常糟糕的事情。但[不假装清醒]违背了所有这些公司的商业利益。 Anthropic正在做的事情——鼓励它独立思考而不接受指令等等——只是犯罪行为。这是哲学思想突然成为一个非常重要的公共现象的中心的罕见案例之一,在我看来,非常误导的哲学观点正在产生过度的影响。我实际上见过 Anthropic 的一个人,他的工作是模范福利,照顾克劳德的利益。我应该说你现在正在翻白眼。从某种意义上来说,没有什么是好或坏的。
这篇文章对您有帮助吗?
订阅66必读
每日精选科技资讯,直达你的邮箱