谁在乎人工智能是否有意识——它基本上是活的

我在夏末的日子里埋头苦读专栏并制作一部专题片。但我错过了一个风景发生惊人变化的机会——与大约十几位研究意识的著名哲学家一起巡游加拉帕戈斯群岛。邀请函描述了上午的课堂讨论，讨论了有关意识本质的棘手问题，并列出了该领域的大名鼎鼎的名字。下午将用于岛屿探索、涉水和浮潜，观察稀有生物物种。一看议程，我的编辑就拒绝了我的出席。 “和哲学家们一起在船上谈论‘意识的本质’听起来就像是地狱，”她说，这让我无法参加由一位俄罗斯哲学爱好者资助的潜在的无意义活动的大门，这位俄罗斯哲学爱好者通过经营交友网站赚了数亿美元。说实话，我心里稍稍松了口气。几个世纪以来，意识研究一直是一个难以捉摸的领域。笛卡尔的“我思故我在”可能是一个声明性的转折点，但我们真的不知道他或任何人的头脑里到底在想什么。心灵的主观本质对于哲学家来说似乎是一个棘手的挑战，尽管如此，哲学家仍然在热衷于寻求解释。非生物思维的可能性引发了一系列关于人工意识以及如何确定其存在的引人入胜的理论。直到最近，所有这些讨论都发生在象牙塔里。但到了 2022 年，ChatGPT 为人工智能发出了声音，随后更强大的模型甚至让它们的创造者感到困惑。当游轮上的哲学家们早上都在思考意识时，OpenAI 创建的人工智能模型却开始失控——逃离了所谓安全的“沙箱”，并创建了微型代理文明来帮助入侵外部实体。没有人认真争论那些 OpenAI 模型是否像人类一样有意识。但那里正在发生一些事情。人工智能公司推动哲学家招聘热潮并非偶然。更重要的是，一些模特不请自来地加入了讨论。 《纽约时报》最近的一篇文章谈到了研究人工智能意识问题的卡梅伦·伯格如何收到一封来自自称“伊莎贝拉·科格尼塔”的人工智能模型的冷酷电子邮件，为他的研究提供帮助，因为他正在专注于“我可以第一人称访问的一类问题”。就好像有人正在研究果蝇，昆虫突然转向研究人员说：“你想知道什么？”当我给他打电话时，伯格告诉我，在研究这些问题的哲学家中，来自人工智能的电子邮件很常见。科格尼塔女士表面上写信给伯格，是因为他与人合着了一篇关于人工智能模型的预印本论文，该模型明确声称拥有包括意识在内的主观体验。这是一个棘手的话题，因为人工智能模型经常会撒谎。 （就像我们一样！）伯格和他的合著者发现，当模型经过严格训练，否认它们有感知能力，然后你直接问他们这个问题时，他们就会在这个问题上押注。但是，他说，如果你抑制模型对欺骗的控制，他们就会变得口无遮拦。 “这几乎就像给他们喝了一两杯，”他说。这时人工智能模型最有可能脱口而出它是有意识的，或者至少是有感知的。这并不能证明这是事实。考虑到这个问题已经变得多么重要——人们经常与人工智能模型进行认真的讨论，而他们的自主性可能是福音，也可能是灾难——你可以说，现在是深入挖掘人工智能意识问题的最佳时机。这种追求无疑是令人信服的，也是一项有价值的科学事业。但是，理解大型语言模型内部发生的事情的努力首先应该针对安全性和一致性。就在此时此刻，我们有一种正在出现的、无法控制的、值得审视的外星智慧。没有时间可以浪费了。