马克·扎克伯格的人工智能宣言正是人们不喜欢人工智能的原因

周一，马克·扎克伯格发表了一份关于个人人工智能的 6,500 字宣言，主要是关于 Meta AI 正在构建的“个人超级智能”系统的可能性。帖子中的想法并不是全新的。这篇文章的一个版本在两周前发表在《华尔街日报》上，他之前在 Meta 财报电话会议上也谈到过这些问题。但这可能是他分享的最详细的版本。我见过它被描述为一篇反厄运的文章，但这并不完全正确。这更多地描述了为什么马克·扎克伯格个人对人工智能将改变社会的方式感到兴奋。然而，即使扎克伯格试图描绘丰富的超级智能将带来的美好未来，他也不断提醒我们它可能会出错的所有方式。我发现人工智能也令人兴奋——这就是为什么我一直写它——但很多公众认为人工智能令人毛骨悚然和不愉快。因此，值得弄清楚这里到底发生了什么，以及为什么扎克伯格没有通过这样的文章给整个行业带来任何好处。社交媒体仍然是科技行业的一个敏感话题，我们没有足够的篇幅来对人们对 Facebook 的每一项投诉的相对优点进行诉讼。可以这么说，Facebook 作为产品和扎克伯格作为人都不受美国公众欢迎。最近的一项调查发现，64% 的美国人认为社交媒体对民主有害，同样比例的人认为应该对社交媒体进行更严格的监管，这一数字跨越党派界限。就在本周末，法院因该公司对儿童有害而处以 5.67 亿美元的罚款。气氛很糟糕。我提出这一点并不是暗示扎克伯格应该羞愧地退回荒野——但社交媒体的影响是我们现在对人工智能的社会影响如此焦虑的主要原因之一。无论公平与否，公众都不相信科技高管能够确保此类新技术对社会产生积极影响。本文没有承认这一点并试图赢回他们的信任，而是一遍又一遍地展示信任是如何失去的。这篇文章的很大一部分致力于讨论关于情报的模糊概括——与扎克伯格和多西曾经对言论自由给出的模糊概括非常相似。举个例子：随着每个人都获得更强大的工具，每个人塑造未来的能力将变得更强，而不是更少。 ......具有竞争利益的人和机构自然会相互制衡，以取得积极的成果。建设积极的人工智能未来的最佳、最现实的途径是为每个人提供超级智能。我猜？我能想到一些利益冲突导致不良结果的例子，但我们先把这些放在一边。更奇怪的是，这是一个严肃的哲学结论，而不是 Meta 推向市场的一种名为“个人智能”的特定产品。如果你已经倾向于不信任这个人，你可能会担心他们写下这一切是为了说服自己不会发生任何不好的事情。当扎克伯格讲到具体的例子时，我的这种感觉变得更加强烈，其中许多例子与人工智能工具的使用方式惊人地脱节。例如，扎克伯格对人工智能在教育领域的看法是：每个人都会有一位个性化的导师和教练，每个学科都拥有博士学位，并且有无限的耐心来帮助你学习任何你想要的东西。学生将在他们需要的领域获得额外帮助，目前只有父母有能力支付费用的学生才能获得这些帮助。成年人将拥有一个超级智能的学习助手，它确切地知道如何教你新的工作技能、新的语言、新的爱好或任何你感兴趣的东西。当然，扎克伯格描述的产品已经存在：这是一个像 ChatGPT、Claude 和 Gemini 一样的消费者聊天机器人。如果你想学习某个主题，这些工具确实很有帮助，但它们在教育中使用的主要方式是避免学习，因为你的个性化导师可以做你的作业并写你指定的论文——而且因为没有强大的水印系统，老师无法确定哪些论文是由人工智能生成的。这是人工智能危害的一个相当低风险的例子，但它是现在正在发生的真实的事情。有时，你设计一项技术是为了做好事，但它会产生意想不到的后果，使事情变得更糟。世界上最有权势的人之一拒绝承认这一事实可能会让人感到紧张，这是可以理解的！扎克伯格还举了一个例子，说明人工智能将如何使法律体系变得更好：作为一项思想实验，想象只有一个人拥有一位超级智能的律师。他们将在法庭上拥有不公平的优势——即使他们在案情上是错误的。这将导致一个更糟糕的社会。但现在想象一下每个人都有一位超级聪明的律师。在这种情况下