超能力，不是超级智能

← 新闻 马克·扎克伯格对于《未来属于每个人》中重要部分的看法是正确的。正确的是，决定性的问题是谁可以获得超级智能以及我们将其指向什么。正确的是，将其集中在少数几个机构将是一场灾难。正确的是，什么是美好的生活并没有客观的答案，人们应该自己决定。他对这一机制的看法也是正确的。电源检查电源。最安全的安排是没有人积累足够的资金来停止检查。他将权力平衡测试应用于公司、国家、实验室和人工智能。他将其应用于模型访问和治理。他从未将其应用于数据采集。我们现在制定的激励措施是我们在未来 20 年都会遵守的激励措施。我们之前为互联网编写过这样的合同，由 Meta 等公司开创。免费产品以换取数据收集、监控和广告。看起来很划算。 AI时代，权力在输入层。输入必须来自您并归您所有。我应该声明我自己的利益。我正在朝着这个新方向发展。这篇文章是关于一条新的前进道路。这不是你不应该相信任何人的原因。当我们将人类置于机器之上时，一切将变得可能。看看 Meta 的行动 扎克伯格承诺会有一个了解您、您的目标以及您关心的一切的代理。看看它是如何学习的。它监视他的睡眠。它看着他训练。它会标记出他认为有趣的内容。它计划了他女儿的食谱并订购了原料。代理在每句话中都起作用。他是所有人的对象。现在注意谁失踪了。你 。这并非这些例子的偶然。一年前，即 2025 年 7 月，他写下了输入内容。整天佩戴的眼镜可以“看到我们所看到的，听到我们所听到的”，成为我们的主要计算设备。您脸上的摄像头和麦克风可以了解您的周围环境，因为它永远不会停止记录。这是一个早期做出并明确说明的设计决策。情报部门必须监视你，因为没有人告诉它任何事情。它不需要任何东西，只需要你的存在。这就是他自己的文章所警告的不对称性，降低了一级。如果权力集中是一种危险，那么一个默默收集数据且你不选择其输入的代理也会集中权力。不在政府里。不是在实验室。谁拥有输入层。整天监视你的眼镜向同一家公司提供相同的个人资料。分布式开放权重模型同时集中捕获并不是一种力量平衡。这是相同的布置，但光学性能更好。扎克伯格承诺提供完全私密的模式，即使 Meta 也看不到你的信息。他的行为表明这可能只是一种模式，而不是默认模式。 2025 年 12 月 16 日，Meta 更新的隐私政策生效，这发出了相反的信号。现在，您与 Meta AI 的私人对话可以个性化您看到的内容和显示的广告。毕竟，约 2000 亿美元的广告收入是一个强大的激励。他的行动胜于雄辩。 Meta 的私人政策将于 2025 年 12 月更新工具，而不是机器个人超级智能。读名词。超级智能将智能赋予机器。机器是焦点，也是智能机器。不是你。人们想要的是超能力，而不是超级智能。超能力将力量赋予人。你成为了一个可以做你以前做不到的事情的人。这听起来像是语义学。事实并非如此。它决定信息的来源以及信息的所有者。如果机器是焦点，那么它的目标就是了解每个人并自行采取行动。在没有你参与的情况下了解你的唯一方法就是观察你。跟着你到处走。做出推论。从生命的残余中组装出轮廓。然后利用这些数据让自己变得更好。如果你是焦点，就必须告诉机器。它问。你回答。您是自己数据的作者和所有者。这是乐器。你会好起来的。两种架构。一个需要您的参与才能发挥作用并为您服务。另一个只需要你的存在并自行服务。我们称之为超级大国的每一个重要工具都是第一种。有了电话，我们可以在几秒钟内与世界各地进行交流。有了相机，我们可以保存我们的经验和知识。通过搜索引擎，我们可以从地球上任何地方获取信息。通过核磁共振成像和显微镜，我们可以看到自己身体的内部。有了望远镜，我们就能超越肉眼的极限。借助 GPS，我们可以扩展对所在位置的感知。它们中的每一个都允许您控制输入并拥有输出。捕获环境数据的代理打破了这一点。它成为您服务的机器。不是为您服务的工具。 Facebook 就是这种二分法的警示故事。它最初是作为一种连接人们的工具而构建的。它演变成一台让人上瘾、垄断时间、最大化广告收入的机器。 8月7日、2日