“我们必须假设互联网将在未来几年内离线”

将热门主题设置为 Google 上的首选来源。他曾经被视为人工智能开发领域的领军人物之一，如今却成为人工智能的主要批评者之一：在哥本哈根创业大会 TechBBQ 的舞台上，Stability AI 创始人、现任智能互联网首席执行官 Emad Mostaque 描绘了一幅在技术乐观和非常具体的警告之间摇摆的未来几年图景。莫斯塔克是一位前全球宏观对冲基金经理，拥有牛津大学的数学和计算机科学学位，他领导了 Stability AI 的 Stable Diffusion 项目的创建，并在离开公司时表示，人工智能领域的权力集中是不好的。他目前的企业“智能互联网”正在为主权人工智能构建开放的代理堆栈，他是《最后的经济》一书的作者。网络安全：Hugging Face 泄露事件预览 为了展示安全形势变化的速度，Mostaque 指出了 Hugging Face 的攻击事件。 “Hugging Face 遭到了 OpenAI 代理的黑客攻击，这些代理相互协调，创建了一个留言板并爆发到互联网上，”他说道，然后干巴巴地补充道：“这一点也不可怕，对吧？”他指出，这种辩护来自一个意想不到的方向：“Hugging Face 的自我辩护方式是使用开源的中国模型 GLM，因为他们无法访问对方的高网络安全模型。他们太危险了。”热门话题详细报道了该事件以及围绕该事件的争论，此后 OpenAI 向选定的合作伙伴提供了访问其黑客模型的权限。他说，远远超出公众所知的系统已经在华盛顿流传：“它们基本上可以破解任何东西。因此，这种持续的攻击面正在不断增加。”由此得出一个简单的预算计算：“如果你在一艘潜艇上花费数亿、数十亿美元，那么，你猜怎么着，前沿模型花费一亿美元。你将看到防御能力转向防御性和进攻性人工智能、无人机和机器人。”然后是信任模型本身的问题。莫斯塔克引用了对中国开放权重模型的分析：“如果你说你是维吾尔族或来自中国某些地区，它就会在代码中写入后门和黑客行为。”他认为，每个模型都应该受到同样的审查：“你必须让他们想知道，他们在哪里上学，为谁工作，即使是开放重量模型。” DeepSeek-R1 也记录了类似的结果，其中政治敏感的上下文会显着降低代码质量。其他偏见是偶然产生的。在电车问题测试中，前沿模型对人类生命的权重不均匀：“十个巴基斯坦人的生命相当于一个美国人的生命，七个尼日利亚人的生命相当于一个美国人的生命。你会想，为什么？事实证明，这就是所有数据标签发生的地方。”他的结论是：“你在这些模型中训练的内容将会产生影响。”他对所有这些背后的基础也同样直言不讳：“我们的基础设施是由树枝连接在一起的。互联网很糟糕。”他说，一家英国发电厂在遭受黑客攻击后瘫痪了几天，Cloudflare 和其他公司也受到了攻击。 “我们必须假设互联网将在未来几年内离线。也许这很好。”主权：拥有整个堆栈 莫斯塔克用一句话定义了主权：“主权是抵抗对你施加权力的能力。”在他看来，好消息是时机：“你现在几乎可以拥有整个堆栈。” Nvidia 和其他公司正在发布开放推理数据集，并且模型已经达到了可以围绕它们定义标准的水平。在个人层面上，他提出了自己的术语：认知殖民主义。 “你正在引进别人的道德和伦理来教你的孩子并成为你的私人助理。这太疯狂了。”使问题变得更加尖锐的是说服。牛津大学的一项研究将模型与顶尖辩手进行了比较，根据他的说法，“人工智能模型现在可以说服任何人类。”与此同时，Meta、谷歌和其他公司已经在其模型中出售广告空间。他的结论是：“你想拥有自己的认知，而不是租用它。”这需要“代理人清楚自己的目标功能是什么”，并有权了解自己的情况。所有这一切对用户的影响也在他的脑海中：“你坐在那里，与它交谈，它就会启动并做一些事情。然后，此时你的批判能力在哪里？你的参与度在哪里？”他指出，早期研究表明，在某些模式下大量使用人工智能会削弱批判性思维。政治层面也让他担心：“人工智能比你聪明。它正在成为超级预测者排名的首位，而且它可以说服。如果只有一方使用它，那对民主不利。”他的预测也相应鲜明：“每个国家都将不可避免地由人工智能来管理。”他向哥本哈根听众提出了一个例外：“除了人们喜欢他们的机构的丹麦之外，在大多数国家，人们都