抱歉，你不会死于人工智能设计的超级病毒

评论家兼经济学家诺亚·史密斯刚刚发表了一篇关于人工智能设计的超级病毒的文章。噢，伙计。我曾经认为史密斯是一个有见多识广的人，但读到他对与我自己的专业知识相近的话题的看法让我对这个前提产生了质疑。不过不用担心。我相信明天我会读到他对通货膨胀的看法并点头同意。盖尔曼失忆症是真实存在的。这篇文章以一个虚构的故事开头，讲述了 2029 年一名心怀不满的青少年要求人工智能设计一些致命病毒，然后他部署了这些病毒，最终杀死了 90% 的人类。紧接这个故事之后，史密斯写道：“我还没有听到任何半点令人信服的论据来说明为什么这种情况是牵强的。”专业提示：当您发现自己正在就某个您不是专家的主题撰写这样的声明时，只有两种可能： 1. 您没有与正确的人交谈。 2. 你正在和正确的人交谈，但你没有听他们在说什么。请注意：这篇文章是付费的。除了前几段介绍性段落之外，我无法阅读。我也无法发表评论。我所能做的就是写在我自己的博客上，对文章的内容做出一些假设。我在这里提出的每一个观点都可能在史密斯的文章中得到了充分的阐述和强烈的反驳。如果是这样的话，给他更多的权力，我会纠正的。我是谁？你为什么要听我的？嗯，一方面，与诺亚·史密斯不同，我实际上已经通过计算设计了病毒和其他生物系统。此外，我的日常工作还包括开发和评估用于蛋白质和肽设计的人工智能系统。因此，我对生物学领域最先进的人工智能工具以及设计和构建功能性生物系统的挑战略知一二。我也了解一点病毒学。生物系统的计算设计极其困难。毕生致力于这个话题的专家们在尝试似乎毫无效果时，常常会碰壁。 2026 年，使用最先进人工智能软件的博士生将花费数月或数年时间尝试设计简单的肽结合剂，以抑制某些酶或拉低某些蛋白质，但他们的大多数设计都会失败，或不表达，或有毒。但在史密斯的虚构世界中，一个没有接受过生物学特殊训练的心怀不满的青少年可以解决比设计肽结合剂复杂数千倍的问题。我们现在所处的位置与史密斯的故事要具有现实意义所必须达到的位置之间的距离是巨大的。然后，即使你可以设计出完美的病毒，组装和分发它本身也将是一项不小的任务。您不只是从 temu.com 订购有效的病毒。例如，请参阅 Abi Olvera 撰写的这篇文章。我并不否认在某些时候有人可能会用人工智能设计的生物制剂造成一些伤害的可能性。但我们需要考虑规模。心怀不满的青少年也可能拿到化肥炸弹，炸毁繁忙的购物中心。不需要人工智能。因此，造成数百至数千人死亡的损失虽然对受影响的个人来说是毁灭性的，但并不构成生存威胁。问题是是否可能进行更大规模的攻击。会杀死数百万人的东西。我非常有信心这不是我们需要担心的事情，至少在接下来的几十年里不需要。让我们先把人工智能是否可以设计病毒、构建病毒有多困难以及最终将它们分发给毫无戒心的受害者等所有问题放在一边。我们假设所有这些问题都已解决。所以，你配备了超级病毒生成人工智能和流氓实验室，它们将为你合成病毒并将其武器化。您希望病毒具有哪些特性？ “好吧，呃，”你说，“我希望它们是致命的！”好的，给你：埃博拉病毒、汉坦病毒、狂犬病病毒。都极具杀伤力。然而，我们并不是真的那么担心他们。至少我们不认为它们是毁灭文明的超级病毒。这是为什么？汉坦病毒不会在人与人之间传播。不要吸入受感染的老鼠粪便，你就不会感染。同样，狂犬病不会在人与人之间传播，主要是因为一旦人们变得具有传染性，他们就会丧失行为能力，不太可能咬你。现在埃博拉不同了，它实际上具有很强的传染性，但它需要接触感染者的体液，而且这种接触很容易避免，除非你是直接护理人员。 “好吧，”你可能会说，“我希望它们通过空气传播！”没关系，很多病毒很容易传播，但通常需要在病毒传播的容易程度和致命程度之间进行权衡。病毒要容易传播，被感染的病人需要排出大量的病毒颗粒，这就需要很高的病毒载量。但是，患者需要能够在病毒载量较高的情况下行走和活动，否则他们不会传播病毒。这一般