人工智能生物武器的幽灵给生物技术敲响了警钟

“我们不断地来来回回，”马格努斯说。 “我们必须建立更好的监视和筛查工具，但人工智能非常擅长找出解决方法。”他说，我们可能需要利用人工智能来找到限制人工智能使用的方法。我应该在这里补充一点，并非所有科学家都同意风险程度。在最近的一次媒体吹风会上，伦敦帝国理工学院的一些生物学家认为，人工智能工具还不足以充分开发生物武器，并且测试新病原体需要困难、耗时的人类工作。有些人认为我们设置的护栏就足够了。帝国理工学院传染病教授温迪·巴克莱指出，就目前情况而言，大流行的最大风险不是来自生物武器，而是来自已经在传播的病原体。以 H5N1 禽流感病毒为例，它已经杀死了数百万只鸟类，并通过美国奶牛广泛传播；上个月，犹他州一家农场的圈养水貂中也发现了这种病毒。另一方面，萨布拉喜欢提前考虑五到十年。她说，各国应该加强其医疗保健系统，准备已知毒素的解毒剂并储备药品：“我们需要做好准备。”麻省理工学院生物学家 Kevin Esvelt 发明了在整个人群中快速传播遗传特征的技术以及限制该技术的方法，他在周三的 X 帖子中回应了这些担忧，表示大型语言模型“揭示了一种我从未意识到的新型生物武器”。他补充道，“拜托，为了上帝的爱、孩子们、人类的未来，或者任何你认为神圣的事情，让我们在这里谨慎一点。”本文首次发表于《麻省理工学院技术评论》的每周生物技术通讯《The Checkup》。要每周四在您的收件箱中收到它并首先阅读此类文章，请在此处注册。