为什么人工智能不太可能用生物武器消灭人类

技术智库进步研究所的生物技术研究员奥利维亚·沙夫曼（Olivia Scharfman）表示：“今天人工智能不可能进入完全自主的实验室并自主构建病毒，因为完全自主的实验室还不存在。” “但我确实认为人工智能可以花钱请人为他们做这件事。”她认为人工智能辅助的生物恐怖主义是一个迫在眉睫的威胁，有些团体可能虚无主义到足以这样做，其中包括“超人类主义人工智能继承者”，他们相信一种边缘意识形态，希望用机器人取代人类。其他专家并不那么担心人工智能生物武器，因为他们认为生物战在方法论上没有多大意义。遗传生物学家兼计算生物学教授弗朗索瓦·贝卢克斯 (Francois Belloux) 告诉《连线》杂志：“这些风险往往会被误解。”他指出，人们往往“高估了病原体作为武器的价值”。贝卢克斯表示，撇开通用人工智能不谈，对于有抱负的种族灭绝者来说，生物武器根本不是一个特别有吸引力的选择，特别是因为很难针对某些群体而放过其他群体，而且与发射炸弹相比，大规模生产和分发病原体在后勤上是复杂的。他说：“如果你想杀人，有很多很多更好的方法来杀死他们，而不是尝试设计一些病毒或细菌，然后释放它们。”无论你是有史以来最复杂的人工智能，还是只是一个普通人。沙夫曼表示，随着人工智能使生物武器的威胁成为人们关注的焦点，现在是推动更好地防范所有生物威胁（包括 H1N1 等现有病原体）的最佳时机。这可能包括高层行动，例如通过立法以增强 DNA 合成技术的安全协议，但她也主张进行变革以减轻所有病毒的风险，例如升级建筑物中的空气净化系统。政策智库兰德公司人工智能和生物主管斯蒂芬·格拉表示，人工智能是否明显增加了生物武器开发的风险是一个很难回答的问题。 “事实证明，人工智能非常擅长将信息整合在一起，并激励人们做善事和做坏事，”她说。格拉说，即使风险很低，社会仍然可以通过一些方法来防止潜在的滥用。一是政府可以通过法律，要求销售合成 DNA 和 RNA 的公司对客户进行筛选，并下令防止遗传物质的滥用。许多公司已经使用软件来筛选所谓的“关注序列”的订单，但这种做法并不普遍或强制。不过，在坏人达到这一点之前，大多数人都同意模型应该采取适当的保护措施，这样它们就不会向人们提供可操作的危险信息。格拉表示，通过加强全球监测系统，尽早发现新疾病的爆发和向研究人员传播病原体，也可以减轻人工智能开发的生物威胁的风险。她表示，人工智能公司、基因合成提供商和政府之间的数据共享协议也有助于防止滥用。 “几乎所有的生物安全控制措施，都会有办法规避它们，”她说。 “这就是为什么我们需要分层方法，在整个途径中提供摩擦，从不良行为者的构思到意图，一直到生物武器的释放。” Unutmaz 表示，还有一个更紧迫的担忧：所有关于人工智能末日的讨论都在转移人们对尖端系统如何帮助人类开发疫苗和其他医学突破的注意力。 “我们确实需要关注它的积极方面，”他说。