人工智能和生物安全：能力、威胁路径和纵深防御治理

arXiv:2609.16213v1 公告类型：新 摘要：人工智能正在通过日益互联的数字到物理工作流程重塑生物学研究。通用大语言模型可以检索和整合科学信息，支持实验规划和计算分析；生物基础模型可以预测、优化和生成蛋白质、基因和基因组规模的序列；代理系统可以协调多步骤的研究任务；自动化实验室可以部分关闭设计-构建-测试-学习周期。这些技术可以极大地造福于医学、公共卫生和生物技术。然而，它们的生物安全风险不仅取决于人工智能能做什么，还取决于谁使用它、他们的专业知识和意图、他们对实验室工具和材料的获取以及到位的保障措施。目前的证据表明，人工智能的提升是存在的，但主要影响的是数字任务，而不是物理任务。前沿系统已经超出了计算机模拟和筛选规避基准的专家基线，而受控湿实验室研究发现，隐性知识和物理执行仍然是巨大的障碍。这篇综述描述了人工智能工具使用带来的不同生物威胁，从信息收集和生物设计到采购、合成、测试、扩大规模和潜在发布。我们进一步研究了为什么通用模型的对齐技术很难转移到生物模型，以及可解释性在审计危险能力是否真正被消除方面的新兴作用。我们主张深度防御治理，将能力阈值与整个生物人工智能生态系统的责任比例联系起来，减少严重后果的风险，同时保留有益的用途。