一家初创公司希望用人工智能对抗人工智能生物武器

前沿人工智能实验室警告说，他们的技术可能有助于开发危险的生物武器。现在，一家初创公司表示它已经开发出一种防御措施。周三，Radical Numerics 宣布开发了一种名为 Omnii Defense 的新边缘模型，旨在使用笔记本电脑和 USB 基因测序仪标记自然和人工智能工程病原体。它还可以在没有互联网连接的情况下运行，从而允许连接不稳定的该领域的研究人员使用它。尽管许多科学家表示人工智能制造的生物武器是一种低可能性的威胁，但 Radical Numerics 希望其技术能够帮助研究人员和公共卫生官员识别新出现的生物威胁。 Radical Numerics 联合创始人兼首席执行官 Eric Nguyen 表示，他认为生物防御领域即将爆发一场军备竞赛，类似于网络安全领域的情况，威胁行为者和安全防御者正在利用人工智能来试图获得优势。 “我们认为生物安全领域在防御方面远远落后，”他说。 Nguyen 和他的联合创始人是 Evo 和 Evo-2 背后的研究团队的成员，他们在斯坦福大学进行博士研究期间致力于开源 DNA 基础模型。他们于 2025 年创立了 Radical Numerics。这家总部位于旧金山的公司最近推出了 Omnii，这是一种新的基因组语言模型，基于 DNA 之外的不同类型的生物信息，包括 RNA、蛋白质和表观遗传信号。 10 月，Radical 宣布使用 Omnii 来创建定制噬菌体，即感染并杀死特定细菌的病毒，针对大肠杆菌的耐药菌株。经美国食品和药物管理局的特别许可，它的鸡尾酒被用来治疗病人。另一家人工智能生物技术初创公司 Tabula Bioscience 也参与了这项研究，但 Radical 在上个月的声明中没有透露这一合作伙伴关系。这一疏忽导致哈佛遗传学家、两家公司的顾问乔治·丘奇 (George Church) 上周辞去了在 Radical 的职务。该公司的最新工具 Omnii Defense 可以对序列进行多种预测，包括其致病性或人工智能生成的可能性以及它最接近哪个分类群。该模型为基因组分配一个介于 0 到 1 之间的“威胁评分”，将不自然的可能性与功能预测结合起来。分数越高，威胁越高。早期的生物防御工具，例如联邦政府资助的寻找工程相关指标（Felix），可以将感兴趣的基因序列与已知生物体的文库进行比较，本质上是搜索编目匹配。当坏人对现有病原体进行一些调整时，这可能会有所帮助。但它们的设计目的并不是像 Omnii 那样进行预测。人工智能模型的好处是它们可以学习与生物功能相关的序列模式，而不是依赖于精确的序列匹配。这可以让他们识别序列之间的相似性，即使他们的基因拼写发生了变化。 Radical Numerics 生物防御主管 Christine Parthemore 表示 Omnii 是一个“阶跃变革”。在一项实验中，该公司从训练数据中删除了本迪布焦病毒（该病毒目前正在东非引发埃博拉疫情），首先是在物种级别，然后是整个属。 “就好像 Omnii 是在 1976 年运行一样，”Parthemore 说，指的是埃博拉病毒被发现的那一年。仅删除该物种后，该模型仍然检测到推送给它的 Bundibugyo 序列中有 33% 是致病性的。即使删除了整个病毒属，它仍然标记了 22% 的病毒序列。她说，非人工智能工具基本上没有显示潜在风险。麻省理工学院和哈佛大学博德研究所传染病和微生物组项目病原体监测主任布朗温·麦金尼斯（Bronwyn MacInnis）表示：“我们绝对需要对人工智能的能力保持警惕，如果我们能够利用技术与之竞争，并希望领先于任何类型的邪恶行为者，这似乎是明智的。”然而，麦金尼斯警告说，检测信号距离确定病原体是否具有真正的后果或威胁是否是精心设计的仍然是一个巨大的飞跃。目前仅限经过审查的外部测试人员访问 Omnii Defense。 Radical Numerics 表示，它正在与国家实验室、政府机构和其他独立评估机构合作，评估该模型的性能。