双用途病毒学研究在AI时代的发展与挑战

时间:2026年11月10日
来源:Nature Microbiology

编辑推荐:

病毒会迅速进化以优化其在特定生态位中的位置;然而,大多数变化会导致病毒适应性降低,表现为病毒减弱或失活。同样,病毒学家对病毒引入的大多数基因修饰也会导致功能丧失,最终产生减弱或失活的病毒。只有一小部分实验会产生适应性更强的病毒,这是病毒学研究受到严格监管的领域

广告
   X   

病毒会迅速进化以优化其在特定生态位中的位置;然而,大多数变化会导致病毒适应性降低,表现为病毒减弱或失活。同样,病毒学家对病毒引入的大多数基因修饰也会导致功能丧失,最终产生减弱或失活的病毒。只有一小部分实验会产生适应性更强的病毒,这是病毒学研究受到严格监管的领域,通常称为“功能获得”(gain of function)。在病毒学和生物安全领域,功能获得性突变可能属于“值得关注的雙用途研究”(dual-use research of concern, DURC)的考量范围,其中拟议的实验如果被滥用,可能通过“方法、材料或结果”造成危害1。病毒学家在疫情应对中发挥重要作用,能够快速表征病毒并助力疫苗研发。这通常需要进行属于DURC范围的实验,例如工程化逃避中和抗体2或拯救灭绝病毒3。这类工作的目的是更深入地了解病毒,以改善预防、准备和最终的患者结局。COVID-19大流行使病毒学在公共卫生准备中的重要性受到全球关注,并因此促使DURC相关审查加强,尽管病毒学家在应对这一大流行中做出了贡献。此前的讨论,例如围绕H5N1流感在雪貂中传播性增强的研究4,以及2017年一项从合成DNA重建灭绝马痘病毒的研究5,主要在专业科学和生物安全圈内辩论,而非引起持续的公众关注。然而,对SARS-CoV-2“自然起源 versus 实验室泄漏”起源的关注将这些讨论推入公众视野,加剧了开放科学与DURC监管之间的紧张关系。本文倡导病毒学研究的益处,尤其是涉及潜在DURC的研究。研究人员支持日益增长的全球统一生物安全和生物安保实践的需求,以更好地支持这一日益复杂的研究生态系统。DURC法规的现状:DURC监管机制(在英国涉及由内部安全委员会和健康与安全执行局审查的详细风险评估)尚未在全球范围内采用。美国目前拥有最强的DURC指南,但此类评估仅在联邦机构资助时具有法律约束力。而美国运营着全球近50%的生物安全三级(BSL-3)设施,超过90%拥有最高防护等级BSL-3和BSL-4设施的国家完全缺乏DURC指南6。潜在解释包括对行政负担、对研究和创新的影响以及监管能力有限的担忧,尽管这些因素尚未在各国间进行系统评估。直到最近,美国的DURC指南列出了会触发监管的特定病原体和实验类别,例如增强埃博拉传播的实验。虽然这提供了明确性,但未能覆盖生物安全中的新兴风险,如人工智能(AI)。在全球范围内更新和建立DURC政策以纳入工具和能力、将监管扩展至非政府资助的研究以及统一化,有可能显著降低生物风险。然而,DURC政策的任何变化都必须明确实验目的,并务实可行,以尽量减少对研究人员的官僚负担和时间延误。世界卫生组织(WHO)2024年《实验室生物安保指南》为科学家、机构和国家监管机构提供了基本生物安保实践的综合框架7。他们提出了一个简单的双层框架来处理“高后果研究和材料”,其中英国健康与安全执行局等国家监管机构与个别机构委员会互动,以促进实验室活动。这种互动得到基于风险评估和针对特定病原体的列表方法的混合策略的支持。强烈建议遵守WHO指南,但机构和监管机构也应参与跨境信息共享,交流生物安保的最佳实践和能力。WHO的指南得到新兴国际协调努力的补充。例如,源自G7的“全球应对大规模毁灭性武器和材料扩散伙伴关系”建立了“非洲生物威胁缓解签名倡议”(Signature Initiative to Mitigate Biological threats in Africa, SIMBA)。SIMBA与非洲疾病控制和预防中心及其他伙伴合作,加强非洲各地的生物安全、生物安保、监测、流行病学情报和生物风险管理能力8。生物风险的治理必须继续成为全球共同责任。低收入和中等收入国家往往处于新兴病毒爆发的前线。因此,这些国家的代表必须积极参与制定生物安全、生物安保和双用途框架。尽管在低收入和中等收入国家平衡监管和能力建设(例如增加高防护设施)可能很困难,但治理应继续侧重于发展支持基于风险的病毒学方法的监管环境。自上而下的治理模式,例如没有双向讨论的一刀切集中监管,存在缺乏合法性以及在处理差异巨大的生物威胁领域施加过度或不足限制性政策的风险。因此,采用自上而下监督和自下而上内部审查的混合模式(即适应性、迭代性风险治理,伴随渐进能力发展和防护等级的比例升级),这种模式在英国和美国多年来已成功发展,可能行之有效。考虑国家特定因素的替代框架也可能必要。 navigating病毒学研究的风险与益处:当病毒学家申请研究经费或提交研究发表时,他们越来越多地被问及:“这一发现将造福人类,还是可能因滥用而产生意想不到的负面后果?”例如,研究人员现在可以在具有人畜共患潜力的病毒感染人类并引起临床病例之前检测、表征和修饰这些病毒。这种能力已通过复制缺陷病毒系统、人类类器官和计算蛋白质折叠预测等工具得到增强。反过来,病毒学家和监管者面临的伦理问题变得更加复杂,讨论也更具争议性:如果研究人员发现潜在的大流行病原体,最负责任的行动方针是什么?应发表哪些数据,谁应有权访问,应允许哪些实验?研究人员在表1中列出了与这一情景相关的可能风险和益处;然而,这些考量远非详尽。表1 披露具有致病潜力的新型病毒数据的风险与益处(完整表格)旨在发现具有人畜共患潜力病毒的项目已被证明具有争议性。美国国际开发署(USAID)的“新兴病原体发现与探索——病毒性人畜共患病”(Discovery and Exploration of Emerging Pathogens — Viral Zoonoses, DEEP VZN)项目于2023年终止,部分原因是担心发表的序列可能成为滥用的模板9。一项加强生物安保的建议是,科学和卫生当局应视情况限制信息共享,而不是在所有情况下完全公开披露10。例如,部分共享病毒信息,如病毒糖蛋白序列和易感人类细胞系,将有助于mRNA疫苗的开发,而不共享允许通过反向遗传学完全拯救病毒的基因组信息(表1)。然而,这也会阻碍更广泛的研究努力,并破坏支撑现代科学的开放和平等获取原始科学数据的原则。关于信息共享的决策仍需涉及所有相关利益攸关方。发展中的生物技术也使病毒学中的DURC复杂化。更便宜的DNA合成和日益稳健的克隆策略增强了反向遗传学系统的使用,该系统允许从合成DNA重建病毒。迄今为止,确保合成DNA生物安保的责任主要落在DNA合成提供商身上,他们通过内部筛查客户合法性和DNA序列安全谱来自愿自我治理这一过程11。迄今为止,该系统已发挥其作用,但由于提供商之间标准化有限、缺乏对提供商进行筛查的强制要求以及(根据研究人员自己的经验)缺乏准确性,它远非无懈可击。在筛查程序更加准确并在所有提供商中采用之前,这一领域还有很大改进空间。这种统一将有利于病毒学和生物医学科学的生物安保。此外,AI工具已被证明可以通过计算蛋白质结构或功能的模拟物来绕过基于序列的筛查协议,独立于原始序列。因此,具有潜在危害的序列理论上可以通过合成,订单可能未被发现地完成12。这突显了不断修订和压力测试现有生物安保协议的必要性,但也表明筛查协议有创新空间。将所有合成DNA序列记录到单一加密数据库(仅在紧急情况下查询)的想法已被提议作为保障措施13——一种可行的是,不会限制DNA合成在病毒学中的潜力,但仍能提供更广泛问责的措施。然而,作者未具体说明运营此类系统所需的治理结构、所有权或监督机制,而这些对于平衡知识产权、隐私和生物安保高度相关。AI与DURC:AI工具在病毒学中的最新创新和日益增加的使用可以实现抗病毒药物和疫苗候选的快速筛查,以及大规模预测新兴病原体。然而,对潜在滥用的担忧已被提出。公开可用的基础模型如ChatGPT和Claude包含旨在防止生物滥用的保障措施。例如,被认为具有生物安保风险的敏感数据可能被排除在模型训练周期之外,模型也可能通过额外训练(称为强化学习)被阻止提供潜在有害信息,该训练惩罚这种行为。领先的AI公司已自愿制定治理框架来评估生物滥用风险,包括外部红队测试、确保专业生物安保专业知识以及与政策制定者接触。相比之下,生物设计工具(biological design tools, BDTs)——具有更定制化生物预测或分析能力的AI模型——可能缺乏这些控制。BDTs的监管可能具有挑战性,因为大多数是开源的,这使识别软件用户和执行背景调查的努力复杂化。这与非计算实验室环境形成对比,在后者中访问高防护病毒学设施通常需要安全许可和背景调查。此外,BDTs的标准化安全评估具有挑战性,因为数据格式代表复杂的生物信息(而不是纯文本或图像)。这突显了开发者和监管者之间在知识和理解上的潜在差距。核苷酸合成和AI工具(如BDTs)的综合可及性可能允许优化病毒蛋白或毒力因子而不触发保障措施,在缺乏适当监管的情况下。然而,模型输出如核苷酸序列、蛋白质结构或表型预测通常无法在没有通过科学实验在现实世界验证的情况下解释。在没有能力大规模可靠评估模型输出的情况下,这造成了监管挑战。最近,一个团队使用语言模型Evo1和Evo2创建了首个AI设计的完整基因组,产生了一种有活力且进化上新颖的感染细菌的噬菌体,称为φX17414。尽管噬菌体对人类不危险,但这仍代表了显著的技术进步。通过基准开发、标准化滥用测试以及整合筛查或门控机制将保障措施扩展到这些工具是一条前进道路,但这需要强大的开发者支持。如果BDTs和大型语言模型的能力超过专家病毒学家15,这一点尤其重要。结论:虽然病毒学为科学和人类带来了巨大收益,但快速成熟和新兴技术正在改变病毒学研究的风险格局。当前的生物安保和DURC政策存在盲点,在范围和实践上可能过于狭窄。通过研究人员、监管者、公共卫生当局、资助者、行业和国际伙伴之间的合作,以全球保证的方式扩展这些政策以涵盖更广泛、面向未来的生物滥用情景,对于管理风险和实现该领域的全部潜力至关重要。
**研究背景与意义**

病毒在特定生态位中快速进化以优化其适应性,但大多数遗传变化导致病毒适应性降低,表现为减弱或失活。病毒学家通过基因修饰开展的实验同样大多导致功能丧失,仅极少数实验产生适应性增强的病毒,此类研究归属于“功能获得”(gain of function)范畴,并受严格监管。在病毒学与生物安全领域,功能获得性突变可能构成“值得关注的双用途研究”(dual-use research of concern, DURC),即实验的方法、材料或结果若被滥用可能造成危害。病毒学家在疫情应对中发挥核心作用,能够快速表征病毒并推动疫苗研发,但这往往需要进行属于DURC范围的实验,例如工程化病毒逃避中和抗体或从合成DNA拯救灭绝病毒。COVID-19大流行使病毒学在公共卫生准备中的关键地位受到全球关注,同时也加强了DURC相关审查。此前围绕H5N1流感在雪貂中传播性增强的研究以及2017年从合成DNA重建灭绝马痘病毒的研究,主要在专业科学和生物安全圈内讨论,而SARS-CoV-2“自然起源 versus 实验室泄漏”之争将这些议题推入公众视野,加剧了开放科学与DURC监管之间的张力。该论文旨在倡导病毒学研究的益处,尤其是涉及潜在DURC的研究,并支持全球统一生物安全与生物安保实践的迫切需求,以更好地支撑日益复杂的研究生态系统。论文发表于《Nature Microbiology》。

**关键技术方法**

该论文为观点性文章(Perspective),未涉及原始实验数据或特定样本队列。文章综合分析了全球DURC监管现状、WHO 2024年《实验室生物安保指南》框架、G7发起的SIMBA倡议(Signature Initiative to Mitigate Biological threats in Africa)等国际治理机制,并评估了AI工具(包括大型语言模型和生物设计工具BDTs)在病毒学中的双用途风险。文中引用的关键技术进展包括:反向遗传学系统(reverse genetics systems)用于从合成DNA重建病毒、复制缺陷病毒系统(replication-deficient virus systems)、人类类器官(human organoids)、计算蛋白质折叠预测、DNA合成筛查协议,以及语言模型Evo1和Evo2用于设计完整基因组(产生感染细菌的噬菌体φX174)。文章通过文献综述与政策分析相结合的方式,系统梳理了DURC治理的盲点与新兴技术带来的挑战。

**研究结果**

**DURC法规的现状**:通过分析各国DURC监管机制,指出英国采用由内部安全委员会和健康与安全执行局审查的详细风险评估,而美国拥有最强的DURC指南但仅在联邦资助时具有法律约束力。美国运营全球近50%的生物安全三级(BSL-3)设施,但超过90%拥有最高防护等级BSL-3和BSL-4设施的国家完全缺乏DURC指南。现有美国DURC指南虽列出特定病原体和实验类别(如增强埃博拉传播的实验),但未能覆盖人工智能等新兴生物安全风险。WHO 2024年《实验室生物安保指南》提出双层框架,由国家监管机构与机构委员会互动,基于风险评估和特定病原体列表相结合的混合策略。SIMBA与非洲疾病控制和预防中心合作,加强非洲生物安全、生物安保、监测和生物风险管理能力。

** navigating病毒学研究的风险与益处**:通过分析病毒发现项目的争议,指出USAID的DEEP VZN项目于2023年终止,部分原因在于担心发表序列可能成为滥用模板。文章提出视情况限制信息共享而非全面公开披露的建议,例如部分共享病毒糖蛋白序列和易感人类细胞系可促进mRNA疫苗开发而不共享允许反向遗传学完全拯救病毒的基因组信息,但这也将阻碍更广泛的研究努力并破坏开放科学原则。DNA合成和克隆策略的进步增强了反向遗传学系统的使用,目前生物安保责任主要由DNA合成提供商通过内部筛查客户合法性和序列安全谱来自愿承担,但标准化有限、缺乏强制筛查要求和准确性不足使其远非无懈可击。

**AI与DURC**:通过分析AI工具在病毒学中的应用与风险,指出公开可用的基础模型如ChatGPT和Claude包含防止生物滥用的保障措施(如排除敏感数据、强化学习惩罚有害信息),领先AI公司已自愿制定治理框架。相比之下,生物设计工具(BDTs)——具有定制化生物预测或分析能力的AI模型——可能缺乏此类控制,且因多数为开源而难以识别用户和执行背景调查。AI工具已被证明可通过计算蛋白质结构或功能模拟物绕过基于序列的筛查协议。研究人员提出将合成DNA序列记录到单一加密数据库的保障措施建议,但指出其治理结构、所有权和监督机制尚未明确。Evo1和Evo2语言模型创建首个AI设计的完整基因组并产生有活力且进化上新颖的噬菌体φX174,虽噬菌体对人类不危险,但代表了显著技术进步。通过基准开发、标准化滥用测试和整合筛查或门控机制将保障措施扩展到BDTs是一条前进道路,但需要强大的开发者支持,尤其当BDTs和大型语言模型的能力可能超过专家病毒学家时。

**讨论与结论**

论文讨论部分强调,病毒学虽为科学和人类带来巨大收益,但快速成熟和新兴技术正在改变研究的风险格局。当前生物安保和DURC政策存在盲点,在范围和实践上可能过于狭窄。研究结论指出,通过研究人员、监管者、公共卫生当局、资助者、行业和国际伙伴之间的合作,以全球保证的方式扩展这些政策以涵盖更广泛、面向未来的生物滥用情景,对于管理风险和实现该领域全部潜力至关重要。生物风险治理必须继续成为全球共同责任,低收入和中等收入国家代表必须积极参与制定生物安全、生物安保和双用途框架。自上而下的治理模式存在缺乏合法性及施加过度或不足限制性政策的风险,而自上而下监督与自下而上内部审查相结合的混合模式(即适应性、迭代性风险治理,伴随渐进能力发展和防护等级的比例升级)在英国和美国已成功发展,可能行之有效。考虑国家特定因素的替代框架也可能必要。

生物通微信公众号
微信
新浪微博


生物通 版权所有