摘要：人工智能（Artificial Intelligence, AI）的进展正在迅速扩展生物技术中可预测和可生产的范围，将生命科学转变为一种计算化、分布式且日益以设计为导向的产业。与此同时，生物安全框架在很大程度上仍围绕对已知病原体、材料和个体技术的控制来组织，导致新兴能力与当前的风险管理方法之间出现日益严重的错配。在人工智能赋能的生物学中，能力日益具有组合性（compositional），源于数据、模型、基础设施和工作流之间的相互作用。风险不再仅存在于单个组件内，而是存在于它们的连接方式中。孤立时有效的防护措施在系统集成时可能会失效；例如，核酸序列筛选可能无法捕捉到由探索超越参考框架的新颖生物空间的生成系统所产生的风险。该视角主张一种关系型（relational）生物安全方法，将组件间的互动视为设计（design）与治理（governance）的明确对象，而非集成的隐含副产品。该方法强调系统级感知（system-level sensing）、背景与不确定性的保留、扰动的缓冲（buffering），以及与分布式行动者（distributed actors）共享价值（shared values）的对齐（alignment）。该方法并非取代现有防护措施，而是通过解决它们在工作流中的互动方式来扩展它们。它引入了跨组件表示、度量和传播系统级目标的需求，从而实现对组合工作流的更连贯监督。虽然以生物应用为基础，但这些挑战更广泛地延伸至人工智能安全与治理领域，其中风险源于系统间的相互作用而非单个模型。
论文解读：
研究背景与问题提出
人工智能（Artificial Intelligence, AI）正在深刻重塑生物技术领域。机器学习系统已能实现高精度蛋白质结构预测（如AlphaFold2原理）、新型生物分子的生成式设计以及从序列数据中大规模推断生物学功能。这使生命科学转变为一种计算化、分布式且高度依赖设计的“社会-技术系统”（socio-technical system），模糊了数字领域与物理领域的界限。然而，现有的生物安全（biosecurity）框架仍主要围绕控制“已知”的病原体、材料和单一技术来构建（如传统的核酸合成筛选依赖序列同源性比对）。这种范式与AI带来的“组合能力”（compositional capability）之间出现了严重的结构性错配：风险不再仅驻留于单个组件（如某个模型或试剂），而是产生于数据、模型、基础设施和工作流之间的动态“关系”与“连接”中。这种由系统交互引发的风险被称为“组合风险”（compositional risk）——即系统每一步可能都符合安全规范，但组合后的整体输出却可能构成威胁。因此，研究人员指出，必须从治理离散组件转向治理“组合工作流”（compositional workflows），并提出了“关系型生物安全”（relational biosecurity）的新范式。
研究开展与核心结论
本研究是一项前瞻性的视角分析（Perspective），旨在重构AI赋能生物学背景下的安全治理逻辑。研究人员基于系统生物学、网络安全和AI安全领域的理论，提出并论证了以下核心论点：在AI-enabled biology中，安全问题的本质从“属性控制”转变为“关系治理”。传统的“竖井式”（siloed）防护措施（如仅针对合成环节的筛查）在生成式AI探索未知序列空间时可能失效，因为风险源于生成模型与筛查标准之间的“接口”不匹配。研究结论强调，必须将系统间的“关系”（包括接口、信息流、组织互动）作为设计与治理的“一等对象”（first-class objects），通过系统级感知、不确定性保留和跨组件价值对齐来实现真正的安全。该框架不仅适用于生物安全，也为更广泛的AI安全治理提供了借鉴。
关键技术方法
本研究为理论构建与系统分析，未涉及具体湿实验。研究人员主要采用了多学科交叉的理论映射方法：1. 系统生物学类比：借鉴生物网络中功能涌现的原理，分析技术系统风险涌现的路径；2. 网络安全与Cyberbiosecurity框架延伸：参考信息共享与分析中心（如Bio-ISAC）模式，强调跨组织协调；3. AI安全与治理理论：结合多智能体（multi-agent）系统研究，分析工具增强模型（tool-augmented models）组合时的风险特性；4. 控制论与系统设计原则：引入反馈、缓冲（buffering）和跨系统验证（cross-system validation）等机制设计概念。
研究主体内容解读
AI-enabled biology as a connected system（作为互联系统的AI赋能生物学）
研究人员将AI生物技术解构为一个多层互联的社会-技术系统，包括生物数据、机器学习模型、计算与实验基础设施以及机构行动者（actors）。能力（capability）并非由单一工具决定，而是通过各层间的动态集成“涌现”出来。这与系统生物学中“功能源于网络互动”的原理一致，但挑战在于治理：不同组织（学术界、产业界）拥有不同的能见度（visibility）与激励，导致决策碎片化。例如，不同公司独立开发的合规模型，在组合成工作流后可能产生任何单方都无法预见的风险。因此，理解系统行为必须关注“关系”而不仅是组件性能。
From siloed understanding to system-level insight（从竖井式理解到系统级洞察）
本部分通过生物学与工程学的类比揭示了“耦合参数”的关键作用。正如网络生理学中器官通过信号传导相互作用，或“器官芯片”（organ-on-a-chip）集成中系统行为高度依赖流速、比例等“耦合参数”，AI生物工作流也面临同样问题。将蛋白质预测、序列生成、功能评估等模型串联时，模型间的“接口”往往未被明确定义，系统行为由跨时空尺度的耦合方式驱动。证据表明，微小的局部扰动（如数据偏差）可能通过非线性互动在系统层面放大为重大风险。因此，研究的重点应从“优化单体”转向“设计与理解关系”。
Compositional risk in AI-enabled workflows（AI赋能工作流中的组合风险）
研究人员以核酸合成筛选为例，实证分析了组合风险的机制。生成式AI（如ProGen）能够设计出与已知病原体序列同源性低、但功能相似甚至增强的新型生物分子。在现有框架下，这些序列可能因不匹配“已知威胁数据库”而通过合成筛查，导致防护失效。风险并非源于生成模型“有bug”或筛查工具“不准确”，而是源于两者“设计假设”的冲突：生成模型的目标是探索“未知”空间，而筛查工具的前提是威胁存在于“已知”空间。这体现了“组合风险”的本质：合规的组件 + 未治理的接口 = 系统级漏洞。类似风险也存在于AI多智能体工作流中，工具增强可能产生超越单模型评估范围的能力。
The role and limits of human oversight（人类监督的作用与局限）
人类在环（human-in-the-loop）是必要的，但在复杂系统中存在根本性局限。基于AI治理研究，有效的监督需要“情境理解”与“行动权威”，但在分布式系统中，没有任何单一人类行动者拥有全局能见度。当前的风险在于，人类监督往往被设计为“事后检查”或“流程合规”，而非系统级的“价值对齐”（value alignment）。若缺乏跨系统的共享价值定义与度量方法，局部决策可能偏离整体安全目标。因此，必须将“价值”编码为系统可读、可传播的信号，并建立系统级的“内感受”（interoceptive）监测机制，而非仅依赖人工审批节点。
Designing for connection: toward relational biosecurity（为连接而设计：迈向关系型生物安全）
这是本文提出的解决方案框架。既然风险源于关系，安全就必须设计在“关系层”。研究人员提出借鉴生物系统的稳态调节机制（如负反馈、缓冲机制）来设计技术系统：1. 显式建模接口：将工作流中的信息交换点作为风险治理的重点；2. 保留不确定性：在模型间传递时保留置信度与溯源（provenance）信息，而非仅传递确定性结果；3. 系统级验证：实施跨组件的联合验证，而非仅单体测试；4. 监测互动模式：检测异常的交互序列，而非仅静态输出。这要求建立新的技术标准与治理框架，将“关系属性”（如可审计性、韧性）纳入系统设计。
Research directions（研究方向）
未来研究应聚焦于：1. 工作流映射：开发方法将AI生物工作流建模为整体系统，识别关键集成点与脆弱性；2. 接口表征：定义与度量组件间交互的属性（如信息保真度、误差传播率）；3. 系统级指标：开发评估整体系统行为（而非单体性能）的安全指标；4. 价值对齐工程：研究如何在分布式系统中编码与维护安全约束；5. 治理实验：探索适用于组合工作流的新型监管模式。
讨论与结论翻译
讨论与启示
本研究将AI生物安全重构为一个“系统级关系治理”问题。传统的基于清单（checklist）和单体认证的方法无法应对生成式AI带来的“未知未知”（unknown unknowns）风险。关系型生物安全要求安全社区、技术开发者和监管机构共同关注“集成点”的设计，建立跨组织的能见度与协调机制（如扩展Bio-ISAC的功能）。这一范式转变也适用于更广泛的AI安全领域，特别是多模态、多智能体系统的治理。
结论（Conclusion）翻译
“人工智能正在将生物技术转变为一种由数据、模型和基础设施相互作用驱动的互联系统。在此背景下，生物安全风险日益表现为组合性，源于跨组件和工作流的互动，而非孤立元素的属性。现有的保障措施虽然在其各自范围内有效，但往往无法应对这些新兴的动态。关系型生物安全方法通过将互动、接口和系统级行为作为明确的设计和治理对象，而非集成的隐含副产品，来应对这一挑战。它强调系统级感知、不确定性的保留、扰动的缓冲以及与分布式行动者共享价值的对齐。推进这一方法需要新的研究，以映射互联的工作流、表征接口、定义系统级指标，并将共享价值嵌入跨组件的系统行为中。最终，关系型生物安全并非取代现有的保障措施，而是将其重新置于一个能够更有效地应对人工智能驱动的生物学所带来的组合性挑战的框架之中。”
