综述：面向化学科学的通用模型：大语言模型及其他

这篇综述系统探讨了通用模型（GPMs，如大语言模型LLMs）在化学科学中的应用潜力与挑战。文章深入剖析了GPMs的基本构建原理（如表示学习、自监督预训练、微调、多模态集成及智能体系统），并综述了其在知识获取、假设生成、实验规划与执行、数据分析、性质预测、分子材料生成、逆合成分析及优化等化学研究关键环节的新兴应用。尽管许多应用仍处于原型阶段，但作者预期，随着对GPMs兴趣的日益增长，它们将在未来几年日趋成熟，并强调需关注其安全性、伦理及环境影响，呼吁跨学科合作以应对化学数据多样性、小样本及隐性知识等独特挑战。

化学数据的形态与结构

化学科学面临着数据多样化、小规模、模糊性等独特挑战，这使得传统机器学习方法难以有效利用这些数据。通用模型（GPMs），例如大语言模型（LLMs），展现出了解决未经直接训练的任务的能力，并且能够灵活处理不同格式的少量数据。化学系统的状态空间随着系统复杂性的增加而增长，许多描述系统的基本因素往往是隐式的，这种复杂性被称为“不可约复杂性”。化学数据通常呈现“长尾分布”，即存在大量小型但具有化学多样性的数据集，这给传统机器学习技术带来了挑战，但GPMs有望灵活整合和联合建模这些多样性数据。

GPMs的构建原理

GPMs的训练通常包括预训练和微调两个主要步骤。预训练通过自监督学习（SSL）目标（如掩码建模、下一令牌预测、去噪）让模型从大规模数据中学习数据分布，从而获得通用的内部表示。微调则是在预训练模型的基础上，使用特定任务的标注数据对模型参数进行适应性调整，使其获得任务特定的能力。此外，还可以通过强化学习（RL）等技术对模型进行后训练对齐，使其输出更符合期望。

GPMs的架构多样，包括擅长处理序列数据的LSTM和Transformer模型、高效处理长序列的Mamba模型，以及天然适合图结构数据（如分子图）的图神经网络（GNNs）。多模态能力使得GPMs能够同时处理和理解文本、图像、分子结构、光谱数据等多种类型的数据，从而进行更全面、上下文更丰富的分析。模型优化技术，如混合专家（MoE）架构、量化和参数高效微调（PEFT，如LoRA），有助于提高模型的效率和可部署性。智能体（Agent）系统将GPMs（作为“大脑”）与一系列工具相结合，使其能够感知环境、执行行动（如调用数据库、运行代码、控制实验设备），并进行规划与推理，从而解决复杂的多步骤科学问题。

模型评估的演进与挑战

评估GPMs面临挑战，因为其适用性广泛。当前的评估方法包括传统基准测试、竞赛、红队测试、真实世界部署研究等。化学领域的基准测试（如ChemBench, MaCBench）旨在评估模型在多项选择问答、推理、分子命名、性质预测、反应预测等多种任务上的表现。然而，设计能够捕捉开放式问题解决能力、避免数据泄露和过拟合、并能进行统计显著性检验的评估体系仍是一个开放挑战。评估需要清晰记录设计选择、假设和局限性，以确保结果的可解释性、可复现性和可扩展性。

GPMs在化学科学中的应用

1. 1.
   知识获取与问答：GPMs可用于从科学文献中提取结构化数据（如反应条件、材料性质），并回答复杂的化学问题。检索增强生成（RAG）技术通过结合外部知识库，可以提高回答的准确性和时效性。
2. 2.
   假设生成：GPMs能够通过分析现有知识生成新的科学假设。多智能体系统可以通过角色扮演（如规划者、文献检索者、批评者）来协同生成和 refine 假设。然而，评估生成假设的新颖性和影响力仍然困难，当前模型更倾向于产生渐进式想法而非颠覆性见解。
3. 3.
   实验规划与执行：GPMs可以分解复杂的实验目标为可执行的步骤序列。在实验自动化方面，存在“编译式自动化”（将整个协议预先转化为低级指令）和“解释式自动化”（由GPM在运行时逐步解释和执行指令）两种范式。后者允许智能体根据实时反馈（如传感器数据）动态调整计划。混合方法结合了二者的优点，在灵活性和安全性之间取得平衡。
4. 4.
   数据分析：GPMs有潜力自动化处理化学中高度异构的数据（如来自各种仪器的光谱、色谱数据），将其转化为易于理解的图表、分析和报告。智能体系统可以编排整个数据分析工作流。
5. 5.
   性质预测：通过提示工程、微调或RAG，GPMs可用于预测分子和材料的各种性质（如溶解度、毒性、带隙）。在某些小数据场景下，微调后的GPMs性能可比肩甚至超越专门的机器学习模型。
6. 6.
   分子与材料生成：GPMs能够生成新的分子和材料结构。生成方式包括无条件生成和条件生成（根据特定属性或片段进行引导）。使用扩散模型、流匹配以及结合强化学习或偏好优化（如DPO）的方法可以优化生成结果，使其满足特定的设计目标。验证生成的结构的有效性、可合成性以及是否满足目标属性是关键环节。
7. 7.
   逆合成分析：GPMs可用于预测化学反应的结果和规划逆合成路线。它们能够整合化学知识（如反应规则、试剂信息）来提出合理的合成路径。智能体系统（如ChemCrow）可以自主规划并尝试执行化合物的合成。
8. 8.
   优化：GPMs可被用作优化器，例如在贝叶斯优化（BO）或进化算法（EA）中充当替代模型或候选生成器，用于优化分子特性或反应条件。它们能够整合先验知识，可能减少优化所需的步骤。

GPMs的影响：教育、安全与伦理

GPMs在化学教育中具有潜力，如提供个性化辅导、生成教学材料、进行安全实验模拟等，但也存在产生幻觉、削弱学生批判性思维等风险。在安全方面，GPMs可能降低获取危险化学品合成知识的门槛，存在被滥用的风险，需要开发化学感知的防护措施和治理框架。伦理问题包括模型训练可能侵犯版权、放大数据中的偏见（如关于药物效力的种族或性别偏见）、计算过程的环境影响（高能耗和碳排放）以及技术权力可能集中在少数大公司手中。需要跨学科合作，制定负责任的部署策略。

展望与结论

GPMs为化学科学带来了巨大的机遇，其应用形式正从简单的模型调用发展为复杂的工作流和自主智能体。然而，将其转化为稳健、可靠的工具仍面临挑战。许多基本问题尚未解决，例如模型是否真正“理解”化学，还是仅仅进行模式识别。未来的发展需要构建更好的评估体系、校准奖励函数、设计合理的治理机制，并需要化学家、计算机科学家、政策制定者等多方的深入合作，以应对化学数据独特挑战，并负责任地利用GPMs解决化学科学中最持久和紧迫的挑战。