基于积分方法的物理信息随机神经网络（IPIRNNs）：求解刚性常微分方程的高效稳定新框架

本文提出了一种创新的基于积分的物理信息随机神经网络（IPIRNNs）框架，用于精确高效求解刚性常微分方程（ODEs）。该框架通过将刚性ODEs转化为积分方程（IEs），显著改善了数值稳定性，避免了传统微分方法因时间尺度差异导致的数值不稳定行为，无需采用极小时步。IPIRNNs结合随机神经网络（如极限学习机ELMs），随机初始化隐藏层参数并解析计算输出权重，避免了基于梯度的优化，加速了学习过程。数值实验表明，IPIRNNs在处理线性/非线性刚性ODEs、Lotka-Volterra系统和化学动力学模型时，相比传统PIRNNs和MATLAB的ODE15s求解器，精度更高（误差降低达10-10）、稳定性更优，尤其适用于高刚性条件，为固体力学、流体力学和多尺度现象等领域的复杂系统模拟提供了新方案。

亮点

stiff单变量线性ODE

在初始测试中，我们分析了以下刚性一阶ODE的行为，该方程由于解在短时间间隔内的快速变化而对数值方法提出了典型挑战：

dy₁(t)/dt = λ₁y₁(t) + e^λ₂t, t=0, y=y₀

其中λ₁和λ₂是选定值，y₀是任意初始条件。在顺序IPIRNN方法中，当前时间段的解被传递为下一时间段的初始条件。上述ODE的精确解（ES）写为：

y₁(t) = (y₀ + 1/(λ₁ - λ₂)) e^λ₁t - (e^λ₂t)/(λ₁ - λ₂)

讨论与局限性

用于求解刚性ODE的基于神经网络的方法主要分为两类：物理信息随机神经网络（PIRNNs）和物理信息神经网络（PINNs）。对于PIRNN，尽管避免了基于梯度的优化问题，但该算法在高度刚性区域使用时存在严重缺陷。我们的数值实验表明，当刚度增加时，PIRNN的误差迅速增加。其背后的原因是微分算子是直接且离散地实现的。因此，这些方法很容易因输入数据的微小扰动而产生较大输出误差，从而导致最小二乘系统的条件数非常大。相比之下，IPIRNNs通过积分形式有效地缓解了这个问题。积分运算作为平滑过程，减少了高频振荡的影响，从而产生更良性的条件数。然而，IPIRNNs并非没有局限性。该方法在处理具有不连续或快速变化的源项的问题时可能面临挑战，因为积分可能会平滑掉这些尖锐特征。此外，虽然该方法在适度刚度下表现出色，但在极端刚度（例如λ > 10⁶）下的有效性仍需进一步研究。未来的工作将探索自适应激活函数和更复杂的积分方案，以扩展IPIRNNs在更广泛问题上的适用性。

结论

本文提出了一种基于积分的物理信息随机神经网络（IPIRNN）方法用于求解刚性ODE。通过将积分方程重构策略与随机网络架构相结合，IPIRNNs在一系列综合数值实验中优于基线算法。主要贡献和发现总结如下：

(1) 数值稳定性改进：积分公式通过减少最小二乘系统的条件数，显著提高了数值稳定性，使其特别适用于刚性系统。

(2) 计算效率：IPIRNNs避免了耗时的基于梯度的优化，实现了快速训练过程，即使对于大规模问题也只需几秒到几分钟。

(3) 验证和适用性：该方法在包括Lotka-Volterra模型和化学动力学问题在内的各种基准问题上得到了验证，展示了其在实际应用中的潜力。

未来的研究方向包括将IPIRNNs扩展到偏微分方程（PDEs）以及探索其在涉及多物理场和多尺度现象的更复杂系统中的应用。