1、论文试图办理什么问题？

本文提出了一种新的物理知识嵌入深度学习架构（PeRCNN）用于偏微分方程正反问题求解、非线性时空动力系统建模和掌握方程创造。

2、这篇论文的创新点是什么？

本文首次提出了物理编码网络架构，采取了时空学习范式，建立了一个通用且鲁棒的学习模型，能够担保所得到的网络严格服从给定的先验物理知识，同时在少量稀疏数据下可以准确的捕捉模型背后的物理机制，使得网络具有可阐明性，极大的缓解了模型对数据的依赖性。

3、这篇论文要验证一个什么科学假设？

在给定先验物理知识的情形下，可以加速网络收敛，同时增加可阐明性。
利用给定的物理构造进行编码，可以提高在稀疏和噪声数据情形下学习繁芜时空动力学的能力。

近日，中国公民大学高瓴人工智能学院长聘副教授孙浩团队在 Nature Machine Intelligence 上揭橥了题目为“Encoding physics to learn reaction-diffusion process”的论文。

该论文提出了一种新的物理知识嵌入深度学习架构，即 PeRCNN，用于偏微分方程（PDE）正反问题求解、非线性时空动力系统建模和掌握方程创造，旨在改进繁芜时空动力系统基于稀疏和噪声数据建模的准确性和可阐明性。
该论文还建立了一个逼迫编码物理构造的循环卷积神经网络框架，有效办理了网络对演习数据的依赖性，打破了神经网络模型不可阐明的瓶颈，同时提升了模型的外推和泛化性，在各种反应扩散系统（RD）问题场景实现成功验证。

图1 ：PeRCNN 模型图

一样平常而言，由于先验知识有限，且系统变量的非线性过程难以用明确的偏微分方程（PDE）公式描述，繁芜时空动力系统建模和仿真一贯是一项具有寻衅性的任务。
常见的机器学习方法则须要依赖大量演习数据，还存在可阐明性差、泛化性弱、偏差不可控等根本科学问题。
将先验物理知识（例如掌握方程）作为约束加入深度学习，在一定程度上会增强模型的可阐明性、缓解数据依赖性。
但是，现有的基于物理信息的深度学习方法，常日须要通过软约束来施加物理定律，模型表现很大程度上取决于超参数的恰当设置。
因此，发展新的知识嵌入学习模型，从数据中捕捉潜在的时空动态蜕变机制，是亟需办理的问题。

图2：实验结果（PDE 正问题）

为此，该文章提出了一种新的学习模型，即物理编码递归卷积神经网络（PeRCNN），如图 1 所示。
PeRCNN 的一个紧张优点是可以将先验物理知识构造编码到网络中，采取了时空学习范式，旨在建立一个通用且鲁棒学习模型，能够担保所得到的网络严格服从给定的先验物理知识（例如 PDE 构造、初始和边界条件），使得网络具有可阐明性。
模型通过循环卷积神经网络对给定的物理构造进行编码，从而提高在稀疏和噪声数据情形下学习繁芜时空动力学的能力。

图3：实验结果（PDE 反问题）

通过大量数值实验，结果展示了 PeRCNN 对反应扩散型偏微分方程的正向（图 2）和反向（图 3）问题剖析的有效性。
与几个基线模型的比较表明，所提出的物理编码学习范式具有独特的外推能力、对数据噪声或稀疏数据的泛化能力和鲁棒性。
在数据驱动仿真实验中，PeRCNN 取得了 SOTA 结果；PeRCNN 的平坦偏差传播曲线（图 4），也证明了 PeRCNN 显著的外推和泛化能力，这意味着该方法不仅能够准确地预测繁芜时空动力系统的演化，还能够捕捉模型背后的物理机制，并且在应对新的工况时能够展现出一定的通用性。

图4：实验结果（数据驱动建模，偏差传播和外推图示）

此外，该事情还成功地将 PeRCNN 与稀疏回归算法相结合，办理潜在 PDE 创造问题（图 5），可进一步从学习模型中提取掌握底层物理机制的解析表达式。
耦合方案使得模型能够迭代优化网络参数，并对创造的 PDE 构造和系数进行微调，得到终极 PDE 的简约表达形式，从稀疏带噪声噪声的丈量数据中准确可靠地创造潜在的物理定律。

图5：掌握偏微分方程创造流程图

虽然本文证明了 PeRCNN 在各种反应扩散系统上的有效性，但该模型在理论上适用于其他类型的时空动力系统，例如，文章的补充材料中展示了带对流项的二维 Burgers 方程、雷诺数为 1000 的 Kolmogorov 湍流（NS 方程）。

这项研究成果为繁芜时空动力系统数据驱动建榜样畴带来了新进展，为科学家和工程师供应了更强大的工具来理解和预测自然和工程征象。
这种结合了深度学习和先验物理的方法，有望在多个学科领域运用中发挥主要浸染，包括流体力学、生归天学、环境科学、工程学、材料科学等。
让我们拭目以待，期待这一新方法的进一步发展和运用，它将为我们揭示更多关于繁芜时空动力系统的奥秘，并为未来的科学和技能发展带来新的打破。

作者先容：孙浩，中国公民大学高瓴人工智能学院长聘副教授、博导，国家外洋高层次青年人才；美国哥伦比亚大学取得工程力学博士、麻省理工学院博士后。
曾任美国匹兹堡大学、美国东北大学终生序列助理教授、博导。
紧张从事科学智能打算理论与方法研究，在 Nature Machine Intelligence、Nature Communications 等期刊/会议上揭橥论文 60 余篇，主持国家高层次人才操持、国家自然科学基金委（重大研究操持造就项目、面上项目）、美国科学基金委（ECI、SCC、DRRG）、北京市自然科学基金委（面上项目）等研究项目十余项（3000 余万元）。
入选福布斯北美“30 位 30 岁以下精英榜（科学类）”、“美国十大华人精彩青年”，荣获 DeepTech“中国智能打算科技创新人物”。

论文信息：Chengping Rao, Pu Ren, Qi Wang, Oral Buyukozturk, Hao Sun, Yang Liu. Encoding physics to learn reaction-diffusion processes. Nature Machine Intelligence (2023), 5: 765–779. DOI: 10.1038/s42256-023-00685-7

声明：本文仅供科研分享，助力科学传播，不做盈利利用，如有侵权，请联系后台删除。