Nature子刊登人大北航新算法:破解复杂时空物理场重建难题

2024-12-10


孙浩团队与杨立军团队合作发文,提出了一种新的预测复杂系统的方法。


人民大学高淳人工智能学校长聘请副教授孙浩团队与北京航空航天大学杨立军教授团队合作,最近Nature子刊Nature Machine Intelligence(自然-机器智能)发表题为“Learning spatiotemporal dynamics with a pretrained generative model本文提出了一种基于扩散生成模型的动态系统预测算法,称为S3GM (Sparse-Sensor-assisted Score-based Generative Model)。


该方法将物理先验知识与实验测量数据相结合,旨在解决现代科学与工程中的一个重要挑战:复杂的时空物理场是从稀疏的传感器测量信息中重建的。


研究小组展示了S3GM即使数据极其不完整和嘈杂,也能准确预测燃烧、流动、气候进化等诸多物理系统的动态过程,为驱动系统建模提供了新的思路。


这篇文章的第一作者是李泽宇(北航)、共同通讯作者韩旺(北航)为孙浩(NPC)、邓岳(北航)、杨立军(北航)。


论文链接:https://www.nature.com/articles/s42256-024-00938-z


在《自然-机器智能》中,人大高淳人工智能学院师生团队发表了第二篇论文。在此之前,孙浩团队已经在《自然-机器智能》上发表了名为《自然-机器智能》Encoding physics to learn reaction-diffusion process”的论文(Nature Machine Intelligence, 2023, 5: 765-779)。



在当代科学和工程中,如何从稀疏的传感器测量信息中重建复杂的时空物理场是一个关键问题。


例如,在航天工程发动机测试中,传感器的数量、类型、分布和信噪比测量通常非常有限,发动机内部很难获得完整的物理过程。传统的重构方法很难准确重构复杂的动力学,但面对不同的传感器,现有的深度学习方法往往很难泛化。



为解决这一难题,研究小组提出了一种基于扩散生成模型的动态系统预测算法,称为S3GM。S 3 GM模型分为两个阶段(图1):



图1用 S3G M建模动力系统的示意图。S3GM模型分为两个阶段:预训练(子图c)和生成(子图d)


第一阶段,S3GM基于扩散模型进行自监督预训练,结合建模系统状态变量与参数之间复杂的动力学关系,通过时空分离的注意机制,在通过物理先验知识获得的时空数据中进行计算率消耗。


第二阶段,利用预训练的扩散模型作为先验,结合稀疏的传感器数据进行后验取样,对动力装置进行重建和预测。模型将完整的待重构序列分为两段序列,其中一段直接依赖于观测数据,另一段直接依赖于外推序列(不直接依赖于观测数据),以生成符合观测要求的动力系统的状态变量和参数。


对于依赖观测数据的子序列,S3GM并行生成多个样本,并通过添加观测一致性和序列一致性来生成连续帧;对于不直接依赖观测数据的子序列,S3GM选择自回归逐段生成,以保证最佳效果。这种后期采样方法不仅可以处理各种传感器的分布和类型,还可以处理随机的长时间序列。



图2Kuramoto-Sivashinsky系统的重构和预测。在三种不同的观测类型下,上、中、下三行代表模型的重构/预测结果


在许多不同的物理系统中,研究人员验证了S3GM的有效性,其结果包括反应扩散系统(图2)、湍流系统和真实的气候观测数据(图3)测试了各种不同的观测数据方法(包括稀疏测量、统计测量和随机时空分布的未来时间预测等)。)在每个例子中。S3GM不需要再次训练,就可以根据相应的观测信息有效地重构动力系统的状态变量和参数。


这意味着与传统的端到端训练方法相比,S3GM不仅具有更好的泛化能力,而且在高稀疏性和噪声数据面前具有更好的鲁棒性。



图3显示了湍流场的重构结果。与其他方法相比,S3GM的重构误差更低,可以更好地满足湍流场的统计指标(湍流能谱)


此外,S3GM只使用模拟数据预训练模型,并成功从真实流场的极其稀疏的测量数据中重构流场信息(图4),证明该模型即使在极端数据稀疏和噪声下也具有泛化能力和鲁棒性。



图4利用实验室检测的稀疏数据重构完整的流场。子图a是实验装置图,子图b表示测量数据单是从流场的单个截面获得的,子图c和d展 示 了 S3G M 重构的结果


团队研究人员表示:“S3GM在数据采集具有挑战性的现实场景中,具有从有限和噪音数据中泛化的能力,成为一种强大的工具。“这种模式为我们提供了一种理解和预测自然和工程复杂系统的新方法”。


研究人员计划进一步优化该模型的计算效率,并探索其在更具挑战性的动力系统中的应用。这项工作为利用预训练生成模型改变小数据条件下对高度复杂动力学的预测奠定了基础,为推动科学理解和技术发展提供了新的概率。


本研究得到了国家自然科学基金委(重大科研仪器研发项目、重点项目、重大研究计划培育项目、面向项目)和国家重点研发计划的支持。


本文来自微信微信官方账号“智物”,作者:GSAI,36氪经授权发布。


本文仅代表作者观点,版权归原创者所有,如需转载请在文中注明来源及作者名字。

免责声明:本文系转载编辑文章,仅作分享之用。如分享内容、图片侵犯到您的版权或非授权发布,请及时与我们联系进行审核处理或删除,您可以发送材料至邮箱:service@tojoy.com