董彬团队尝试计算数学方法与深度学习相结合,建立了数值微分方程和深层网络构架的联系,并针对图像科学中的重要问题,设计机理与数据融合的新算法。该项目一方面用微分方程数值格式来系统的指导深度学习中的深层网络构架设计,这也正是深度学习领域最核心的问题之一,而团队提出的是一个全新的切入点,并在大规模图像识别数据集上验证了该方法的有效性(图1);另一方面,利用深度学习端到端的训练思想和深层网络的表达能力,结合偏微分方程有限差分方法,提出一个如何从海量数据中学习未知PDE模型并同时能做精确预测的算法框“PDE-Net”。PDE-Net能够在保证预测能力的同时也保证模型的可解释性,作为反问题求解器以及数据驱动的建模方案初见成效(图2);更进一步,团队继续秉承机理与数据融合的思路,提出融合深度学习、强化学习、最优控制和PDE的图像重建模型(图3)、图像分割模型(图4)、PDE求解算法和加速对抗训练算法(图5),这些模型和算法也同时具备了优良的性能和较好的可解释性。
▲图1 数值ODE算法诱导新型深层网络构架Y.Lu et al., ICML 2018.
▲图2 数值PDE算法诱导深层网络构架Z.Longetal.,ICML 2018. Z.Long,Y. Lu and B. Dong, JCP 2019.
▲图3 机理与数据融合的CT图像重建模型 H.M.Zhangetal., IEEE TMI 2021.
▲图4 神经网络推断PDE模型初始化和超参数 M.Zhang, B. Dong and Q. Li, MICCAI 2020.
▲图5 最优控制理论诱导快速对抗训练算法 D.Zhanget al., NeurIPS 2019.