Nature子刊發(fā)表!基于昇思MindSpore打造的AI+科學(xué)計算新成果PeRCNN面世

近日,華為與中國人民大學(xué)高瓴人工智能學(xué)院孫浩教授團隊合作,基于昇思MindSpore AI框架提出了物理編碼遞歸卷積神經(jīng)網(wǎng)絡(luò)(Physics-encoded Recurrent Convolutional Neural Network,PeRCNN),該成果已在《Nature》子刊《Nature Machine Intelligence》上發(fā)表,相關(guān)代碼已在開源社區(qū)Gitee的MindSpore Flow代碼倉開源[1]。

PeRCN相較于物理信息神經(jīng)網(wǎng)絡(luò)、ConvLSTM、PDE-NET等方法,模型泛化性和抗噪性明顯提升,長期推理精度提升了10倍以上,在航空航天、船舶制造、氣象預(yù)報等領(lǐng)域擁有廣闊的應(yīng)用前景。

PDE方程在對物理系統(tǒng)的建模中占據(jù)著中心地位,但在流行病學(xué)、氣象科學(xué)、流體力學(xué)和生物學(xué)等等領(lǐng)域中,很多的底層PDE仍未被完全發(fā)掘出來。而對于那些已知的PDE方程,比如Navier-Stokes方程,對這些方程進行精確數(shù)值計算需要巨大的算力,阻礙了數(shù)值仿真在大規(guī)模時空系統(tǒng)上的應(yīng)用。目前,機器學(xué)習(xí)的進步提供了一種PDE求解和反演的新思路。

PerCNN的模型架構(gòu)

已有的數(shù)據(jù)驅(qū)動的模型依賴于大數(shù)據(jù)[2],這在大多數(shù)的科學(xué)問題上很難滿足,同時還存在解釋性的問題。物理約束的神經(jīng)網(wǎng)絡(luò)(PINNs)[3]雖然做到了利用先驗知識去約束模型的訓(xùn)練從而減少對數(shù)據(jù)的依賴,但是PINN基于損失函數(shù)的軟約束限制了最終結(jié)果的準確性。如何在缺少有效數(shù)據(jù)的情形下,得到具有高精度、魯棒性、可解釋性和泛化性的結(jié)果,仍是學(xué)界努力的方向。

因此,華為與孫浩教授團隊合作,利用昇騰AI澎湃算力、依托昇思MindSpore AI框架開發(fā)了物理編碼遞歸卷積神經(jīng)網(wǎng)絡(luò)[4],實現(xiàn)了對非線性PDE的精確逼近。

PeRCNN在反應(yīng)擴散方程的應(yīng)用,長期演化上優(yōu)于ConvLSTM\PINN等方法

PeRCNN神經(jīng)網(wǎng)絡(luò)強制編碼物理結(jié)構(gòu),基于結(jié)合部分物理先驗設(shè)計的π-卷積模塊,通過特征圖之間的元素乘積實現(xiàn)非線性逼近。該物理編碼機制保證模型根據(jù)我們的先驗知識嚴格服從給定的物理方程。所提出的方法可以應(yīng)用于有關(guān)PDE系統(tǒng)的各種問題,包括數(shù)據(jù)驅(qū)動建模和PDE的發(fā)現(xiàn),并可以保證準確性和泛用性。

PeRCNN在預(yù)測和外推的性能上也優(yōu)于ConvLSTM/ResNet/PDE-Net/DHPM等方法

PeRCNN的另一個獨特優(yōu)勢是其可解釋性,這源自π-卷積的乘法形式。通過符號計算,可以從學(xué)習(xí)到的模型中進一步提取底層的基礎(chǔ)物理學(xué)表達式。這讓PeRCNN能夠作為一項有效的工具幫助人們從不完善和高噪聲的數(shù)據(jù)中準確可靠地發(fā)現(xiàn)潛在的物理規(guī)律。

流體力學(xué)、氣象、海洋等學(xué)科中,存在湍流、激波等強非線性現(xiàn)象,傳統(tǒng)數(shù)值方法的求解需要大量計算資源,當(dāng)前AI已經(jīng)在飛行器流場、中期天氣預(yù)報等問題中展現(xiàn)出極大的潛力,PeRCNN具備高精度、泛化性強和抗噪性強等特點,將有望在這些領(lǐng)域突破傳統(tǒng)計算瓶頸,加速工業(yè)仿真和設(shè)計,成為AI+科學(xué)計算領(lǐng)域的新利器!

[1]https://gitee.com/mindspore/mindscience/tree/master/MindFlow/applications/data_mechanism_fusion/PeRCNN

[2]Yann LeCun, Yoshua Bengio, and Geoffrey Hinton. Deep learning. Nature, 521(7553):436–444, 2015.

[3]Maziar Raissi, Paris Perdikaris, and George E Karniadakis. Physics-informed neural networks: A deep learning framework for solving forward and inverse problems involving nonlinear partial differential equations. Journal of Computational Physics, 378:686–707, 2019.

[4]Chengping Rao, Pu Ren, Qi Wang, Oral Buyukozturk, Hao Sun*, Yang Liu*. Encoding physics to learn reaction-diffusion processes. Nature Machine Intelligence, 2023, DOI: 10.1038/s42256-023-00685-7

(免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性,但不保證有關(guān)資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負任何法律責(zé)任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時,應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明,并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實,溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 )

贊助商
2023-07-25
Nature子刊發(fā)表!基于昇思MindSpore打造的AI+科學(xué)計算新成果PeRCNN面世
AI+科學(xué)計算推動偏微分方程的求解和物理規(guī)律的發(fā)現(xiàn)取得新突破

長按掃碼 閱讀全文