全球今日訊！人大團(tuán)隊(duì)開發(fā)雙驅(qū)動(dòng)系統(tǒng)仿真模型

來源：DeepTech深科技時(shí)間：2023-06-23 04:29:55

(資料圖片)

中國人民大學(xué)高瓴人工智能學(xué)院長聘副教授主要從事 AI for Science、人工智能數(shù)理基礎(chǔ)與前沿交叉前沿研究。

他提出面向復(fù)雜系統(tǒng)科學(xué)計(jì)算的新型機(jī)器學(xué)習(xí)方法，發(fā)展出一系列可用于復(fù)雜工程系統(tǒng)科學(xué)計(jì)算、氣象/天氣預(yù)報(bào)、科學(xué)探索等領(lǐng)域的人工智能系統(tǒng)，從而支撐輔助各個(gè)跨學(xué)科領(lǐng)域的信息化轉(zhuǎn)型、實(shí)現(xiàn)落地，并大幅提高工作效率，表現(xiàn)出巨大的社會(huì)和經(jīng)濟(jì)效益。

憑借在 “AI for Science”的交叉研究、協(xié)同解決科學(xué)智能計(jì)算領(lǐng)域“知識(shí)嵌入”和“知識(shí)發(fā)現(xiàn)”關(guān)鍵科學(xué)問題，成為 DeepTech 2022 年“中國智能計(jì)算科技創(chuàng)新人物”入選者之一。

圖丨DeepTech 2022 年“中國智能計(jì)算科技創(chuàng)新人物”入選者孫浩（來源：DeepTech）

為智能計(jì)算提供新范式

一般來說，如果將機(jī)器學(xué)習(xí)或深度學(xué)習(xí)用到復(fù)雜的物理系統(tǒng)，通過建模仿真解決相關(guān)問題時(shí)，需要豐富的數(shù)據(jù)進(jìn)行標(biāo)注。然而，在實(shí)際應(yīng)用中，標(biāo)注的數(shù)據(jù)卻極其稀疏。

這種情況下，如果用傳統(tǒng)的機(jī)器學(xué)習(xí)或深度學(xué)習(xí)的范式，對(duì)其進(jìn)行學(xué)習(xí)建模是行不通的。另一方面，現(xiàn)有的學(xué)習(xí)范式可解釋性相對(duì)較差。

為解決這些問題，與團(tuán)隊(duì)提出運(yùn)用先驗(yàn)物理知識(shí)對(duì)人工智能模型約束或編碼，發(fā)展數(shù)據(jù)和知識(shí)雙驅(qū)動(dòng)智能計(jì)算模型，增強(qiáng)了深度學(xué)習(xí)的外推和泛化性能[1]。他們成功解決了在小訓(xùn)練樣本下復(fù)雜動(dòng)態(tài)系統(tǒng)建模、非線性偏微分方程正反問題高效求解、數(shù)據(jù)驅(qū)動(dòng)仿真等關(guān)鍵性難題。

圖丨基于物理知識(shí)編碼的循環(huán)卷積神經(jīng)網(wǎng)絡(luò)的架構(gòu)示意圖（來源：arXiv）

這種新型理論計(jì)算框架和方法，如何能夠在極少數(shù)樣本的情況下進(jìn)行學(xué)習(xí)建模，并具有一定的可解釋性呢？簡單來說，把現(xiàn)有的基本知識(shí)，以合理的方式嵌入到機(jī)器學(xué)習(xí)或?qū)W習(xí)模型中，讓其形成知識(shí)嵌入或知識(shí)編碼新模型。

一方面，與之前相比，先驗(yàn)知識(shí)的加入在可解釋性上有所增強(qiáng)。另一方面，由于先驗(yàn)知識(shí)的補(bǔ)充，人們對(duì)數(shù)據(jù)的需求也會(huì)大幅度下降。新型的物理知識(shí)編碼的深度學(xué)習(xí)模型可解決復(fù)雜物理系統(tǒng)中時(shí)空演化的動(dòng)力問題，例如流體系統(tǒng)、時(shí)空演化的系統(tǒng)等。

人工智能的方法絕大多數(shù)基于純數(shù)據(jù)驅(qū)動(dòng)，也就是基于“連接主義”所形成的數(shù)據(jù)驅(qū)動(dòng)的計(jì)算的模型及理論。

實(shí)際上，知識(shí)嵌入學(xué)習(xí)是把基于符號(hào)計(jì)算的“符號(hào)主義”方法和基于數(shù)據(jù)計(jì)算的“連接主義”方法融合，形成了知識(shí)嵌入學(xué)習(xí)。此外，該研究還討論了一種方法，可從數(shù)據(jù)中提取目標(biāo)控制方程或物理定律，進(jìn)而實(shí)現(xiàn)新知識(shí)與新定律的發(fā)現(xiàn)。

面向科學(xué)探索中數(shù)據(jù)驅(qū)動(dòng)的知識(shí)發(fā)現(xiàn)需求，他還進(jìn)一步提出了一套新穎的符號(hào)方程學(xué)習(xí)和推理方法，從稀疏噪聲測量數(shù)據(jù)中自動(dòng)挖掘提取未知的定律或控制方程，實(shí)現(xiàn)對(duì)復(fù)雜動(dòng)力/動(dòng)態(tài)系統(tǒng)的可解釋描述，已成功用于流體、生物化學(xué)反應(yīng)擴(kuò)散系統(tǒng)、細(xì)胞運(yùn)動(dòng)、混沌系統(tǒng)等問題。

圖丨推理結(jié)果的誤差傳播曲線（左）和快照（右）（來源：arXiv）

除了理論、算法、模型方面的工作，目前該團(tuán)隊(duì)在氣象預(yù)報(bào)等方向做嘗試性應(yīng)用探索。氣象系統(tǒng)由于具有非線性、混沌效應(yīng)，是非常復(fù)雜的時(shí)空演化系統(tǒng)。

表示：“雖然其測量的數(shù)據(jù)量很大，但實(shí)際上它在描述系統(tǒng)本身。因此，針對(duì)系統(tǒng)本身的復(fù)雜度而言，測量是很稀疏的。我們?cè)趪L試?yán)眠@種新方法，去探索是否能夠?yàn)闅庀箢A(yù)報(bào)提供更精準(zhǔn)的預(yù)報(bào)格式。”

另一方面，該團(tuán)隊(duì)也在嘗試在生物化學(xué)反應(yīng)方面，是否能基于小規(guī)模測量樣本解決建模仿真、反問題求解等任務(wù)。

此前，通過基于數(shù)值方法的科學(xué)計(jì)算來設(shè)計(jì)飛機(jī)、橋梁等工程系統(tǒng)，往往需要幾天甚至幾十天，經(jīng)歷迭代上萬次才能得到最優(yōu)解。該研究為科學(xué)計(jì)算提供了新的范式，從應(yīng)用的角度可以加速設(shè)計(jì)的進(jìn)程。將模型訓(xùn)練好后做推理，可在幾秒鐘甚至更短的時(shí)間內(nèi)完成設(shè)計(jì)。

“我們的方法相當(dāng)于為工程系統(tǒng)的反向設(shè)計(jì)提供了一個(gè)高效、快速的仿真器。如果未來該方法發(fā)展到一定的程度，可能會(huì)產(chǎn)生新工業(yè)革命。”說。

從力學(xué)到聚焦智能科學(xué)計(jì)算領(lǐng)域

實(shí)際上，并不是一開始就從事人工智能與交叉前沿的相關(guān)研究。在美國哥倫比亞大學(xué)攻讀碩士及博士學(xué)位期間，他的主要研究方向是計(jì)算力學(xué)和動(dòng)力系統(tǒng)建模與識(shí)別。

2014 年開始，隨著深度學(xué)習(xí)研究的熱潮，慢慢地開始接觸這個(gè)領(lǐng)域。他發(fā)現(xiàn)，實(shí)際上很多傳統(tǒng)的工程中和力學(xué)領(lǐng)域中遇到的問題，都可以通過數(shù)據(jù)驅(qū)動(dòng)的范式解決。

但與此同時(shí)也必須看到，這種范式仍面臨可解釋性差、數(shù)據(jù)量多等問題。于是，他逐步思考將知識(shí)和定律融合的研究方向。新模型相當(dāng)于起到了“1+1＞2”的效果，其性能分別高于基于純知識(shí)或純物理的模型，以及基于純數(shù)據(jù)的模型。

圖丨Physics for AI（來源：孫浩）

近年來，得益于先進(jìn)傳感技術(shù)的發(fā)展和物聯(lián)網(wǎng)系統(tǒng)的普及，城市基礎(chǔ)設(shè)施安全與健康監(jiān)測系統(tǒng)逐步形成。但是，如何對(duì)監(jiān)測數(shù)據(jù)進(jìn)行有效而高效地同化分析，仍然是一項(xiàng)重大挑戰(zhàn)。

因此，面向國家在數(shù)據(jù)驅(qū)動(dòng)基礎(chǔ)設(shè)施安全與智能化管理的重大需求，發(fā)展高效而穩(wěn)健的數(shù)據(jù)同化理論和創(chuàng)新算法，以應(yīng)用為導(dǎo)向開展基礎(chǔ)與應(yīng)用研究，具有重要的科學(xué)意義。

因此，在麻省理工學(xué)院做博士后期間，他逐步確立了智能科學(xué)計(jì)算的研究方向，包括數(shù)據(jù)同化概率模型、物聯(lián)網(wǎng)系統(tǒng)、機(jī)器學(xué)習(xí)求解反問題等。

他所提出的基于機(jī)器學(xué)習(xí)的物聯(lián)網(wǎng)系統(tǒng)，可解決城市基礎(chǔ)設(shè)施安全與健康監(jiān)測中的大數(shù)據(jù)管理、挖掘、實(shí)時(shí)多尺度指標(biāo)化狀態(tài)評(píng)測等難題，已成功用于多個(gè)實(shí)際工程場景中，包括麻省理工學(xué)院格林大樓健康監(jiān)測、科威特第一高樓 AL-Hamra 實(shí)時(shí)安全監(jiān)測等。

在美國匹茲堡大學(xué)和美國東北大學(xué)任終身序列助理教授、獨(dú)立 PI 后，他領(lǐng)導(dǎo)的研究團(tuán)隊(duì)開始致力于機(jī)理融合人工智能科學(xué)計(jì)算理論和方法研究，致力于解決智能科學(xué)計(jì)算中“知識(shí)嵌入”和“知識(shí)發(fā)現(xiàn)”相關(guān)的科學(xué)難題。

2021 年，回國加入中國人民大學(xué)高瓴人工智能學(xué)院。通過系列研究，他與團(tuán)隊(duì)運(yùn)用 AI 從數(shù)據(jù)中加速解開更多潛在的未知定律，為物理、化學(xué)、生物、工程應(yīng)用等學(xué)科問題尋找到更多可靠的理論支撐；同時(shí)為跨學(xué)科領(lǐng)域關(guān)鍵應(yīng)用（如實(shí)時(shí)短齡天氣預(yù)報(bào)、熱-磁-流體多物理場模擬、湍流仿真等）提供新的技術(shù)支撐。

最近，人工智能大模型異常火熱。指出，雖然大模型與智能科學(xué)計(jì)算看起來有些“相悖”，但也可以從中得到一些啟示。

因此，他與團(tuán)隊(duì)也在進(jìn)行一些科學(xué)探索，來確認(rèn)是不是可以在大模型里嵌入人類的邏輯知識(shí)、先驗(yàn)知識(shí)、已知的定律等，讓它的知識(shí)推理和邏輯推理的能力變得更強(qiáng)，以幫助人類做一些科學(xué)的新探索。

指出，在 AI for Science 層面，智能計(jì)算相關(guān)理論、模型、方法和技術(shù)需要具備如下幾個(gè)特征：可通用、可解釋、可擴(kuò)展、可泛化、低數(shù)據(jù)依賴性。未來的發(fā)展趨勢(shì)是在發(fā)展和實(shí)現(xiàn)具備上述特征的新一代人工智能技術(shù)的同時(shí)，在解決各跨學(xué)科、跨領(lǐng)域相關(guān)科學(xué)探索和工程問題實(shí)現(xiàn)突破。

他表示，未來，在“符號(hào)主義”上有所突破，才會(huì)真正地實(shí)現(xiàn)類似人類的推理能力。因此，未來的發(fā)展一定是“連接主義”與“符號(hào)主義”并存，協(xié)同融合發(fā)展，進(jìn)而形成一種智能科學(xué)計(jì)算的新范式。

參考資料：