中國工程院院士鄭緯民:AI算力基礎(chǔ)設(shè)施設(shè)計需要遵循三大平衡原則

4月24日消息 在4月21日舉辦的首屆超互聯(lián)新算力產(chǎn)業(yè)暨第三屆中國IDC行業(yè)DISCOVERY大會上,中國工程院院士鄭緯民表示,AI算力是算力基礎(chǔ)設(shè)施的重要組成部分,是新基建和國家“東數(shù)西算”工程的關(guān)鍵任務(wù)抓手。

鄭緯民指出,人工智能計算在海量數(shù)據(jù)、實時響應(yīng)、極端條件等場景下相較通用計算優(yōu)勢愈發(fā)明顯。預(yù)計到2025年,我國人工智能算力總量將超過1800EFlops,AI算力占整個算力的比重超過85%。

“以后的計算機中AI計算機和處理人工智能的計算機將占很大比例,特別是隨著ChatGPT的發(fā)展,算力需求大幅提升,迎來了高速擴(kuò)張時代。”鄭緯民表示。

在談及AI計算與HPC(高性能計算)的區(qū)別時,鄭緯民指出,HPC通常應(yīng)用在天氣預(yù)報、核聚變模擬、飛行器設(shè)計等領(lǐng)域,而AI計算是做分類、回歸、自然語言處理等,二者應(yīng)用場合不同,運算精度也不一樣。

鄭緯民認(rèn)為AI算力基礎(chǔ)設(shè)施的設(shè)計需要遵循計算平衡、網(wǎng)絡(luò)平衡、IO子系統(tǒng)平衡的原則。

“傳統(tǒng)的高性能計算機的測試結(jié)果與人工智能需要的性能不完全一致。高性能計算算力測試程序主要使用雙精度浮點數(shù)運算,即64位浮點運算,人工智能訓(xùn)練以單精度浮點數(shù),即32位浮點數(shù)為主?!痹卩嵕暶窨磥?,現(xiàn)在要做符合語言模型的訓(xùn)練,就要考慮半精度平衡性,即設(shè)計中主要考慮半精度運營性能,又要注意雙精度運算能力不能過低,所以雙精度與半精度運算性能之比為1:100較好。

“現(xiàn)在很多廠家都已經(jīng)在考慮這三個平衡設(shè)計,國內(nèi)也有差不多30個城市在建或者建好了AI超算中心?!睋?jù)其預(yù)測,HPC+AI+大數(shù)據(jù)中心在未來不超過5年的時間內(nèi)將會融合到一臺計算機中,“既可以做HPC,又可以做AI,也能處理大數(shù)據(jù)”。

極客網(wǎng)企業(yè)會員

免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請進(jìn)一步核實,并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負(fù)任何法律責(zé)任。任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時,應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實,溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。

2023-04-24
中國工程院院士鄭緯民:AI算力基礎(chǔ)設(shè)施設(shè)計需要遵循三大平衡原則
中國工程院院士鄭緯民:AI算力基礎(chǔ)設(shè)施設(shè)計需要遵循三大平衡原則,C114訊 4月24日消息 在4月21日舉辦的首屆超互聯(lián)新算力產(chǎn)業(yè)暨第三屆中國IDC行業(yè)DISCOV

長按掃碼 閱讀全文