9月14日消息（趙婷婷）在日前召開的2024服貿(mào)會(huì)通用人工智能算力論壇上，中國(guó)工程院院士、清華大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)系教授鄭緯民發(fā)表題為《構(gòu)建國(guó)產(chǎn)智算系統(tǒng)的關(guān)鍵》的主題演講。
鄭緯民表示，當(dāng)前大模型進(jìn)入多模態(tài)發(fā)展，不僅限于文本處理，還包括圖像與視頻等多媒體形式；并且大模型的應(yīng)用領(lǐng)域正在不斷拓展，涵蓋了金融、醫(yī)療、汽車以及智能制造等多個(gè)行業(yè)。
隨著AI快速發(fā)展，對(duì)算力的需求呈現(xiàn)出爆炸式增長(zhǎng)。而大模型的開發(fā)與部署尤其依賴于強(qiáng)大的算力支持。大模型的研發(fā)通常涉及五個(gè)關(guān)鍵階段：數(shù)據(jù)獲取、數(shù)據(jù)預(yù)處理、模型訓(xùn)練、模型微調(diào)以及模型推理，每一個(gè)階段都需要大量的計(jì)算資源。尤其是在模型訓(xùn)練與推理過(guò)程中，算力消耗分別占據(jù)了整體需求的大約70%與95%。
目前，用于訓(xùn)練的設(shè)備主要包括英偉達(dá)的GPU。盡管英偉達(dá)的GPU以其出色的硬件性能及成熟的編程生態(tài)體系受到廣泛歡迎，但由于國(guó)際供應(yīng)受限，導(dǎo)致價(jià)格高漲且供不應(yīng)求。在此背景下，算力的國(guó)產(chǎn)化勢(shì)在必行。目前國(guó)內(nèi)相關(guān)企業(yè)已開始自主研發(fā)AI芯片，并取得顯著進(jìn)展，多家公司如華為、曙光、寒武紀(jì)及摩爾線程等均已有產(chǎn)品問(wèn)世。然而，盡管國(guó)產(chǎn)化取得了積極成果，但在實(shí)際應(yīng)用中仍面臨挑戰(zhàn)，尤其是軟件生態(tài)系統(tǒng)的建設(shè)尚需加強(qiáng)。
鄭緯民指出，為了改善這一狀況，清華大學(xué)開發(fā)了一套名為“八卦爐”的核心基礎(chǔ)軟件，包括并行系統(tǒng)、編程框架、AI編譯器、算子庫(kù)等十個(gè)軟件，旨在優(yōu)化國(guó)產(chǎn)智算系統(tǒng)的軟件環(huán)境。該軟件已在多個(gè)平臺(tái)進(jìn)行測(cè)試，并成功應(yīng)用于大模型訓(xùn)練任務(wù)，如LLAMA、百川和悟道等，不僅能夠正確完成訓(xùn)練任務(wù)，而且在成本效益方面表現(xiàn)出色，僅英偉達(dá)GPU的六分之一。
此外，“八卦爐”還在其他應(yīng)用場(chǎng)景中展現(xiàn)出了卓越的性能提升能力，例如，在沐曦、燧原、摩爾線程等企業(yè)的實(shí)踐中，提升了算力效率，并降低成本。
演講最后，鄭緯民總結(jié)道，“發(fā)展人工智能，構(gòu)建國(guó)產(chǎn)智能算力至關(guān)重要。智能算力的軟件生態(tài)是當(dāng)前制約我國(guó)人工智能發(fā)展的關(guān)鍵因素，優(yōu)秀的系統(tǒng)軟件能夠充分釋放底層硬件算力的潛力。”
- 蜜度索驥：以跨模態(tài)檢索技術(shù)助力“企宣”向上生長(zhǎng)
- 智能標(biāo)簽如何改變供應(yīng)鏈和貨物追蹤
- 釋放網(wǎng)絡(luò)潛力：適用于家庭和辦公室的終極5端口千兆以太網(wǎng)交換機(jī)
- 2025年工業(yè)軟件市場(chǎng)格局：7個(gè)關(guān)鍵統(tǒng)計(jì)數(shù)據(jù)與分析
- 24端口千兆以太網(wǎng)交換機(jī)選擇指南
- 如何選擇合適的千兆以太網(wǎng)交換機(jī)
- 規(guī)模超40億元！中國(guó)聯(lián)通2024年5G核心網(wǎng)集采：華為、中興中標(biāo)
- 千家早報(bào)|蘋果被一韓國(guó)電纜公司起訴侵犯無(wú)線充電專利；云天勵(lì)飛與閃極科技、LOHO聯(lián)合發(fā)布AI智能眼鏡——2024年12月26日
- 普天科技董事兼總裁朱忠芳辭任、沈文明繼任
- 中國(guó)電信聯(lián)手地方國(guó)資，加碼低空經(jīng)濟(jì)
- 國(guó)務(wù)院辦公廳：將量子科技納入專項(xiàng)債券用作項(xiàng)目資本金范圍
免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。
