中國電信專家：與國產(chǎn)芯片廠商聯(lián)合打造信創(chuàng)大模型訓(xùn)練平臺

7月20日消息（岳明）在日前召開的“中國互聯(lián)網(wǎng)大會--國家新型互聯(lián)網(wǎng)交換中心與算力網(wǎng)絡(luò)融合發(fā)展論壇”上，中國電信大模型技術(shù)專家李康作了題為《大模型帶來智算大算力發(fā)展》的主題演講。

李康指出，我國智能算力總體呈現(xiàn)出快速增長趨勢，2022年國內(nèi)服務(wù)器銷售72.55億美元，預(yù)計(jì)2025年銷售額可以達(dá)到121億；2022年智算算力整體規(guī)模在268 EFlops，預(yù)計(jì)2025達(dá)到922268 EFlops。他認(rèn)為，智算算力快速增長的背后，大模型功不可沒。

大模型帶來大集群智算中心需求。大模型訓(xùn)練需要大算力，比如GPT-3，1750億的參數(shù)，使用1萬張GPU卡訓(xùn)練14.8天。現(xiàn)在整體市場是玩家堆參數(shù)、堆性能的狀態(tài)，很多玩家涌入市場，市場的算力缺口非常大。百億、千億參數(shù)的大模型只是開始，萬億參數(shù)的大模型將慢慢的會成為主流。“從大模型發(fā)展來說，大力出奇跡，萬億參數(shù)不是終點(diǎn)，也只是一個(gè)階段。”

當(dāng)前，國內(nèi)算力是剛需，現(xiàn)在有一些廠商把大模型基模放到海外去訓(xùn)練，訓(xùn)練回來之后，在國內(nèi)進(jìn)行微調(diào)。但是，受到數(shù)據(jù)出境限制，其實(shí)這種效果是不太好的，尤其是涉及到比如行業(yè)大模型、專屬大模型訓(xùn)練，這些數(shù)據(jù)不能出域。針對這些特點(diǎn)來說，這些訓(xùn)練只能在國內(nèi)進(jìn)行，因此國內(nèi)的訓(xùn)練算力需求的發(fā)展是非常旺盛的。

李康表示，大模型的訓(xùn)練和推理有兩個(gè)特點(diǎn)，總體需求呈現(xiàn)往上提升的狀態(tài)。訓(xùn)練算力，因?yàn)楫?dāng)前大模型的爆發(fā)，訓(xùn)練算力屬于飆升的狀態(tài)。但是隨著通用大模型市場趨于飽和，它的增長曲線也會逐漸放緩。但是推理算力不一樣，推理是穩(wěn)步上升的曲線，現(xiàn)在大模型市場落地還處于初步起步階段，所以現(xiàn)在推理算力需求沒那么旺盛。“我們預(yù)計(jì)2025年推理和需求達(dá)到相當(dāng)，隨后推理算力反超訓(xùn)練算力。”

李康指出，目前英偉達(dá)依然是智算算力的供給主力，國產(chǎn)的GPU也是加速追趕。2022年，國內(nèi)AI芯片的主要份額英偉達(dá)占82%，這取決于它的非常強(qiáng)大的存在，尤其是早期性能和早期的大模型框架使用了CUDA架構(gòu)，所以有天然的適配性。它的生態(tài)目前來說是無法被擊破的，但是國內(nèi)現(xiàn)在也在發(fā)展，尤其是一些頭部大模型商研究機(jī)構(gòu)，已經(jīng)在開展國內(nèi)芯片的適配工作。比如說華為就派了特戰(zhàn)隊(duì)到大模型廠商現(xiàn)場進(jìn)行適配需求，適配做大模型訓(xùn)練。電信也會與國產(chǎn)芯片廠商聯(lián)合打造信創(chuàng)大模型訓(xùn)練平臺，支持開創(chuàng)信創(chuàng)大模型。

中國電信專家：創(chuàng)新算力供給模式，實(shí)現(xiàn)全網(wǎng)資源調(diào)度服務(wù)大模型市場

在日前召開的“中國互聯(lián)網(wǎng)大會--國家新型互聯(lián)網(wǎng)交換中心與算力網(wǎng)絡(luò)融合發(fā)展論壇”上，中國電信大模型技術(shù)專家李康作了題為《大模型帶來智算大算力發(fā)展》的主題演講。

李康指出，算力供給模式有三種：第一種是公有云模式，算力供給以公有云的模式為主，對于基礎(chǔ)大模型的訓(xùn)練，玩家都在堆性能和參數(shù)，大力出奇跡。第二種數(shù)據(jù)不能出域的行業(yè)訓(xùn)練和推理，因?yàn)閿?shù)據(jù)不能出域，而且對于訓(xùn)練有強(qiáng)大的要求，并且這些行業(yè)客戶具有一定資金能量，這種是以私有云的模式進(jìn)行補(bǔ)充。第三種是對于數(shù)據(jù)不能出域，本地可以進(jìn)行微調(diào)和對齊的需求，以移動算力模式為主。比如說移動算力車、移動手機(jī)箱就可以滿足需求。

李康表示，現(xiàn)階段全國智算需求的地域，主要集中在京津冀、江浙滬、粵港澳和川陜渝。但是，全國整體算力需求和供給地域是不均，所以調(diào)度會成為建設(shè)重點(diǎn)。中國電信會依托云網(wǎng)交換中心基礎(chǔ)設(shè)施，實(shí)現(xiàn)全國算力調(diào)度服務(wù)大模型市場。

據(jù)李康介紹，中國電信在大模型市場的整體布局有兩部分：首先，布局全網(wǎng)算力，電信擁有非常豐富的IDC資源和專網(wǎng)資源，針對2+4+31+X的算力中心布局，建設(shè)模式可以提供大集群式的集中算力和區(qū)域算力、邊緣算力、移動算力，依次滿足不同客戶的需求。其次，布局大模型市場，進(jìn)行行業(yè)洞察并規(guī)劃商業(yè)模式，比如提供專屬服務(wù)模式給客戶進(jìn)行定制，可以提供SaaS和API模式，或者是和合作伙伴聯(lián)合生態(tài)打造MaaS平臺，提供大模型工具。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實(shí)，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。