文 | 智能相對論
作者 | 陳泊丞
經(jīng)過數(shù)年發(fā)展,我國已培育出一批能切實(shí)支持產(chǎn)業(yè)發(fā)展的芯片企業(yè),進(jìn)入3C、汽車、制造等產(chǎn)業(yè)。汽車領(lǐng)域,汽車芯片的國產(chǎn)率已從過去的不足5%發(fā)展到10%左右;在GPU賽道,國內(nèi)智算中心、互聯(lián)網(wǎng)企業(yè)等需求方采購國產(chǎn)算力芯片的意愿不斷提高,國產(chǎn)算力開始迎來市場化應(yīng)用的春天。
我國已形成一批性能還不錯(cuò)的AI算力芯片,不過,算力產(chǎn)業(yè)的發(fā)展仍面臨諸多挑戰(zhàn)。芯片性能與國際頭部產(chǎn)品相比仍存代差,軟硬件適配不足。不同品牌芯片存在互聯(lián)和協(xié)同等問題,難以面向具體場景發(fā)揮出應(yīng)有的性能表現(xiàn)等等。而需求方對國內(nèi)芯片產(chǎn)品的性能了解不充分,存在選擇困難,這也直接限制了國產(chǎn)算力的商業(yè)化進(jìn)展。
國產(chǎn)算力產(chǎn)業(yè)和需求方之間,缺乏打通信息壁壘的橋梁。在這種情況下,北電數(shù)智(北京電子數(shù)智科技有限責(zé)任公司)依托前進(jìn)·AI異構(gòu)計(jì)算平臺打造的首個(gè)國產(chǎn)算力PoC(Proof Of Concept,場景驗(yàn)證)平臺,能以國產(chǎn)算力產(chǎn)業(yè)“連接器”的定位補(bǔ)齊國產(chǎn)算力產(chǎn)業(yè)的關(guān)健“拼圖”,對國產(chǎn)算力的商業(yè)化應(yīng)用和規(guī)模化爆發(fā)都有著重要意義。
為什么PoC平臺是算力產(chǎn)業(yè)的關(guān)鍵“拼圖”?
當(dāng)前,國產(chǎn)算力產(chǎn)業(yè)面臨的問題比較具象化,即算力供給側(cè)和需求側(cè)之間存在明顯的產(chǎn)業(yè)生態(tài)斷層,各自繁榮,卻難以相互打通、產(chǎn)業(yè)鏈不協(xié)同。
在算力供給側(cè),盡管AI算力廠商很多,但國產(chǎn)芯片的整體性能依舊無法與行業(yè)的頭部產(chǎn)品競爭,很難媲美高端芯片的極致性能表現(xiàn),僅在個(gè)別維度上具備優(yōu)勢。在這種情況下,國產(chǎn)芯片最好的應(yīng)用路徑是組合取優(yōu),尋求國產(chǎn)算力集群的性能最優(yōu)解。
國產(chǎn)芯片還面臨著產(chǎn)能不足的情況,單一算力集群難以滿足算力需求。不同芯片之間存在異構(gòu)問題,比如不同芯片在算子、軟件棧、工具鏈層面存在差異,不同類型卡的物理連接和集合通信庫完全不同,無法直接互聯(lián)互通,組合應(yīng)用非常麻煩,很難為下游提供統(tǒng)一、高效的算力解決方案。
另一方面,AI技術(shù)不斷突破,正逐步進(jìn)入千行百業(yè),行業(yè)發(fā)力探索場景需求。行業(yè)普遍認(rèn)為,大模型想要落地,需要與具體的行業(yè)、場景結(jié)合。為更好支撐大模型,這就需要這就具有性價(jià)比、又能有效支撐模型的底層算力解決方案。
但需求側(cè)的企業(yè)不了解國產(chǎn)芯片性能,難以評估其是否能滿足自己復(fù)雜的場景需求。當(dāng)需求方無法驗(yàn)證國產(chǎn)芯片的應(yīng)用效果,最直接的表現(xiàn)就會導(dǎo)致采購意愿不足,進(jìn)一步加劇國產(chǎn)算力產(chǎn)業(yè)鏈的割裂和斷層。
產(chǎn)業(yè)鏈的上下游斷層,難以協(xié)同,缺少必要的“橋梁”完成兩側(cè)互通,導(dǎo)致國產(chǎn)算力的整體利用率并不高。
這種現(xiàn)狀背后的本質(zhì)是產(chǎn)業(yè)生態(tài)的不完善,北電數(shù)智的國產(chǎn)算力PoC平臺基于場景提供測評、適配和驗(yàn)證服務(wù),將有效地實(shí)現(xiàn)產(chǎn)業(yè)鏈上下游的互通協(xié)同,從而更好地推動國產(chǎn)算力支撐大模型落地的步伐。
國產(chǎn)算力PoC平臺補(bǔ)齊了整個(gè)產(chǎn)業(yè)鏈中關(guān)鍵的一塊“拼圖”,促使整個(gè)產(chǎn)業(yè)生態(tài)區(qū)域完整、協(xié)同,讓國產(chǎn)算力能充分發(fā)揮出應(yīng)有的性能表現(xiàn)和產(chǎn)業(yè)價(jià)值。
PoC平臺之路,已經(jīng)踩了出來
基于整個(gè)國產(chǎn)算力產(chǎn)業(yè)的發(fā)展趨勢,PoC平臺所要走的是一條正確且艱難的道路,需克服諸多問題。北電數(shù)智首個(gè)國產(chǎn)算力PoC平臺,需解決三大層面的問題,把初步道路踩出來。
第一,技術(shù)能力是否強(qiáng)大。對于算力PoC平臺,技術(shù)能力是關(guān)鍵。若要實(shí)現(xiàn)不同芯片之間的混元異構(gòu)算力集群,算力PoC平臺需要有必要且領(lǐng)先的技術(shù)實(shí)現(xiàn)統(tǒng)一通信庫建設(shè),做好芯片硬件和軟件、算法的適配,實(shí)現(xiàn)算子協(xié)同等,再基于不同芯片特長有針對性進(jìn)行算力調(diào)度,將混元國產(chǎn)算力集群的性能發(fā)揮出來。
北電數(shù)智國產(chǎn)算力PoC平臺背靠的前進(jìn)·AI異構(gòu)計(jì)算平臺,是國內(nèi)首個(gè)在生產(chǎn)環(huán)境下可實(shí)現(xiàn)規(guī)?;瘻y試的全棧迭代驗(yàn)證平臺,已成功實(shí)現(xiàn)數(shù)千卡國產(chǎn)算力集群的部署。由此,基于多芯片混元異構(gòu),能有針對性地根據(jù)不同芯片特點(diǎn),基于模型任務(wù)、場景需求來調(diào)配合適的芯片算力,并提供加速解決方案,從而實(shí)現(xiàn)國產(chǎn)算力集群的高性能表現(xiàn)。
第二,評測價(jià)值是否有效。AI產(chǎn)業(yè)發(fā)展日新月異,垂類場景的算力需求也在不斷變化,算力PoC平臺比較難做的一點(diǎn)是,需要面向多種不同的垂類場景需求,不斷去迭代評測機(jī)制,保障評測價(jià)值真實(shí)有效。
如今,北電數(shù)智正面向影視、金融、政務(wù)、工業(yè)等多個(gè)垂類場景開展測試驗(yàn)證服務(wù),為不同行業(yè)的垂類模型落地樹立標(biāo)桿案例,并持續(xù)探尋國產(chǎn)算力和行業(yè)、模型、應(yīng)用的最佳適配組合。既面向具體的垂類場景,又保持持續(xù)性探索,這正是國產(chǎn)算力PoC平臺最需要具備的特性。
第三,生態(tài)建設(shè)是否全面。算力PoC平臺在產(chǎn)業(yè)鏈中的站位,決定了其發(fā)展必然要拉起整個(gè)生態(tài)建設(shè),才能做好產(chǎn)業(yè)鏈上下游的“連接器”。在這個(gè)過程中,平臺需要盡可能多的上游廠商一同發(fā)展,進(jìn)而才能面向下游企業(yè)提供高性價(jià)比產(chǎn)品和服務(wù),獲取認(rèn)可。
截至目前,由北電數(shù)智統(tǒng)一規(guī)劃建設(shè)與設(shè)計(jì)運(yùn)營的北京數(shù)字經(jīng)濟(jì)算力中心,已成功完成對包括摩爾線程、寒武紀(jì)等在內(nèi)的十余種知名國產(chǎn)算力芯片的部署測試。面向上游的生態(tài)建設(shè)已經(jīng)初見成效,北電數(shù)智也在積極面向下游的具體場景需求,聯(lián)動AI企業(yè)落地應(yīng)用,繼續(xù)擴(kuò)大生態(tài)影響力。其中,面向影視領(lǐng)域,北電數(shù)智推出面向影視文化產(chǎn)業(yè)的AIGC視聽的解決方案六藝多模態(tài)影視文化大模型,基于國產(chǎn)算力PoC平臺,深度聯(lián)合10余家相關(guān)AI明星企業(yè),打造人物AI生成代理、劇情創(chuàng)作輔助工具等超級應(yīng)用,助力推動影視及文化產(chǎn)業(yè)的數(shù)字化與智能化轉(zhuǎn)型升級。
國產(chǎn)算力產(chǎn)業(yè)再進(jìn)階,從算力PoC平臺開始
毫無疑問,在國產(chǎn)AI產(chǎn)業(yè)高速發(fā)展以及算力需求持續(xù)爆發(fā)的重要節(jié)點(diǎn),算力PoC平臺將有效解決國產(chǎn)算力供給側(cè)與需求側(cè)斷層的問題,促使產(chǎn)業(yè)鏈雙向打通,最終帶來多方利好的價(jià)值。
中國科學(xué)院計(jì)算技術(shù)研究所研究員張?jiān)迫榻B,北京推出國產(chǎn)算力場景驗(yàn)證平臺,能夠幫助算力需求方充分了解國產(chǎn)算力芯片對自身業(yè)務(wù)的支持程度、適配程度,更為國產(chǎn)芯片提供了多元場景性能展示平臺和公正清晰的評估標(biāo)準(zhǔn),為國產(chǎn)算力大面積商業(yè)化落地提供支撐。
一方面,面向算力需求方,可以提供專業(yè)、高效、靈活且具備高性價(jià)比的算力解決方案,加速AI產(chǎn)業(yè)爆發(fā)。目前,北電數(shù)智正在為下游的算力需求方,如金融、工業(yè)、醫(yī)療等具有真實(shí)場景需求的AI企業(yè)提供能滿足業(yè)務(wù)場景需求的國產(chǎn)算力集群組合,以有效降低用戶的驗(yàn)證時(shí)間和成本,最終快速鎖定合適的算力解決方案。
同時(shí),基于“前進(jìn)·AI異構(gòu)計(jì)算平臺”及“寶塔·模型適配平臺”,憑借混元適配及異構(gòu)調(diào)度能力,使芯片與大模型廣泛解耦合適配,進(jìn)一步為用戶提供能滿足行業(yè)、模型、應(yīng)用的適配的最佳組合方案?;诓煌男酒M合所提供的算力解決方案性能會更好,也更具性價(jià)比。要知道,合理規(guī)劃算力資源,可以減少用戶的等待時(shí)間,提高處理效率,同時(shí)也意味著在相同時(shí)間內(nèi)可以處理更多的tokens,從而增加收入或降低單位成本。
另一方面,面向算力供給方,統(tǒng)籌國產(chǎn)算力集群,充分激發(fā)國產(chǎn)算力產(chǎn)業(yè)的潛力。像北電數(shù)智打造的國產(chǎn)算力PoC平臺提供垂類場景評測、驗(yàn)證和適配服務(wù),不僅可以及時(shí)向芯片廠商反饋芯片使用情況,幫助芯片廠商迭代,讓性能優(yōu)勢繼續(xù)強(qiáng)化,同時(shí)能補(bǔ)足性能短板,讓不同的算力資源找準(zhǔn)產(chǎn)業(yè)定位,真正把國產(chǎn)芯片用起來,發(fā)揮出應(yīng)有的價(jià)值。為了更好發(fā)揮硬件效果,PoC平臺發(fā)力解決國產(chǎn)算力集群的混元異構(gòu)問題,統(tǒng)一通信,做好芯片硬件和軟件、算法的適配,實(shí)現(xiàn)算力的最佳調(diào)配。
面向整個(gè)算力產(chǎn)業(yè),PoC平臺將雙向拉通產(chǎn)業(yè)鏈上下游關(guān)系,促使算力實(shí)現(xiàn)正向流轉(zhuǎn),加速國產(chǎn)算力商業(yè)化進(jìn)程。上游的算力資源有了用武之地,下游的算力需求能得到充分滿足,整個(gè)算力產(chǎn)業(yè)的商業(yè)生態(tài)就實(shí)現(xiàn)了激活,從而得以更好地發(fā)展。
免責(zé)聲明:此文內(nèi)容為第三方自媒體作者發(fā)布的觀察或評論性文章,所有文字和圖片版權(quán)歸作者所有,且僅代表作者個(gè)人觀點(diǎn),與極客網(wǎng)無關(guān)。文章僅供讀者參考,并請自行核實(shí)相關(guān)內(nèi)容。投訴郵箱:editor@fromgeek.com。
- 在小紅書冒充TikTok難民的殺豬盤,被反詐中心盯上了
- 雙面劉雯:靠“正義”引流,割韭菜發(fā)財(cái)
- 老外搶瘋了?國產(chǎn)新科技海外訂單漲10倍,外企破防:我們的賣給誰
- TikTok美國熬過生死局,玩家多平臺布局避險(xiǎn)
- 輸血、輸血、輸血!微創(chuàng)機(jī)器人終于學(xué)會了造血?
- 讓整個(gè)納斯達(dá)克都恐慌!DeepSeek到底是何方神圣?
- 70萬一臺遭瘋搶,富人碳纖維“大玩具”火出圈,90%買家為中年男
- 中企手撕新科技騙局?價(jià)格再跌40%,歐美破防喊話:壞了規(guī)矩
- 2025電商年貨大戰(zhàn):安靜得可怕?
- AI搜索爆了,小紅書、百度都急了
免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請進(jìn)一步核實(shí),并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。