科技云報道原創(chuàng)。
有人說它叫DPU(dataprocessing units),也有人說它叫IPU(infrastructureprocessing units),我們不妨用“數(shù)據(jù)基礎設施”一詞來一個和稀泥式的命名,因為它的出現(xiàn)本就是數(shù)據(jù)基礎設施領域近年來的一大創(chuàng)新。
為了方便起見,本文還是把它叫做DPU。
經(jīng)典的傳統(tǒng)服務器架構中,CPU在處理各種業(yè)務工作負載的同時,還要負責包括網(wǎng)絡、存儲、安全以及虛擬化軟件等非業(yè)務型工作負載,由于CPU需要承擔很多非工作型負載,導致可用于運行業(yè)務負載的空間大大壓縮,DPU的出現(xiàn)就是為了緩解這一問題。
DPU與SmartNIC智能網(wǎng)卡有千絲萬縷的關系,有人說DPU就是SmartNIC的加強版,在一些語境下兩者就是一回事兒,在下文講出具體的區(qū)別之前,我們談兩者的共同點,那就是,都能用卸載來減少CPU資源消耗,從而提升服務器乃至數(shù)據(jù)中心的運行效率。
英偉達的黃仁勛曾表示,在虛擬化和微服務等技術的推動下,數(shù)據(jù)中心CPU要處理的任務越來越多,在每年出貨的大約3000萬臺服務器中,有三分之一用來運行數(shù)據(jù)中心的軟件定義的網(wǎng)絡堆棧,他認為必須將這部分工作負載卸載掉。
來自谷歌和Facebook的研究也表明,CPU周期里有22%到80%都用來處理各種微服務工作負載。
我們可以粗暴地認為,如果能把這些工作負載交給別人來做,數(shù)據(jù)中心在CPU資源方面的投入,可以省下22%到80%。
許多研究數(shù)字表明,卸載的效果將非常誘人,然而,這場關于卸載的創(chuàng)新與變革,歷經(jīng)近二十年時間才完成。
虛擬化技術的創(chuàng)新,將CPU卸載進行到底
1998年的VMware x86虛擬化完全由軟件獨立完成,由于缺少硬件支持,全靠軟件模擬,其性能損耗堪稱災難,以至于沒多少人能看出這有什么用。
2005年以來,Intel VT-x和AMD-V技術的出現(xiàn),解決了CPU和內(nèi)存的硬件虛擬化問題,從而提升了整個虛擬化系統(tǒng)的性能,越來越多的人開始注意到虛擬化技術的價值。
隨著PCIe SR-IOV以及IntelVT-d等技術的興起,I/O硬件虛擬化,包括網(wǎng)絡和存儲的硬件虛擬化方面都取得重大進步,在性能和靈活性上都有極大提升。
從純軟件模擬的原始虛擬化階段,到后來的半虛擬化階段,虛擬化技術越來越多地利用硬件本身的能力,系統(tǒng)的性能和運行的效率也隨之提升。
下圖是技術大神Brendan Gregg匯總的亞馬遜云(AWS) EC2虛擬化技術變遷的歷史,同樣也記錄了整個虛擬化技術的發(fā)展歷程。
發(fā)展歷程中,值得劃重點的歷史時刻是2017年。
這一年,亞馬遜云發(fā)布Nitro系統(tǒng),同年,阿里云也宣布有類似功能的神龍架構。
回看過去,我們可以將這一年稱之為DPU元年,直到三年后英偉達將其命名為DPU之后,才有了一個統(tǒng)一的叫法。
亞馬遜云的Nitro系統(tǒng)有專有的硬件,不僅完成了I/O的硬件虛擬化,更重要的是,它還將虛擬化管理程序Hypervisior從原來的CPU卸載到了專用硬件上,于是,虛擬化技術的性能損耗趨近于零,CPU的能力幾乎完全用來運行業(yè)務負載。
從使用的角度看,亞馬遜云Nitro不僅為云主機帶來了虛擬化技術的靈活性,還帶來了近似裸金屬的性能,魚和熊掌兼得。
從經(jīng)濟的角度看,當寶貴的CPU資源能被充分利用,同樣的成本可以得到更多性能,整個工業(yè)界為之震撼。
從虛擬化技術的角度看,虛擬化技術的性能損耗問題,因為有了專有硬件的卸載而取得了巨大進步,同時,也意味著cpu的卸載也進入了新階段。
DPU燃起來的三把火
雖然,此前也有過一些把存儲和網(wǎng)絡以及安全等能力卸載到專用硬件上的做法,但直到2020年英偉達發(fā)布BlueField-2并將其命名為DPU之后,DPU一詞才真正走進了大眾視野。
盡管有爭議,但DPU的名字能叫起來說明還是有些道理的,那么,到底什么是DPU?DPU的命名者英偉達是怎么區(qū)別SmartNIC和DPU的呢?
上圖可見,英偉達認為基于SoC的智能網(wǎng)卡就是DPU,DPU是功能最強大的SmartNIC,DPU新增了虛擬化,網(wǎng)絡功能虛擬化(NFV),安全,存儲等功能,這種說法也基本符合我們看到的趨勢。
維基百科上解釋,DPU通常包含做通用計算的CPU、NIC網(wǎng)卡和可編程數(shù)據(jù)加速引擎,使得DPU同時具有通用計算能力和可編程性,而且,在網(wǎng)絡數(shù)據(jù)包、存儲IO處理方面的效率都非常高。
所以,我們可以認為,做網(wǎng)絡、安全、存儲以及虛擬化的專用系統(tǒng)都算是DPU。
DPU話題熱度非常高,DPU被稱作是CPU、GPU之后的第三個主力芯片,市場空間不難想象的大,國內(nèi)市場上芯啟源、中科馭數(shù)、星云智聯(lián)、云豹智能都受到了很高的關注,包括資本市場的青睞。
DPU之所這么火,說起來有不止三把火的助攻。
2020年英偉達BlueField-2的發(fā)布點燃了DPU的第一把火。
上圖是英偉達對DPU加速卡的介紹
BlueField-2集成了Mellanox的網(wǎng)卡和ARM處理器,可以將包括Hypervisor、網(wǎng)絡、安全以及存儲方面的工作負載從CPU遷移到DPU上。
英特爾對IPU定位的描述
英特爾的入局則是點燃了第二把火。
2021年,英特爾發(fā)布了2個IPU卡和一個代號為MountEvans的IPU SoC,IPU卡基于FPGA和低功耗至強,Mount Evans則是基于ASIC和ARM核心,總之都是打破原來由CPU扛下所有的模式,將一部分工作負載交給了專有的設備(未來支持Hypervisior卸載)。
Pensando的Distributed Services Card
2022年,AMD的入局算是點燃了第三把火。
這是AMD收購Pensando是DPU領域的又一大事件,Pensando的思路與前者沒有太大區(qū)別,也做網(wǎng)絡、存儲以及虛擬化的卸載,它用的也是ARM處理器,網(wǎng)絡部分是強項,它帶有一個P4可編程pipeline引擎。
Marvell的DPU平臺的基本架構
除了英偉達、英特爾、AMD三家巨頭的三把火,還能看見,Marvell也有基于ARM的Octeon10,F(xiàn)ungibled有基于MIPS架構的F1,Broadcom也有基于ARM的Stingray,做的事情大體上一樣,局部有不同的側重點,可以粗暴地認為,都是在搶戰(zhàn)DPU市場。
另外,DPU的背后還有2個不可忽略的大佬。
第一個是ARM,不難發(fā)現(xiàn),多個DPU方案都用到了ARM核心,ARM在數(shù)據(jù)中心市場的門口輾轉了好些年,終于被DPU以一種更容易接受的方式,正式抬進了數(shù)據(jù)中心的大門。
另外一個是VMware,VMware的Project Montery支持讓ESXi Hypervisior軟件運行在除CPU以外的更多設備上,幫DPU卸載Hypervisior,已有多家DPU廠商參與了Project Montery。
DPU會任由幾家大廠吃獨食嗎?
可以肯定的是,DPU絕對不會像通用計算CPU那么聚集,也絕對比GPU市場更加多元化,從構成上來看,就分為基于ASIC的和基于FPGA的兩大類,ASIC和FPGA兩者已經(jīng)共存多年,可見的未來兩者必將長期存在。
從功能上來看,除了卸載存儲、網(wǎng)絡、安全以及虛擬化以外,還有許多方案提供用于機器學習等加速功能,也就是說,做網(wǎng)卡和智能網(wǎng)卡的廠商,以及許多做機器學習加速芯片的廠商都可能以各種形式參與到DPU的混戰(zhàn)中。
但最終想取得成功,得看用戶需求,DPU興起于亞馬遜云等大型公有云服務商,目前最大的用戶群體仍然是大型互聯(lián)網(wǎng)公司、大型公有云服務商以及大型電信運營商。
大型公有云都多少有自己的DPU,比如亞馬遜云有自己的Nitro系統(tǒng),阿里云有自己的神龍架構,此外,華為云、騰訊云也都有一些功能相對少一些的智能網(wǎng)卡。
谷歌與英特爾合作推出了Mount Evans,微軟的Catapult v3用的其實是英特爾的FPGA。
UCloud和國內(nèi)另外一個規(guī)模較小的公有云服務商也使用了英偉達的DPU方案,百度同時使用了英偉達和英特爾的DPU方案。
云服務商對技術很開放,完全不介意幾種方案并存,未來市場上,如果有誰宣布采用了多種DPU解決方案將非常正常,因為云廠商相互間內(nèi)卷得非常厲害。
比如,云廠商的云主機類型就非常多樣,很多公有云主機同時使用英特爾、AMD的x86和ARM處理器,按照不同場景又分為不同的類型,比如內(nèi)存優(yōu)化型、計算優(yōu)化型和網(wǎng)絡優(yōu)化型等,分門別類多種多樣。
有不同側重的DPU將幫助云服務商提供更豐富多樣的云主機。
比較典型的是亞馬遜云,亞馬遜的Nitro卡插在服務器上就能很快讓服務器變成云主機,Nitro卡成了亞馬遜云實例類型豐富的重要推動力。
多樣化的云主機類型將幫助云服務商構建差異化的服務,免于在同質化的競爭中遭受價格戰(zhàn),從這一角度看,無疑是有利于云行業(yè)發(fā)展的。
來源:科技云報道
免責聲明:此文內(nèi)容為第三方自媒體作者發(fā)布的觀察或評論性文章,所有文字和圖片版權歸作者所有,且僅代表作者個人觀點,與極客網(wǎng)無關。文章僅供讀者參考,并請自行核實相關內(nèi)容。投訴郵箱:editor@fromgeek.com。
- 蜜度索驥:以跨模態(tài)檢索技術助力“企宣”向上生長
- 騰訊隱身,令人生畏
- 迪卡儂的價格、lululemon的品質,平替正成為年輕消費者的心頭好
- 三場與AI有關的死亡
- 100億美元史上最大融資的背后,國內(nèi)外巨頭齊瞄準Data+AI
- 有一種羨慕叫“別人家的年終獎”:京東采銷平均23薪,全網(wǎng)熱議“人的價值”
- 行業(yè)首個“人機大戰(zhàn)”對壘!AI翻譯已媲美人工
- 蘋果開啟年終大促,降價1200元,被國產(chǎn)手機嚇怕了?
- 1999 元起,OPPO A5 Pro 超防水、超抗摔、超耐用
- 長三角,如何把數(shù)據(jù)要素變成新長江?
- 大模型,在內(nèi)卷中尋找出口
免責聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性,但不保證有關資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏,概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權或存在不實內(nèi)容時,應及時向本網(wǎng)站提出書面權利通知或不實情況說明,并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關文章源頭核實,溝通刪除相關內(nèi)容或斷開相關鏈接。