企業(yè)類應(yīng)用與桌面類應(yīng)用的一個顯著區(qū)別,就是它們在設(shè)計時可以充分利用超大內(nèi)存,會主動對內(nèi)存和硬盤的使用進行規(guī)劃以及性能優(yōu)化,都做得很專業(yè)。然而,在這個數(shù)據(jù)暴漲的時代,一些大數(shù)據(jù)類應(yīng)用對內(nèi)存的需求已經(jīng)超出了可接受的成本范圍,此時不得不使用NVMe硬盤來承載大量的從主存中騰挪出來的數(shù)據(jù)。
對于某些強烈依賴內(nèi)存的系統(tǒng),比如內(nèi)存數(shù)據(jù)庫,內(nèi)存計算系統(tǒng)而言,SDRAM到NVMe盤的性能落差甚至都覺得太大,而導(dǎo)致最終性能不令人滿意。所以對于這類應(yīng)用,一個位于SDRAM和NVMe盤之間的存儲器層級,就十分必要。英特爾?傲騰?持久內(nèi)存恰恰填補了這個空缺。
針對大數(shù)據(jù)激增企業(yè)端的存儲壓力,英特爾推出了兩大數(shù)據(jù)中心產(chǎn)品:英特爾?傲騰? 持久內(nèi)存和英特爾?傲騰?固態(tài)盤。雖然英特爾?傲騰?持久內(nèi)存 和英特爾?傲騰?固態(tài)盤都使用了相同的英特爾?傲騰? 內(nèi)存介質(zhì),但它們是完全不同的產(chǎn)品。英特爾?傲騰? 持久內(nèi)存容量大,性能接近于傳統(tǒng)的DRAM內(nèi)存,但價格更親民。位于 DIMM 封裝中,在 DRAM 總線上運行,可以作為易失性內(nèi)存或持久內(nèi)存使用。而英特爾?傲騰?固態(tài)盤嚴格用于標準 NAND 封裝模型(AIC、M.2、U.2、EDSFF 等)中的快速存儲,并采用 NVMe* 協(xié)議駐留于 PCIe 總線上,作為存儲設(shè)備始終保持數(shù)據(jù)持久,可以讓更多存儲中的數(shù)據(jù)更加靠近CPU。
想要理解英特爾?傲騰? 持久內(nèi)存的優(yōu)越性,不妨說說傳統(tǒng)的內(nèi)存和存儲架構(gòu)。在傳統(tǒng)內(nèi)存和存儲架構(gòu)中,是讓 DRAM 內(nèi)存直接訪問存儲設(shè)備。這些存儲設(shè)備可以是以往的塊存儲設(shè)備,也可能是 NAND 固態(tài)盤。然而,內(nèi)存和存儲設(shè)備之間,在數(shù)據(jù)讀取速度和容量上難以匹配。DRAM 的數(shù)據(jù)讀取速度快,缺點是太貴且容量密度有限,因此服務(wù)器總內(nèi)存容量受限,且DRAM內(nèi)存上的數(shù)據(jù)無法持久保存;存儲設(shè)備成本低、容量大,數(shù)據(jù)可持久保存,缺點是數(shù)據(jù)的讀取速度慢?;诖耍ㄟ^在 DRAM 內(nèi)存和塊存儲設(shè)備之間加入大容量 SCM 層——英特爾?傲騰?持久內(nèi)存,極大地提升了內(nèi)存存儲,保證最常用的數(shù)據(jù)以最高性能進行訪問,以高性價比提供了出色性能。
說說離我們生活較近的案例,在我們?nèi)粘I钪?,很容易發(fā)現(xiàn)自己的使用習(xí)慣、消費習(xí)慣、生活喜好很容易被大數(shù)據(jù)抓取,用于用戶畫像、商品推薦等業(yè)務(wù),這些業(yè)務(wù)的背后都可能有Redis存儲的支持。作為內(nèi)存數(shù)據(jù)庫,Redis 依賴高內(nèi)存容量,這樣才能愜意地享受比固態(tài)盤更高的數(shù)據(jù)吞吐帶寬,以及更低的數(shù)據(jù)處理延時。
英特爾?傲騰?持久內(nèi)存可在每個CPU的內(nèi)存總線上提供高達 3TB 的內(nèi)存容量,同時性能接近 DRAM。與第二代英特爾?至強?可擴展處理器搭配使用,提供比前幾代處理器更出色的單位內(nèi)核性能和內(nèi)存容量,這些因素均有利于 Redis 的部署,并且體現(xiàn)在具體數(shù)據(jù)中。
來看數(shù)據(jù)測試,兩套配置幾乎完全相同的服務(wù)器系統(tǒng),區(qū)別在于一臺使用英特爾?傲騰?持久內(nèi)存,另一臺使用傳統(tǒng)內(nèi)存,測試下來,兩系統(tǒng)提供的性能和虛擬機密度類似,延遲均小于 1 毫秒。但采用英特爾?傲騰?持久內(nèi)存的系統(tǒng),每個虛機可以降低 20% 成本,同時還能滿足所有虛擬機 SLA 要求。這是針對單機同內(nèi)存容量的狀況的成本分析。
在 Redis 服務(wù)器集群中使用英特爾?傲騰?持久內(nèi)存,成本可以降低高達 40%,而且由于單臺服務(wù)器搭載內(nèi)存更多,因此服務(wù)器節(jié)點更少,無論是基礎(chǔ)設(shè)施的運維,還是數(shù)據(jù)的管理,都更加方便。
英特爾?傲騰?持久內(nèi)存加速阿里Mars系統(tǒng)
在一次測試中,阿里的Mars分布式內(nèi)存計算框架利用英特爾?傲騰?持久內(nèi)存,取得了很不錯的性能加成。如下圖所示,當需要處理的數(shù)據(jù)集超過了主存承載能力之后,溢出后的數(shù)據(jù)被放置在傲騰?存儲器而不是之前的NVMe硬盤中,隨著數(shù)據(jù)量溢出主存,傲騰?方案的性能會有顯著提升。
Mars是一個基于張量的統(tǒng)一分布式計算框架,突破了現(xiàn)有大數(shù)據(jù)計算引擎以關(guān)系代數(shù)為主的計算模型,將分布式技術(shù)引入科學(xué)計算和數(shù)值計算領(lǐng)域,極大地擴展了科學(xué)計算的計算規(guī)模和效率。目前Mars已經(jīng)實現(xiàn)了70%的Numpy常見接口,用戶只需要通過import Mars就可以將已經(jīng)編寫好的基于Numpy的代碼移植到Mars中。
Mars會將張量自動在各個維度上切分成小的chunk來分布式處理從而提升并行性,以便于將小顆粒任務(wù)派發(fā)到GPU,或者網(wǎng)絡(luò)遠端的其它集群節(jié)點上并行計算。
舉例來講,對于張量矩陣乘法,Mars會生成如下圖所示的chunk級別執(zhí)行圖。在執(zhí)行過程中,會有大量的中間過程,這些過程生成大量的數(shù)據(jù)會占用寶貴的主存資源。
每個chunk執(zhí)行完畢之后,結(jié)果數(shù)據(jù)會被放置在shared memory中,當share memory中數(shù)據(jù)過多時,Mars會啟動spill溢出控制機制,將溢出的數(shù)據(jù)轉(zhuǎn)移到下層更大容量的存儲器中。
經(jīng)過評估,阿里發(fā)現(xiàn)使用英特爾?傲騰?持久內(nèi)存來作為主存的下一層存儲器,無論是在性能上還是TCO上,相比直接用NVMe盤作為下層,都非常符合Mars系統(tǒng)的預(yù)期。
英特爾?傲騰?持久內(nèi)存提供128GB、256GB和512GB容量,遠高于目前最大容量僅限于每DIMM 128GB的可用SDRAM DIMM,而且與傳統(tǒng)DRAM DIMM相比,英特爾?傲騰?持久內(nèi)存的每GB成本更低。英特爾?傲騰?持久內(nèi)存通過內(nèi)存總線直接連接到處理器,在基于App Direct(簡稱AD)模式下,應(yīng)用程序可以完全繞過操作系統(tǒng),不需要設(shè)備驅(qū)動程序、系統(tǒng)調(diào)用、中斷和上下文切換,就可以從用戶空間直接訪問英特爾?傲騰?持久內(nèi)存上的數(shù)據(jù)。下圖所示為采用NVMe閃存盤、NVMe傲騰?盤和英特爾?傲騰?持久內(nèi)存的訪問延遲對比。
總體而言,使用英特爾?傲騰?持久內(nèi)存,解決了Mars科學(xué)計算中因數(shù)據(jù)溢出傳到硬盤,導(dǎo)致I/O開銷增大,計算性能降低的問題。通過測試,驗證了在TCO成本相當?shù)那闆r下,使用英特爾?傲騰?持久內(nèi)存能夠有效提升Mars科學(xué)計算性能。
傲騰?固態(tài)盤加速Ceph分布式存儲系統(tǒng)
Ceph是最常見的塊和對象存儲后端解決方案。作為一款開源的分布式存儲軟件解決方案,它在分布式、可靠性、易擴展、并發(fā)性能的優(yōu)勢越來越被行業(yè)作為專業(yè)存儲高性能解決方案。隨著云服務(wù)以及產(chǎn)業(yè)互聯(lián)網(wǎng)升級對存儲性能要求越來越高,英特爾?傲騰?固態(tài)盤可以在IOPS和延遲方面助力客戶產(chǎn)業(yè)升級,并且其高壽命的優(yōu)勢幫助企業(yè)降低維護成本。
在 Ceph分布式存儲方案中,使用英特爾?傲騰?固態(tài)盤作為緩存盤為RocksDB、 WAL、OSD緩存提速,低延遲加速負載間的傳輸響應(yīng),并配合英特爾?CAS緩存加速軟件進一步增強系統(tǒng)性能和可靠度。
在以成本和性能為導(dǎo)向的前提下,如何以較低成本實現(xiàn)最大性能的發(fā)揮?針對Ceph架構(gòu)中的熱數(shù)據(jù)和溫數(shù)據(jù)進行優(yōu)化,英特爾?傲騰?固態(tài)盤+英特爾?QLC 3DNAND 方案(O+Q方案),通過傲騰?解決小的隨機I/O,QLC來解決容量問題,實現(xiàn)性能瓶頸的突破。
綜上所述,傲騰?對于企業(yè)級應(yīng)用具有非常明顯的加速效果,作為下一代固態(tài)介質(zhì)的排頭兵,Intel傲騰?近幾年逐步擴大生態(tài),在企業(yè)級應(yīng)用加速場景先顯現(xiàn)出了優(yōu)良的效果。
免責(zé)聲明:此文內(nèi)容為第三方自媒體作者發(fā)布的觀察或評論性文章,所有文字和圖片版權(quán)歸作者所有,且僅代表作者個人觀點,與極客網(wǎng)無關(guān)。文章僅供讀者參考,并請自行核實相關(guān)內(nèi)容。投訴郵箱:editor@fromgeek.com。
- 蜜度索驥:以跨模態(tài)檢索技術(shù)助力“企宣”向上生長
- 騰訊隱身,令人生畏
- 迪卡儂的價格、lululemon的品質(zhì),平替正成為年輕消費者的心頭好
- 三場與AI有關(guān)的死亡
- 100億美元史上最大融資的背后,國內(nèi)外巨頭齊瞄準Data+AI
- 有一種羨慕叫“別人家的年終獎”:京東采銷平均23薪,全網(wǎng)熱議“人的價值”
- 行業(yè)首個“人機大戰(zhàn)”對壘!AI翻譯已媲美人工
- 蘋果開啟年終大促,降價1200元,被國產(chǎn)手機嚇怕了?
- 1999 元起,OPPO A5 Pro 超防水、超抗摔、超耐用
- 長三角,如何把數(shù)據(jù)要素變成新長江?
- 大模型,在內(nèi)卷中尋找出口
免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性,但不保證有關(guān)資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負任何法律責(zé)任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時,應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明,并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實,溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。