騰訊Techo開(kāi)發(fā)者大會(huì)揭曉云存儲(chǔ)發(fā)展趨向:高性能、高可用、高性?xún)r(jià)比

產(chǎn)業(yè)數(shù)字化轉(zhuǎn)型過(guò)程中產(chǎn)生著比過(guò)去任何一個(gè)時(shí)代都多的數(shù)據(jù)。在這樣的背景下,數(shù)據(jù)存儲(chǔ)技術(shù)應(yīng)該怎么發(fā)展?11月7日,在騰訊Techo開(kāi)發(fā)者大會(huì)上,來(lái)自科研領(lǐng)域的專(zhuān)家和騰訊云存儲(chǔ)業(yè)務(wù)的工程師們共同揭開(kāi)了云存儲(chǔ)的發(fā)展趨勢(shì)。

據(jù)IDC預(yù)測(cè),全球數(shù)據(jù)總量預(yù)計(jì)2020年達(dá)到44ZB(440億TB)。隨著IT信息系統(tǒng)的不斷發(fā)展,數(shù)據(jù)在各個(gè)行業(yè)的應(yīng)用越來(lái)越廣的同時(shí),云存儲(chǔ)又該如何進(jìn)化滿足大數(shù)據(jù)時(shí)代的要求?華中科技大學(xué)計(jì)算機(jī)學(xué)院教授、信息存儲(chǔ)專(zhuān)委會(huì)常委、SNIA中國(guó)區(qū)專(zhuān)家委員會(huì)副主席謝長(zhǎng)生在活動(dòng)現(xiàn)場(chǎng)對(duì)存儲(chǔ)行業(yè)的未來(lái)發(fā)展趨勢(shì)進(jìn)行了展望。

謝長(zhǎng)生指出,主流存儲(chǔ)介質(zhì)從磁介質(zhì)到閃存介質(zhì)轉(zhuǎn)移的同時(shí),也驅(qū)動(dòng)了接口協(xié)議的變化。存儲(chǔ)行業(yè)未來(lái)將在縱向沿著Cache技術(shù),橫向朝著分布式存儲(chǔ)兩個(gè)方向繼續(xù)進(jìn)化。此外,包括智能存儲(chǔ)、支撐AI的存儲(chǔ)、交存內(nèi)計(jì)算、計(jì)算型存儲(chǔ)、類(lèi)腦存儲(chǔ)、區(qū)塊鏈存儲(chǔ)等在內(nèi)的一些新興存儲(chǔ)技術(shù)也將迎來(lái)更大的發(fā)展際遇,在存儲(chǔ)的大數(shù)據(jù)時(shí)代發(fā)揮更大的作用。

萬(wàn)物上云時(shí)代,云硬盤(pán)已經(jīng)成為云的基礎(chǔ)服務(wù)。騰訊技術(shù)工程事業(yè)群云硬盤(pán)專(zhuān)家工程師王銀虎表示,通過(guò)介質(zhì)升級(jí),騰訊云云硬盤(pán)產(chǎn)品歷經(jīng)了普通云盤(pán)、高性能云盤(pán)、SSD云盤(pán)三大階段。基于混合存儲(chǔ)介質(zhì)的高性能云盤(pán)性能指標(biāo)達(dá)到了普通云盤(pán)的10倍,延遲低于5ms,高性能SSD云盤(pán)延遲甚至低于3ms。而騰訊云的下一代云硬盤(pán)——HSSD云盤(pán)則利用客戶(hù)端卸載、存儲(chǔ)卸載以及網(wǎng)絡(luò)卸載的技術(shù)手段,可實(shí)現(xiàn)更低的延時(shí)和高性能,目前在平臺(tái)側(cè)已將延時(shí)降低到100微秒以下。

近年來(lái),隨著云端數(shù)據(jù)的增長(zhǎng),用戶(hù)對(duì)云上數(shù)據(jù)產(chǎn)生價(jià)值的需求越來(lái)越強(qiáng)烈,云端大數(shù)據(jù)處理的瓶頸正在逐漸凸顯。雖然業(yè)界推出了大數(shù)據(jù)存儲(chǔ)基于對(duì)象存儲(chǔ)的方案,提升了整體靈活性,但云數(shù)據(jù)的延時(shí)較高,整體大數(shù)據(jù)分析場(chǎng)景效率較低。在此背景下,騰訊云基于對(duì)象存儲(chǔ)研發(fā)了CHDFS。騰訊云騰訊云存儲(chǔ)研發(fā)專(zhuān)家工程師嚴(yán)俊明表示,騰訊云CHDFS融合了獨(dú)立的元數(shù)據(jù)管理能力和對(duì)象存儲(chǔ)的存儲(chǔ)容量的能力,擁有高效和云數(shù)據(jù)操作低延時(shí)的特性。目前騰訊云CHDFS的服務(wù)可用性已達(dá)99.9%,數(shù)據(jù)持久性可以達(dá)到99.999999999%。

另一方面,騰訊龐大的自有業(yè)務(wù)體系也為云存儲(chǔ)產(chǎn)品和技術(shù)提供了絕佳的實(shí)踐平臺(tái)。

微信作為一款月活用戶(hù)超過(guò)10億的國(guó)民級(jí)應(yīng)用,系統(tǒng)每天讀寫(xiě)量超過(guò)數(shù)萬(wàn)億,峰值時(shí)數(shù)據(jù)調(diào)用超過(guò)1億次/秒的。在海量存儲(chǔ)中做到高性能,進(jìn)而降低成本,是其面臨的最大挑戰(zhàn)。微信事業(yè)群分布式存儲(chǔ)工程師鄭建軍表示,通過(guò)定制式開(kāi)發(fā)的手段提升微信存儲(chǔ)系統(tǒng)的基本能力,使得微信的存儲(chǔ)性能比傳統(tǒng)模式提升了近1倍。為提升數(shù)據(jù)安全性,微信還采用了多副本存儲(chǔ)、實(shí)時(shí)校檢、人工排查等方式,并通過(guò)定期對(duì)齊數(shù)據(jù)副本、副本數(shù)據(jù)的跨地域容災(zāi)等手段確保數(shù)據(jù)的完整性。此外,微信還通過(guò)快速拒絕策略、非租約的Paxos、大系統(tǒng)小做以及多副本冗余等方式確保存儲(chǔ)服務(wù)在高峰期的可用性,目前,微信核心數(shù)據(jù)存儲(chǔ)服務(wù)的可用性已經(jīng)達(dá)到99.9999%的水平。

對(duì)于非常消耗存儲(chǔ)資源的圖片和音視頻文件在微信和微信小程序內(nèi)應(yīng)用比例越來(lái)越高的問(wèn)題,騰訊云還在嘗試用更多的技術(shù)創(chuàng)新去滿足這些應(yīng)用對(duì)存儲(chǔ)的需求。騰訊技術(shù)工程事業(yè)群圖片業(yè)務(wù)技術(shù)副總監(jiān)孫云清表示,騰訊云通過(guò)新的圖片壓縮技術(shù)和GPU加速技術(shù),幾年時(shí)間已經(jīng)節(jié)省了近1T的圖片帶寬;騰訊云通過(guò)設(shè)置大容量、低成本,且直接跳過(guò)了文件系統(tǒng)的緩存處理服務(wù)池,大幅減少了應(yīng)用讀取圖片和音視頻檔案時(shí)緩存的拷貝消耗,再結(jié)合IO的方式提高并發(fā)速度,大幅節(jié)省了系統(tǒng)性能,并降低了內(nèi)存的消耗。此外,騰訊云還充分結(jié)合存儲(chǔ)空間利用率優(yōu)化、路由IP均衡、磁盤(pán)內(nèi)存熱文件緩存等手段全力挖掘系統(tǒng)性能潛力,并充分利用騰訊云平臺(tái)上其他閑置資源進(jìn)行資源彈性調(diào)配,不僅讓業(yè)務(wù)變得透明,也大幅降低了成本。

騰訊云和微信小程序團(tuán)隊(duì)聯(lián)合打造的小程序·云開(kāi)發(fā)也封裝了云存儲(chǔ)的能力,提供快速上傳和下載、CDN加速、服務(wù)端的對(duì)象管理和權(quán)限管理等底層云存儲(chǔ)服務(wù)。騰訊云對(duì)象存儲(chǔ)高級(jí)產(chǎn)品經(jīng)理賀永紅表示,通過(guò)小程序+云存儲(chǔ)的結(jié)合,小程序可以實(shí)現(xiàn)直接讀寫(xiě)云存儲(chǔ)資源,服務(wù)端在管理資源同時(shí)還可同步進(jìn)行AI處理。例如騰訊乘車(chē)碼出行小程通過(guò)將城市數(shù)據(jù)遷移上云儲(chǔ)存,實(shí)現(xiàn)大業(yè)務(wù),小體積;香格里拉智能入住小程序通過(guò)和云儲(chǔ)存的結(jié)合實(shí)現(xiàn)了客戶(hù)的快速便捷智能入住;作業(yè)盒子小程序通過(guò)云存儲(chǔ)的AI識(shí)別實(shí)現(xiàn)在線作批改。

賀永紅介紹,目前騰訊云在云存儲(chǔ)的可用性、數(shù)據(jù)可靠性和QPS三大核心指標(biāo)上分別已經(jīng)達(dá)到99.95%,99.9999999999%和30000的高水準(zhǔn),在業(yè)界遙遙領(lǐng)先。

免責(zé)聲明:本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。

2019-11-11
騰訊Techo開(kāi)發(fā)者大會(huì)揭曉云存儲(chǔ)發(fā)展趨向:高性能、高可用、高性?xún)r(jià)比
產(chǎn)業(yè)數(shù)字化轉(zhuǎn)型過(guò)程中產(chǎn)生著比過(guò)去任何一個(gè)時(shí)代都多的數(shù)據(jù)。

長(zhǎng)按掃碼 閱讀全文