原標題:智能時代,數(shù)據(jù)成為重要生產(chǎn)要素!
隨著智能時代的到來,數(shù)據(jù)成為重要的生產(chǎn)要素。人工智能、云計算、物聯(lián)網(wǎng)、大數(shù)據(jù)等新技術推動包括工業(yè)、農(nóng)業(yè)、服務業(yè)等許多行業(yè)、產(chǎn)業(yè)進行大規(guī)模的數(shù)字化變革,逐漸形成以數(shù)據(jù)+智能為中心的新型業(yè)務,推動服務化延伸、網(wǎng)絡化協(xié)同、智能化生產(chǎn)和個性化定制等新的變化。
日前,華為智能數(shù)據(jù)與存儲領域副總裁張福鵬在#∑co時間#活動中分享了題為“站在未來看現(xiàn)在:智能時代數(shù)據(jù)存儲產(chǎn)業(yè)談”的演講,帶大家走進了精彩的存儲未來世界。
智能時代,數(shù)據(jù)存儲正面臨四大挑戰(zhàn)
挑戰(zhàn)1:生產(chǎn)交易類數(shù)據(jù)高并發(fā)、低延時、高可靠
據(jù)張福鵬介紹,隨著5G帶來的大帶寬、低時延,對數(shù)據(jù)處理速度、頻度、可靠性提出了新的要求;以金融交易為例,我們每天用到的微信、支付寶等小額支付,使得交易量增長10倍以上,而且在線購物也不再受門店營業(yè)時間的限制,必須做到7x24小時不間斷服務。這些都對數(shù)據(jù)交易的時延、可靠性等提出了前所未有的挑戰(zhàn)。
挑戰(zhàn)2:海量非結構化數(shù)據(jù)存儲,長期保存與價值挖掘
類似今日頭條每天50PB的數(shù)據(jù),絕大多數(shù)都是非結構化數(shù)據(jù)。窄帶和寬帶物聯(lián)網(wǎng)、4K/8K視頻、自動駕駛等多數(shù)據(jù)源、多模數(shù)據(jù)的大量采集、長期保存、冷數(shù)據(jù)變溫數(shù)據(jù)等帶來了新的海量數(shù)據(jù)存儲需求。
挑戰(zhàn)3:數(shù)據(jù)無縫流動,融合高效的處理與分析
數(shù)據(jù)要長期保存,更要無縫流動才能產(chǎn)生更多的價值。從實際業(yè)務來看,在距離數(shù)據(jù)產(chǎn)生最近的邊緣場景,比如攝像頭,IoT,傳感器等,數(shù)據(jù)如何存儲和高速處理,如何提供邊、中心、云的統(tǒng)一數(shù)據(jù)保護和管理,既可以讓數(shù)據(jù)高速流動,又能做到每比特成本最優(yōu),價值最大,也是我們企業(yè)全場景業(yè)務面臨的新挑戰(zhàn)。
挑戰(zhàn)4:數(shù)據(jù)全生命周期管理,場景化、智能化、降本增效
數(shù)據(jù)全生命周期管理,從數(shù)據(jù)產(chǎn)生的源頭,實現(xiàn)邊云協(xié)同疊加AI的能力。業(yè)務希望能充分利用云上數(shù)據(jù)量大的優(yōu)勢形成基線,同時在本地增量訓練。結合具體業(yè)務提供個性化調(diào)優(yōu),實現(xiàn)對數(shù)據(jù)生產(chǎn)、分析、備份、歸檔的全生命周期的智能化管理。這也是顛覆傳統(tǒng)IT架構,從數(shù)據(jù)視角打破邊界,構建數(shù)據(jù)基礎設施的一個重要理念。
預見|智能時代存儲
智能時代,存儲應該具有哪些特征才能更好的應對新技術、新業(yè)務帶來的新挑戰(zhàn)呢?張福鵬表示,智能時代數(shù)據(jù)存儲要滿足三個主要特征,即智能、融合、高效。
智能
智能時代的數(shù)據(jù)存儲要充分利用AI的能力實現(xiàn)Storage for AI和AI in Storage,進而承載數(shù)據(jù)全生命周期智能管理。
華為OceanStor在邊緣存儲端加入了AI芯片,實現(xiàn)個性化AI,存儲自身基于AI芯片對存儲數(shù)據(jù)進行深度學習,實現(xiàn)存儲設備的獨特性能優(yōu)化。
同時將邊緣存儲的數(shù)據(jù)采集上傳云端,數(shù)據(jù)在云端經(jīng)過訓練和建模后,形成通用模型發(fā)布給邊緣存儲,存儲AI芯片再基于通用模型進行強化學習,與自身數(shù)據(jù)特征結合,培訓建模形成個性化模型,再來指導存儲實現(xiàn)場景預測、故障推理。整體形成一個端云協(xié)同AI芯片加速的自驅動。
為了應對萬物互聯(lián)智能時代數(shù)據(jù)存儲的易管理、易運維需求,華為還提供了基于AI使能的自動化數(shù)據(jù)管理系統(tǒng),幫助用戶實現(xiàn)數(shù)據(jù)自動化與智能管理與運維。而在全生命周期數(shù)據(jù)管理方面,華為則將存儲系統(tǒng)的智能管理分為三層,即設備層、數(shù)據(jù)中心層、和云上云下,通過三層聯(lián)動,實現(xiàn)高效的運維運營。
數(shù)據(jù)融合
除了智能化管理,面向多模數(shù)據(jù)、多級介質、邊、中心、云物理位置、多種協(xié)議帶來的數(shù)據(jù)孤島,融合是華為持續(xù)追求的。
智能時代存儲如何打通數(shù)據(jù)孤島,實現(xiàn)從端到云的融合互通能力,華為認為有幾個地方需要重點考慮:異構融合、多服務融合、分級歸檔融合、生產(chǎn)分析融合、端-云融合。
當然,面向實際的業(yè)務場景,還需要考慮包括數(shù)據(jù)庫與存儲融合、萬核級調(diào)度等,這些都是華為持續(xù)要構建的存儲能力,讓數(shù)據(jù)存得下、流得動、用得好。
極致可靠
智能時代存儲三大特征,除了智能、融合這兩個非常重要的特征之外,面向實際業(yè)務需求,還需要高效的數(shù)據(jù)存儲與管理。這里面可分解為極致可靠、極致容量和極致性能三個方面來分析。
在高可靠性領域,不僅僅是在架構層面,在組件(硬盤)、系統(tǒng)(RAID)、解決方案(雙活)層面同時要有大量的創(chuàng)新。
硬盤的可靠性是存儲系統(tǒng)的基礎,華為在盤級可靠性上做了大量的研究,并把結果應用到華為自研的SSD上,比如擦寫次數(shù)是SSD盤片壽命的主要因素,華為在硬盤上采用了SSD全局磨損均衡&全局反磨損均衡的專利技術,來提升SSD壽命。
在架構可靠方面,智能時代存儲架構也需要考慮通過前端共享互聯(lián)、控制器全互聯(lián)、后端共享互聯(lián),真正意義上實現(xiàn):全局互聯(lián)、全局負載均衡,做到更可靠更均衡。而目前華為存儲的架構可靠性已經(jīng)領先于業(yè)界同類產(chǎn)品。
在系統(tǒng)可靠方面,隨著趨勢的發(fā)展,大盤時代來臨,硬件+算法才能構筑系統(tǒng)級的高可靠能力。華為RAID-TP通過創(chuàng)新的數(shù)據(jù)校驗算法,可以實現(xiàn)系統(tǒng)內(nèi)3個盤同時失效,業(yè)務不受影響。
在方案可靠方面,要實現(xiàn)免網(wǎng)關雙活的極致可靠,站點間要求實現(xiàn)負載均衡,RPO=0 & RTO≈0。此外,專屬硬件設備可以做到存儲互通,在3DC更高級別可靠性上可以實現(xiàn)靈活組網(wǎng),同時降低容災系統(tǒng)建設成本。
在云級可靠方面,在生產(chǎn)中心方案級可靠的基礎上,通過存儲系統(tǒng)的容災特性,如秒級快照、備份、統(tǒng)一管理等,實現(xiàn)災備中心,以及云上中心的融合數(shù)據(jù)管理,做到中心間分鐘級的可靠性,和云上云下小時級的災備與恢復。
極致容量
面對海量數(shù)據(jù)爆炸式增長,新業(yè)務對數(shù)據(jù)存儲和管理不但要求持久化、數(shù)據(jù)不丟失,更要考慮極致的容量和性價比。
面向全閃存的時代,存儲具備了智能芯片,彈性EC算法提出了EC聚合方案,多個數(shù)據(jù)塊可以在一個EC分條上進行聚合,以獲得性能和EC利用率的雙重保證。通過彈性EC技術,可以將EC比例提升到22+2,磁盤利用率達到91.6%,并且,在相同的硬件條件下,其性能可與傳統(tǒng)三副本性能持平,讓存儲利用率和可靠性提升有商用價值,支撐企業(yè)在云時代轉型走得更遠。
在計算存儲分離方面,華為提供基于原生HDFS協(xié)議的分布式存儲,不但簡化了大數(shù)據(jù)海量數(shù)據(jù)存儲的配置和管理,同時可以使能計算與存儲按需擴容,實現(xiàn)價值最大化。
極致性能
華為認為,對于智能時代的存儲,要充分利用芯片+算法+架構來全面提升性能、降低延時,為業(yè)務帶來新的價值。
為了實現(xiàn)端到端關鍵路徑加速,從傳、算、智、管、存上引入關鍵芯片。同時在算法方面,華為存儲以創(chuàng)新的Flashlink盤控配合算法,能夠實現(xiàn)控制器、硬盤框和SSD盤的聯(lián)動。
而為了支持數(shù)據(jù)中心的網(wǎng)絡存儲,華為通過NVMeover Fabric可以實現(xiàn)NVMe標準在多種網(wǎng)絡上的擴展,達到降低存儲網(wǎng)絡協(xié)議棧處理開銷并提供高并發(fā)低延時應用,適應SSD介質驅動的存儲架構演進。
同時,為了在前端數(shù)據(jù)傳輸階段,加速NVMe協(xié)議傳輸效率,華為存儲還設計了新的DTOE智能網(wǎng)卡。上一代使用的TOE網(wǎng)卡,只是較傳統(tǒng)網(wǎng)卡,實現(xiàn)了部分數(shù)據(jù)傳輸卸載處理,依然存在內(nèi)核中斷產(chǎn)生的高延遲開銷。
華為OceanStor:智能+硬件+算法,打造智能時代存儲新架構
華為OceanStor面向智能時代存儲打造了基于“智能+硬件+算法”的創(chuàng)新架構,基于Memory Fabric打造以內(nèi)存/SCM為中心的極致性能層,基于ALL IP的全閃存極致成本和高性能的容量層,提供數(shù)據(jù)存儲的智能分層管理。
同時面向CPU / NPU/GPU基于創(chuàng)新算法和高速互聯(lián)協(xié)議提供萬核級計算資源池化,智能調(diào)度;面向業(yè)務提供基于容器的異構微服務化,打破內(nèi)存性能墻、算力墻、協(xié)議墻等邊界;
還基于數(shù)據(jù)全生命周期的智能管理系統(tǒng),為萬物互聯(lián)的智能時代持續(xù)提供符合時代要求的創(chuàng)新存儲產(chǎn)品。
談到2020年華為在存儲領域的目標時,張福鵬表示:在2020年,我們將圍繞數(shù)據(jù)基礎設施的三大核心場景,即生產(chǎn)交易、數(shù)據(jù)湖以及邊緣上提供業(yè)界領先的解決方案。
面向生產(chǎn)交易,我們持續(xù)推進閃存普惠,在永快、永穩(wěn)、永智方面持續(xù)發(fā)力,采用全新的硬件設計、面向全閃存的FlashLink架構以及久經(jīng)驗證的OceanStor OS操作系統(tǒng),從架構穩(wěn)定性、業(yè)務高性能、到運維智能化方面,進行技術創(chuàng)新和升級。
面向數(shù)據(jù)湖,我們基于高效彈性EC算法,業(yè)界第一的高密大容量硬件,滿足海量數(shù)據(jù)高效存取需求;通過原生HDFS協(xié)議實現(xiàn)大數(shù)據(jù)存算分離,計算存儲獨立擴展,為實現(xiàn)TCO大幅度節(jié)??;基于Kunpeng芯片算力卸載+AI Fabric無損網(wǎng)絡打造性能標桿;非結構化協(xié)議互通,讓HPDA/AI等數(shù)據(jù)分析無需復雜數(shù)據(jù)拷貝,效率提升1倍以上;數(shù)據(jù)生命周期管理方面實現(xiàn)業(yè)界首個塊、對象、大數(shù)據(jù)、文件多數(shù)據(jù)服務統(tǒng)一管理。
面向邊緣,我們提出極簡、智能的智能邊緣解決方案,運用云上通用智能+邊緣個性化智能協(xié)同技術,基于AI全生命周期智能管理,從資源發(fā)放到故障定位全方位智能,使得容量趨勢提前365天,性能趨勢提前60天預判、系統(tǒng)提前14天發(fā)現(xiàn)故障盤、93%問題發(fā)現(xiàn)即給出方案。創(chuàng)新的智能芯片+邊緣協(xié)同的算法,樹立了存儲業(yè)界智能化的新標桿。
寫在最后,華為公司經(jīng)過了18年的技術研發(fā),已經(jīng)進入到快速增長期。截止到2019年Q4,連續(xù)四季度持續(xù)保持30%左右的高速增長。華為在中國市場已經(jīng)連續(xù)5年保持了第一的市場份額,并在2019年第四季度全球銷售收入排名升至第三,顯現(xiàn)實力。這都歸功于長期不斷的在基礎的硬件、算法、系統(tǒng)以及架構上的科研開發(fā)。
未來,華為公司會持續(xù)投入技術研究,并在產(chǎn)業(yè)組織、專利和研發(fā)多方面深耕,在智能時代存儲產(chǎn)業(yè)向下扎到根,保障我們長期能提供最先進、最好的產(chǎn)品解決方案。同時,華為攜手合作伙伴,打造智能、融合、高效的存儲產(chǎn)品和方案滿足客戶創(chuàng)新數(shù)字化和云化轉型需求。
- 蜜度索驥:以跨模態(tài)檢索技術助力“企宣”向上生長
- 美媒聚焦比亞迪“副業(yè)”:電子代工助力蘋果,下個大計劃瞄準AI機器人
- 微信零錢通新政策:銀行卡轉入資金提現(xiàn)免手續(xù)費引熱議
- 消息稱塔塔集團將收購和碩印度iPhone代工廠60%股份 并接管日常運營
- 蘋果揭秘自研芯片成功之道:領先技術與深度整合是關鍵
- 英偉達新一代Blackwell GPU面臨過熱挑戰(zhàn),交付延期引發(fā)市場關注
- 馬斯克能否成為 AI 部部長?硅谷與白宮的聯(lián)系日益緊密
- 余承東:Mate70將在26號發(fā)布,意外泄露引發(fā)關注
- 無人機“黑科技”亮相航展:全球首臺低空重力測量系統(tǒng)引關注
- 賽力斯發(fā)布聲明:未與任何伙伴聯(lián)合開展人形機器人合作
- 賽力斯觸及漲停,汽車整車股盤初強勢拉升
免責聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性,但不保證有關資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏,概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權或存在不實內(nèi)容時,應及時向本網(wǎng)站提出書面權利通知或不實情況說明,并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關文章源頭核實,溝通刪除相關內(nèi)容或斷開相關鏈接。