伴隨著信息量的指數(shù)級(jí)增長,大數(shù)據(jù)面臨著算力吃緊、存儲(chǔ)資源告急、數(shù)據(jù)處理效率無法滿足業(yè)務(wù)增長訴求等一系列問題,直到近年來興起的容器技術(shù)的出現(xiàn),才得以有效解決此類問題。
據(jù)悉,容器技術(shù)以其易遷移、擴(kuò)容快、輕量化等優(yōu)勢,結(jié)合計(jì)算存儲(chǔ)分離的分布式架構(gòu),可以更好地發(fā)揮大數(shù)據(jù)平臺(tái)在高并發(fā)、實(shí)時(shí)分析、海量數(shù)據(jù)集等應(yīng)用場景下的優(yōu)勢。諸如保險(xiǎn)、電力、零售、互聯(lián)網(wǎng)、汽車、等行業(yè),通過這種方式能夠制定更貼近用戶的商業(yè)策略、服務(wù)方案,并進(jìn)行精準(zhǔn)推送。
隨著5G+云+AI時(shí)代來臨,數(shù)據(jù)變得更復(fù)雜、更多、更精細(xì)化,大數(shù)據(jù)對(duì)企業(yè)的發(fā)展越來越重要。而行業(yè)所面臨的則是如何用一種更實(shí)用、更高效的解決方案,處理爆炸式增長的數(shù)據(jù)。對(duì)此,各大公司也進(jìn)行了新一輪的技術(shù)探討。
伴隨著容器技術(shù)的成熟及在各行業(yè)的深入應(yīng)用,部分企業(yè)也著手于平臺(tái)的容器化改造,希望結(jié)合容器的優(yōu)勢,為大數(shù)據(jù)平臺(tái)賦予新的力量。截止目前,存算分離的方案相對(duì)較為成熟以Spark為例,其大致可分為Spark On Kubernetes和Spark Standalone兩種方案。
Spark On Kubernetes集群方案,該方案使用Kubernetes替代Yarn來進(jìn)行統(tǒng)一的資源編排和調(diào)度,通過相關(guān)技術(shù)可以進(jìn)一步提升資源管理效率,優(yōu)化了資源分配,同時(shí)也實(shí)現(xiàn)了對(duì)容器資源的動(dòng)態(tài)管理。
另一種Spark Standalone方案得益于容器任務(wù)隔離、細(xì)粒度、輕量化的算力管理等特點(diǎn),可以將主機(jī)劃分成更多小顆粒的任務(wù)單元,充分利用了主機(jī)資源。但該方案無法對(duì)容器進(jìn)行動(dòng)態(tài)管理,盡管資源利用率有所提升,但仍存在浪費(fèi)現(xiàn)象。
然而,Kubernetes不屬于Hadoop生態(tài)組件,與傳統(tǒng)Spark on YARN相比存在著性能較差、缺少任務(wù)隊(duì)列、external shuffle service等特性,同樣也不好解決企業(yè)的問題?;诖?,華為云推出鯤鵬大數(shù)據(jù)容器解決方案,能很好地解決這個(gè)問題。
據(jù)了解,華為云鯤鵬大數(shù)據(jù)容器解決方案能提供一套更完善的容器化大數(shù)據(jù)解決方案。該方案以支持原生多協(xié)議的OBS對(duì)象存儲(chǔ)服務(wù)為統(tǒng)一的存儲(chǔ)數(shù)據(jù)湖,可以無限彈性擴(kuò)容的鯤鵬算力作為計(jì)算資源,提供“極致彈性、極致高效、存算分離”的全新公有云大數(shù)據(jù)解決方案,能有效應(yīng)對(duì)當(dāng)前大數(shù)據(jù)行業(yè)存在的瓶頸,大幅提升了大數(shù)據(jù)集群的資源利用率,助力企業(yè)智能轉(zhuǎn)型升級(jí)。未來,華為云也同樣會(huì)將更多的技術(shù)融入到該方案中,致力為企業(yè)帶來更好的服務(wù)?! ?/p>
眾所周知,華為技術(shù)實(shí)力強(qiáng)勁,其云計(jì)算品牌華為云同樣以其深厚的技術(shù)功底不斷創(chuàng)新并賦能各行各業(yè)。選擇華為云正當(dāng)時(shí),雙十一期間,華為云設(shè)置內(nèi)容加速專場、域名建站專場、AI大數(shù)據(jù)專場等,促銷囊括眾多明星產(chǎn)品,欲了解更多詳情,請(qǐng)至華為云官網(wǎng)
- 蜜度索驥:以跨模態(tài)檢索技術(shù)助力“企宣”向上生長
- 為什么年輕人不愛換手機(jī)了
- 柔宇科技未履行金額近億元被曝已6個(gè)月發(fā)不出工資
- 柔宇科技被曝已6個(gè)月發(fā)不出工資 公司回應(yīng)欠薪有補(bǔ)償方案
- 第六座“綠動(dòng)未來”環(huán)保公益圖書館落地貴州山區(qū)小學(xué)
- 窺見“新紀(jì)元”,2021元宇宙產(chǎn)業(yè)發(fā)展高峰論壇“廣州啟幕”
- 以人為本,景悅科技解讀智慧城市發(fā)展新理念
- 紐迪瑞科技/NDT賦能黑鯊4 Pro游戲手機(jī)打造全新一代屏幕壓感
- 清潔家電新老玩家市場定位清晰,攜手共進(jìn),核心技術(shù)決定未來
- 新思科技與芯耀輝在IP產(chǎn)品領(lǐng)域達(dá)成戰(zhàn)略合作伙伴關(guān)系
- 芯耀輝加速全球化部署,任命原Intel高管出任全球總裁
免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。