?數(shù)字化時(shí)代下,企業(yè)IT的數(shù)據(jù)重心從支持在線交易后移到運(yùn)營(yíng)分析,數(shù)據(jù)的及時(shí)更新、高效分析、減少人工干預(yù),是企業(yè)經(jīng)營(yíng)的追求目標(biāo),因此企業(yè)不再滿足于“T+1”,而是“T+0”,需要實(shí)時(shí)和個(gè)性化,對(duì)于汽車行業(yè)也不例外。
一汽-大眾汽車有限公司(簡(jiǎn)稱一汽-大眾)于1991年成立,是我國(guó)第一個(gè)按經(jīng)濟(jì)規(guī)模起步建設(shè)的現(xiàn)代化乘用車工業(yè)基地,旗下有奧迪、大眾、捷達(dá)三大品牌20余款產(chǎn)品,覆蓋A、B、C級(jí)全系列乘用車型。
數(shù)字革命的浪潮下,4S門店的服務(wù)也更加精準(zhǔn)高效,為了更好的服務(wù)客戶,4S集團(tuán)通過(guò)分析客戶使用習(xí)慣及偏好、產(chǎn)品個(gè)性化需求收集等方式,多維度滿足用戶購(gòu)車和體驗(yàn)需求。但隨著數(shù)據(jù)挖掘的深入,對(duì)BI平臺(tái)的要求也越高,為解決報(bào)表業(yè)務(wù)系統(tǒng)數(shù)據(jù)量的快速增長(zhǎng)、數(shù)據(jù)匯集、交互分析難等難題,一汽-大眾攜手華為云數(shù)據(jù)庫(kù)在MEP(經(jīng)銷商多功能生態(tài)平臺(tái))-BI平臺(tái)項(xiàng)目合作中取得了突破,跨越了挑戰(zhàn)。
實(shí)時(shí)數(shù)據(jù)更新,才能具備更快的市場(chǎng)反應(yīng)能力
眾所周知,BI平臺(tái)的報(bào)表系統(tǒng)可以連接多維數(shù)據(jù)庫(kù),報(bào)表目的是幫助用戶掌握和了解數(shù)據(jù),企業(yè)決策者通過(guò)實(shí)時(shí)的數(shù)據(jù)進(jìn)行分析和挖掘,為業(yè)務(wù)的變化及時(shí)作出應(yīng)對(duì)策略。一汽-大眾4S門店的BI報(bào)表業(yè)務(wù)需要實(shí)時(shí)匯集所有門店的數(shù)據(jù),面臨巨大的技術(shù)挑戰(zhàn)。一汽-大眾所有的4S門店擁有總計(jì)60+MySQL實(shí)例,200+數(shù)據(jù)庫(kù),每個(gè)數(shù)據(jù)庫(kù)約有150+張表要同步,共有3萬(wàn)張表需要數(shù)據(jù)實(shí)時(shí)同步到BI系統(tǒng)內(nèi)。如果按照傳統(tǒng)的數(shù)據(jù)入湖方式,需要配置3萬(wàn)條數(shù)據(jù)同步鏈路,更需要海量的工作比對(duì)數(shù)據(jù)一致性,維護(hù)成本極高,同步效率低下。此外,隨著數(shù)據(jù)量的膨脹,現(xiàn)有的數(shù)據(jù)庫(kù)無(wú)法支撐數(shù)TB級(jí)別的數(shù)據(jù)量。因此打造支持海量數(shù)據(jù)存儲(chǔ)、數(shù)據(jù)實(shí)時(shí)同步的商業(yè)數(shù)據(jù)智能分析的BI平臺(tái)迫在眉睫。
面對(duì)一汽-大眾的業(yè)務(wù)挑戰(zhàn),華為在方案選型上的主要考量如下:
.抽取數(shù)據(jù)對(duì)源數(shù)據(jù)庫(kù)影響最小化:抽取數(shù)據(jù)絕對(duì)不能拖垮源數(shù)據(jù)庫(kù),也不能對(duì)源業(yè)務(wù)的性能造成較大的衰減,甚至表被鎖定;
.部署實(shí)施要輕量簡(jiǎn)單:不需要在每個(gè)數(shù)據(jù)源安裝代理程序,即開(kāi)即用,配置操作簡(jiǎn)單易用;
.數(shù)據(jù)一致性有保障:基于binlog解析進(jìn)行邏輯數(shù)據(jù)同步,具有斷點(diǎn)續(xù)傳和嚴(yán)格的認(rèn)點(diǎn)技術(shù),不懼網(wǎng)絡(luò)抖動(dòng),有效確保數(shù)據(jù)一致性。
綜上,具備實(shí)時(shí)精準(zhǔn)同步且保障數(shù)據(jù)一致的輕量級(jí)服務(wù),華為云數(shù)據(jù)復(fù)制服務(wù)DRS是迎接業(yè)務(wù)挑戰(zhàn)的不二之選。
華為云DRS助力一汽-大眾報(bào)表系統(tǒng)數(shù)據(jù)實(shí)時(shí)同步,全面釋放數(shù)據(jù)價(jià)值
DRS(Data replication Service)華為云數(shù)據(jù)復(fù)制服務(wù),將云上的數(shù)據(jù)通過(guò)多對(duì)一的方案匯集到具備超強(qiáng)寫入能力的華為旗艦型云原生數(shù)據(jù)庫(kù)GaussDB(for MySQL)中,保證數(shù)據(jù)一致性和實(shí)效性,再通過(guò)DRS實(shí)施同步,從GaussDB(for MySQL)同步到華為云數(shù)據(jù)倉(cāng)庫(kù)GaussDB(DWS)中進(jìn)行分析。但要想達(dá)到實(shí)時(shí)數(shù)據(jù)同步難度極大,因此,華為云數(shù)據(jù)庫(kù)解決了如下核心難題:
.增加數(shù)據(jù)來(lái)源列,解決主鍵沖突:通過(guò)MySQL到GaussDB(for MySQL)的多對(duì)一方案,增加數(shù)據(jù)來(lái)源列,記錄server/database/table信息,避免多個(gè)源表主鍵沖突。
.同步鏈路支持動(dòng)態(tài)加減表:新增業(yè)務(wù)隨時(shí)需要增加同步的表,華為云DRS支持GaussDB(for MySQL)的鏈路動(dòng)態(tài)增減表,配置更加簡(jiǎn)單方便。
.標(biāo)記數(shù)據(jù)入湖時(shí)間,幫助實(shí)時(shí)分析:華為云數(shù)據(jù)庫(kù)提供的方案中,增加附加列數(shù)據(jù)行寫入時(shí)間和更新時(shí)間的列,標(biāo)記數(shù)據(jù)插入和更新時(shí)間。為數(shù)據(jù)入湖及數(shù)據(jù)實(shí)時(shí)分析打下基礎(chǔ)。
.引入緩沖數(shù)據(jù)庫(kù),實(shí)時(shí)計(jì)算:針對(duì)1.8萬(wàn)張表不停的匯集和寫入,選擇了百萬(wàn)級(jí)QPS吞吐量和海量數(shù)據(jù)存儲(chǔ)能力的GaussDB(for MySQL)作為緩沖層數(shù)據(jù)庫(kù),解決OLTP和OLAP數(shù)據(jù)庫(kù)之間天然的數(shù)據(jù)處理能力差異。基于DRS實(shí)時(shí)準(zhǔn)確的數(shù)據(jù)同步后,華為云GaussDB(DWS)實(shí)現(xiàn)實(shí)時(shí)計(jì)算,極大縮短復(fù)雜報(bào)表的執(zhí)行時(shí)間。
.數(shù)據(jù)實(shí)時(shí)精準(zhǔn)同步:基于華為云DRS準(zhǔn)確的數(shù)據(jù)同步能力,正常情況下延遲均在1s以內(nèi),為實(shí)時(shí)報(bào)表提供基礎(chǔ)條件,幫助一汽-大眾實(shí)現(xiàn)了銷售報(bào)表數(shù)據(jù)可用時(shí)間從1天降低為10分鐘。且數(shù)據(jù)同步準(zhǔn)確度高,源端和目標(biāo)端數(shù)據(jù)行數(shù)一致。
業(yè)務(wù)上線后,一汽-大眾業(yè)務(wù)報(bào)表系統(tǒng)維護(hù)的鏈路數(shù)量從3萬(wàn)條降低至65條,工作效率大幅提升;同時(shí)DRS保證數(shù)據(jù)一致性,10億級(jí)數(shù)據(jù)無(wú)一條丟失,極大降低數(shù)據(jù)比對(duì)工作;幫助一汽-大眾實(shí)現(xiàn)了銷售報(bào)表數(shù)據(jù)可用時(shí)間從1天降低為10分鐘,時(shí)效性大幅提升。此外,對(duì)于緩沖層數(shù)據(jù)庫(kù)GaussDB(for MySQL) 具備海量數(shù)據(jù)存儲(chǔ)能力,最大支持128TB,超百萬(wàn)級(jí)QPS吞吐,可支撐業(yè)務(wù)快速發(fā)展;基于GaussDB(for MySQL)的計(jì)算存儲(chǔ)分離架構(gòu),數(shù)據(jù)三副本存儲(chǔ)強(qiáng)一致,數(shù)據(jù)零丟失;RTO秒級(jí),故障秒切換,全面保障數(shù)據(jù)安全。
一汽-大眾以用戶為中心,構(gòu)建以數(shù)據(jù)分析為核心的生態(tài)圈,洞察用戶需求,提供高價(jià)值產(chǎn)品,深受客戶青睞。而華為云數(shù)據(jù)庫(kù)通過(guò)技術(shù)手段實(shí)現(xiàn)數(shù)據(jù)實(shí)時(shí)同步,從海量的數(shù)據(jù)中發(fā)現(xiàn)洞察,為企業(yè)經(jīng)營(yíng)決策提供數(shù)據(jù)基礎(chǔ)。未來(lái),華為云數(shù)據(jù)庫(kù)將持續(xù)攜手一汽-大眾通過(guò)數(shù)字技術(shù),打造差異化有競(jìng)爭(zhēng)力的數(shù)字化服務(wù),滿足客戶對(duì)產(chǎn)品和服務(wù)日益增長(zhǎng)的個(gè)性化需求。更多華為云數(shù)據(jù)庫(kù)詳情了解,歡迎前往華為云官網(wǎng)。
(免責(zé)聲明:本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。 )