動(dòng)不起來(lái)的大數(shù)據(jù)都是發(fā)酵中的垃圾

大數(shù)據(jù)

作者:賈凱強(qiáng)

1動(dòng)態(tài)數(shù)據(jù)采集以求真

大數(shù)據(jù)的概念炒作一向厲害,很多公司有著海量的數(shù)據(jù)流,有著大把的客戶和資金,技術(shù)也足以進(jìn)行處理大數(shù)據(jù),但是大數(shù)據(jù)之所以能夠成功炒作上位,是因?yàn)槠淠軇?dòng)性,一切動(dòng)不起來(lái)的大數(shù)據(jù)都是發(fā)酵中的垃圾。

動(dòng)態(tài)數(shù)據(jù)采集以求真

大數(shù)據(jù)在數(shù)據(jù)采集的環(huán)節(jié)常常忽略實(shí)際的數(shù)據(jù)采集環(huán)境問(wèn)題。盡管在互聯(lián)網(wǎng)環(huán)境中,采集環(huán)境很少受到大幅的波動(dòng)影響,但是一旦涉及行業(yè)特征則很難保障。

大數(shù)據(jù)在行業(yè)中應(yīng)用時(shí)會(huì)受到協(xié)同性、跨尺度、多因素、因果性和機(jī)理性等影響,這就使得數(shù)據(jù)采集時(shí)必須入鄉(xiāng)隨俗,貼切真實(shí)的應(yīng)用場(chǎng)景。而不是簡(jiǎn)單的從接觸到數(shù)據(jù)采集點(diǎn)時(shí)的單一數(shù)據(jù),這種數(shù)據(jù)對(duì)于全面分析事件形成原因存在著一定的誤差導(dǎo)向因素。

解決這一問(wèn)題的辦法在于行業(yè)應(yīng)用中,針對(duì)某一業(yè)務(wù)目標(biāo)可以動(dòng)用整個(gè)企業(yè)甚至行業(yè)鏈中的相關(guān)資源協(xié)同助陣,將不同時(shí)間尺度的信息集成采集,參考多種可能造成數(shù)據(jù)改變的因素和產(chǎn)生原因,進(jìn)行多層次的數(shù)據(jù)采集并且實(shí)現(xiàn)數(shù)據(jù)來(lái)源的真實(shí)性和豐富性。
數(shù)據(jù)采集需要全面

同時(shí),數(shù)據(jù)的采集不應(yīng)當(dāng)是階段性的,而應(yīng)該讓采集的數(shù)據(jù)保持動(dòng)態(tài)。一直以來(lái)大數(shù)據(jù)的分析過(guò)程都是一個(gè)冗長(zhǎng)的過(guò)程,數(shù)據(jù)采集、管理、處理、存儲(chǔ)、分析到應(yīng)用的整個(gè)流程不僅漫長(zhǎng),而且很難做到實(shí)時(shí)處理,這樣的一個(gè)結(jié)果就是數(shù)據(jù)庫(kù)中的數(shù)據(jù)很容易被迫過(guò)氣,導(dǎo)致分析偏差。

2動(dòng)態(tài)數(shù)據(jù)管理以求新

動(dòng)態(tài)數(shù)據(jù)管理以新

數(shù)據(jù)的動(dòng)態(tài)管理是很多企業(yè)為難的地方,因?yàn)椴杉降臄?shù)據(jù)集量非常大,而且其中絕大多數(shù)都是無(wú)意義數(shù)據(jù),可是數(shù)據(jù)的拆分和篩選卻需要消耗大量資源才能完成。

數(shù)據(jù)管理不容易

數(shù)據(jù)的管理涵蓋了數(shù)據(jù)存儲(chǔ)和數(shù)據(jù)提取等多個(gè)步驟,而如何能夠高效的管理數(shù)據(jù)成為影響大數(shù)據(jù)處理進(jìn)度的重要一環(huán)。數(shù)據(jù)采集過(guò)后,利用關(guān)系、鍵值、文檔、圖片、多媒體等屬性不同進(jìn)行打標(biāo)簽和歸類,預(yù)處理后形成數(shù)據(jù)集在數(shù)據(jù)庫(kù)中進(jìn)行分類存儲(chǔ)。

大數(shù)據(jù)采集之后的存儲(chǔ)也不盡相同,有的數(shù)據(jù)只需要進(jìn)行短存儲(chǔ)就需要提取并進(jìn)行處理,而多數(shù)數(shù)據(jù)則需要長(zhǎng)期存儲(chǔ),因此分類還需要根據(jù)用途進(jìn)行不同方式的區(qū)分。暫時(shí)性存儲(chǔ)的數(shù)據(jù)需要快速整理,而長(zhǎng)久存儲(chǔ)的數(shù)據(jù)需要降低成本和保證調(diào)用時(shí)的快捷性。

不過(guò),一部分?jǐn)?shù)據(jù)庫(kù)會(huì)囿于過(guò)去的數(shù)據(jù)影響,采集到的數(shù)據(jù)分析結(jié)果始終存在過(guò)去的數(shù)據(jù)在過(guò)去環(huán)境下的加持,從而會(huì)使得數(shù)據(jù)分析的最終結(jié)果出現(xiàn)偏差等問(wèn)題。因此,在數(shù)據(jù)存儲(chǔ)時(shí)應(yīng)當(dāng)提供區(qū)域性和完整性多層數(shù)據(jù)。

動(dòng)態(tài)的數(shù)據(jù)管理不僅僅是在數(shù)據(jù)庫(kù)層面之中形成動(dòng)態(tài)趨勢(shì),而是在整體的數(shù)據(jù)管理中,利用自動(dòng)化和區(qū)塊化的技術(shù)將必要數(shù)據(jù)進(jìn)行細(xì)分和篩選,讓數(shù)據(jù)保持新鮮度,去除舊數(shù)據(jù)的影響。

3動(dòng)態(tài)數(shù)據(jù)分析以求穩(wěn)

動(dòng)態(tài)數(shù)據(jù)分析以求穩(wěn)

在采集和分析部分實(shí)現(xiàn)動(dòng)態(tài)后,數(shù)據(jù)分析才是真正的核心存在。毫無(wú)疑問(wèn),數(shù)據(jù)分析的核心是算法和數(shù)據(jù),而在數(shù)據(jù)發(fā)分析時(shí)普遍可以先分為數(shù)據(jù)處理和分析兩個(gè)環(huán)節(jié)。

數(shù)據(jù)分析的算法是十分挑剔的,其對(duì)于不同的數(shù)據(jù)要求不同,一般來(lái)講,結(jié)構(gòu)化數(shù)據(jù)和非結(jié)構(gòu)化數(shù)據(jù)就是典型的不同種類的數(shù)據(jù),其處理方式相差甚遠(yuǎn),因此需要先進(jìn)行數(shù)據(jù)處理,將不同種類的數(shù)據(jù)根據(jù)分析目的進(jìn)行異構(gòu)解析或者壓縮,然后進(jìn)行分析得出指導(dǎo)性理論。

在分析方面,算法對(duì)分析結(jié)果的影響是十分明顯的。從數(shù)據(jù)中根據(jù)分析目的選取不同算法,獲得分析結(jié)果。但是問(wèn)題在于,這種以目的驅(qū)動(dòng)的數(shù)據(jù)分析篩選過(guò)程所去除的數(shù)據(jù)難以確定是否真正的無(wú)關(guān),這就導(dǎo)致最終分析出的結(jié)果很可能是出現(xiàn)偏差的。

此類問(wèn)題的解決普遍采用的是利用算法進(jìn)行分析和精簡(jiǎn)的,單一算法的偏差難以避免,片面數(shù)據(jù)的解析同理。而如果全面分析時(shí),靜態(tài)數(shù)據(jù)難以保持新鮮度,全面分析計(jì)算量過(guò)大而且缺乏針對(duì)性。

數(shù)據(jù)分析面臨挑戰(zhàn)

如果采用動(dòng)態(tài)的實(shí)時(shí)處理手段則可以避免這些問(wèn)題,數(shù)據(jù)及時(shí)的處理后得到結(jié)果作為一種“數(shù)據(jù)”進(jìn)行處理,在需要時(shí)進(jìn)行二次消化,比傳統(tǒng)方式要容易一些。而這種方式的問(wèn)題在于目前的技術(shù)限制可能會(huì)讓實(shí)時(shí)處理結(jié)果依然面臨算法單一的挑戰(zhàn)。

4動(dòng)態(tài)數(shù)據(jù)應(yīng)用以求實(shí)

動(dòng)態(tài)數(shù)據(jù)應(yīng)用以求實(shí)

分析結(jié)果的產(chǎn)出還需要最終用于解決企業(yè)決策才能夠形成價(jià)值。只不過(guò)數(shù)據(jù)分析結(jié)果的應(yīng)用也會(huì)面臨的靜態(tài)的問(wèn)題。

一般來(lái)講,數(shù)據(jù)分析結(jié)果是支持企業(yè)經(jīng)營(yíng)和運(yùn)行發(fā)展方向解決方案的,可是這就意味著前期的巨大投入能夠獲取的成果應(yīng)用范疇卻十分的狹窄,投入產(chǎn)出比過(guò)低導(dǎo)致大多數(shù)企業(yè)對(duì)大數(shù)據(jù)的應(yīng)用很難產(chǎn)生興趣。

數(shù)據(jù)可視化僅僅只是一部分

而想要讓大數(shù)據(jù)發(fā)揮更大的價(jià)值,數(shù)據(jù)可視化僅僅是其中的一部分。企業(yè)中應(yīng)當(dāng)把數(shù)據(jù)分析結(jié)果實(shí)現(xiàn)流動(dòng),將適合的數(shù)據(jù)在不同部門不同崗位中進(jìn)行傳遞,最大化發(fā)揮數(shù)據(jù)價(jià)值,提升企業(yè)業(yè)務(wù)效率。

再者,動(dòng)態(tài)數(shù)據(jù)應(yīng)用應(yīng)該降低數(shù)據(jù)分析門檻,借助相關(guān)大數(shù)據(jù)分析工具,讓每個(gè)員工有數(shù)據(jù)可用,能數(shù)據(jù)分析,以數(shù)據(jù)指導(dǎo)員工發(fā)展,幫助員工接近真實(shí)數(shù)據(jù),運(yùn)用數(shù)據(jù)指導(dǎo),實(shí)現(xiàn)自身價(jià)值。

大數(shù)據(jù)自從提出以來(lái)一直在不斷的發(fā)展之中,而靜態(tài)的數(shù)據(jù)只能如一潭死水,價(jià)值極低,唯有讓各個(gè)環(huán)節(jié)動(dòng)起來(lái),才能讓數(shù)據(jù)成為金子。

極客網(wǎng)企業(yè)會(huì)員

免責(zé)聲明:本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說(shuō)明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。

2017-10-23
動(dòng)不起來(lái)的大數(shù)據(jù)都是發(fā)酵中的垃圾
作者:賈凱強(qiáng) 1動(dòng)態(tài)數(shù)據(jù)采集以求真 大數(shù)據(jù)的概念炒作一向厲害,很多公司有著海量的數(shù)據(jù)流,有著大把的客戶和資金,技術(shù)也足以進(jìn)行處理大數(shù)據(jù),但是大數(shù)據(jù)之所以能夠

長(zhǎng)按掃碼 閱讀全文