數(shù)益工聯(lián)如何運用 TiDB 挖掘工業(yè)數(shù)據(jù)價值?

制造業(yè)是一個古老而悠久的行業(yè),它的起源最早可追溯到石器時代。從新石器時代簡單的工具,到今天復雜的智能工廠,制造業(yè)歷經(jīng)千年發(fā)展,蛻變成了由技術驅(qū)動的創(chuàng)新行業(yè),充滿各種自動化流程、始終互連的設備和數(shù)據(jù)豐富的流程。

“離散型”制造業(yè)面臨數(shù)據(jù)挑戰(zhàn)

在制造業(yè)中,通常有著“流程型”和“離散型”兩種區(qū)分。“流程型”是指被加工對象不間斷地通過生產(chǎn)設備,通過一系列的加工裝置使原材料進行化學或物理變化,最終得到產(chǎn)品。典型的流程生產(chǎn)制造業(yè)有醫(yī)藥、化工、石油化工、電力、鋼鐵制造、能源、水泥等領域。“離散型”制造,則是指材料的生產(chǎn)過程通常被分解為多項加工任務。典型的離散制造行業(yè)主要包括機械制造、電子電器、航空制造、汽車制造等行業(yè)。

在整個離散制造業(yè)的現(xiàn)場有著太多的生產(chǎn)、物料、工藝以及人員數(shù)據(jù)。以前,離散制造業(yè)往往只能通過人工上報、手動填單等方式來進行數(shù)據(jù)收集。對于管理層而言,這些數(shù)據(jù)往往是不透明的、不準確的,或是滯后延遲的。離散制造企業(yè)本身從業(yè)務到管理,都亟需通過數(shù)字化進行優(yōu)化和提升。

如何解決“離散型”制造業(yè)的數(shù)據(jù)挑戰(zhàn)?

工業(yè)數(shù)字化軟件供應商數(shù)益工聯(lián),致力于打造基于“數(shù)據(jù)流+價值流”的離散制造業(yè)數(shù)字化軟件。數(shù)益工聯(lián)團隊以IE+IT為核心能力,實現(xiàn)產(chǎn)品和技術的雙輪驅(qū)動,已在十多個行業(yè)落成全球領先的數(shù)字標桿工廠公司。公司至今已獲得華創(chuàng)資本、高瓴創(chuàng)投、元生資本等知名機構的風險投資,累計融資額數(shù)億元,在上海、蘇州、廣州三地設有子公司,打造跨區(qū)域全國服務平臺。

數(shù)益工聯(lián)數(shù)字工廠系統(tǒng)(DFS,Digital Factory System)應用新一代的物聯(lián)網(wǎng)技術與豐富的現(xiàn)場交互手段,獲取工廠現(xiàn)場最實時、最真實、最有效的數(shù)據(jù),不僅包含設備狀態(tài)、設備異常數(shù)據(jù)、設備生產(chǎn)數(shù)據(jù)等設備 IOT 數(shù)據(jù),還包含人員的交互使用數(shù)據(jù),如計劃報工、工藝、倉儲物流、質(zhì)檢等核心生產(chǎn)管理業(yè)務的數(shù)據(jù)等。對管理層而言,通過數(shù)益工聯(lián)數(shù)字工廠系統(tǒng),可以直觀看到清晰、直接的報表,從中發(fā)現(xiàn)數(shù)據(jù)的價值,繼而深入分析并采取行動,優(yōu)化制造現(xiàn)場。

數(shù)益工聯(lián)數(shù)字化工廠架構面臨的挑戰(zhàn)

數(shù)益工聯(lián)數(shù)字化工廠架構圖

從架構上看,數(shù)益工聯(lián)數(shù)字化工廠主要分為四層:

第一層為物聯(lián)層,包括硬件和軟件兩部分。硬件主要為數(shù)益工聯(lián)自研的智能終端,軟件包括邊緣應用和物聯(lián)平臺。其中應用主要具備設備參數(shù)的采集、人臉識別等功能,以上應用均運行于智能終端。物聯(lián)平臺則主要承擔設備管理、配置和升級的相關工作。

第二層為應用層,包括 IOT 數(shù)據(jù)服務、核心服務、低代碼平臺。IOT 數(shù)據(jù)服務是接受物聯(lián)上報數(shù)據(jù),計算設備開機率,異常等設備相關的服務,同時也是其他業(yè)務的數(shù)據(jù)源頭;核心服務包括了計劃報工、質(zhì)量等數(shù)字化工廠服務;低代碼平臺主要包括了報表的可視化平臺、流程編排等功能。

第三層為大數(shù)據(jù)層,分成了大數(shù)據(jù)和算法兩個部分。大數(shù)據(jù)應用包括了成本控制、APS、工藝大數(shù)據(jù);算法包括了人臉識別、時序分析等算法。

第四層為基礎架構層,作為基礎設施提供其他業(yè)務使用。主要包括了存儲、數(shù)據(jù)庫、中間件和云原生等部分。

數(shù)字工廠的數(shù)據(jù)源頭主要包括兩部分:

第一部分是 IOT 事件,包括了設備的開關機,物聯(lián)采集、異常等數(shù)據(jù),這部分數(shù)據(jù)通過 mqtt 上傳到 IOT 服務進行處理,同時會推送到隊列中,方便后續(xù)的計算和存儲;

另一部分是業(yè)務產(chǎn)生的數(shù)據(jù),包括了計劃報工、上下班等產(chǎn)生業(yè)務數(shù)據(jù),主要通過 http 進行上傳和展示。業(yè)務數(shù)據(jù)會直接存放到數(shù)據(jù)庫中,同時將數(shù)據(jù)推送到隊列中。

數(shù)據(jù)存儲主要采用了 TiDB 和 Starrocks 兩個數(shù)據(jù)庫,除了時序相關的數(shù)據(jù),業(yè)務數(shù)據(jù)都存放在了 TiDB 中。

隨著數(shù)益工聯(lián)業(yè)務規(guī)模的不斷增長,數(shù)據(jù)量變得愈發(fā)龐大,對于數(shù)據(jù)庫的穩(wěn)定性也提出了更高的要求:

1、多數(shù)業(yè)務數(shù)據(jù)需要支持秒級延時,因此需要數(shù)據(jù)庫具有很高的并發(fā)能力;隨著業(yè)務的增長,數(shù)據(jù)量也會越來越大,需要數(shù)據(jù)庫具有良好的拓展性;

2、隨著數(shù)據(jù)量的增大,報表制作成本和難度變大,無法保證實時性。

為解決業(yè)務系統(tǒng)的性能瓶頸,提高數(shù)據(jù)庫的性能問題,數(shù)益工聯(lián)選擇了 TiDB 這一新型分布式數(shù)據(jù)庫實現(xiàn)重構。

數(shù)益工聯(lián)研發(fā)團隊在實踐過程發(fā)現(xiàn),TiDB 許多優(yōu)勢正好可以滿足數(shù)益工聯(lián)的需求:

TiDB 兼容性強,在實踐的過程中幾乎沒有遇到過不兼容的問題,除了少數(shù)默認編碼的問題。

支持云原生部署,可以通過 Kubernetes operator 來快速部署TiDB集群,具有完善的配套監(jiān)控功能。

能夠?qū)崿F(xiàn)自動化水平擴容,支持高可用,運維無需手動接入,極大地降低了運維成本。

支持 AP,TiDB 支持 TiFlash,降低部署復雜度,TiFlash 在億級別數(shù)據(jù)的查詢中,通常能達到 5 倍的加速。

TiDB如何助力數(shù)益工聯(lián)挖掘價值數(shù)據(jù)?

那么,數(shù)益研發(fā)團隊是如何使用 TiDB 實現(xiàn)對于工業(yè)數(shù)據(jù)的價值挖掘的?以工廠運轉(zhuǎn)效率的重要指標設備開機率為例,對于工廠而言,設備的開機率與生產(chǎn)效率息息相關,能否實時獲取開機率,機器是否實現(xiàn)了高效且合理的運轉(zhuǎn)非常重要。數(shù)益工聯(lián)團隊通過 TiDB 實現(xiàn)了以下功能:

開關機記錄:一條開機記錄表示記錄單個設備的一次開機時間和關機時間。這種記錄表,由于數(shù)據(jù)量過大,現(xiàn)在主要放在ES中。

開機率:表示在一段時間內(nèi)的開機時間的占比,延時需要精確到秒級,這種數(shù)據(jù)現(xiàn)在轉(zhuǎn)換成時序的數(shù)據(jù)存放在 Starrocks,同時創(chuàng)建物化視圖,加速時間跨度大的查詢。

但隨著時間增長,團隊也遇到了以下問題:一是開機記錄和開機率數(shù)據(jù)不同源,導致數(shù)據(jù)容易不一致;二是Starrocks 存儲量大,占用了大量的計算和存儲資源。

因此,數(shù)益工聯(lián)數(shù)據(jù)團隊對于開機率進行了第三次改造:Starrocks 不再保存開機率的時序數(shù)據(jù)。時序數(shù)據(jù)量比較大,容易出現(xiàn)異常,導致數(shù)據(jù)不一致。數(shù)益工聯(lián)一方面將開機記錄存放在 TiDB 中;另一方面通過開機記錄來計算出開機率。

原先 ES 同步寫入容易引發(fā)業(yè)務寫入超時的問題,這次改造解決了 ES 數(shù)據(jù)寫入延時的問題,同時,也減少了 Starrocks 的存儲資源的占用。這次改造使得在在100 臺設備的應用場景中,一年能減少百 GB 級別的Starrocks 存儲;充分利用了 TiDB 的 HTAP 能力,通過 TiDB 的 HTAP 直接對開機記錄進行聚合查詢,降低了業(yè)務復雜度,給業(yè)務開發(fā)提供了很大的便利性。目前,TiDB 在線上運行表現(xiàn)十分穩(wěn)定。

改造 TiFlash,實現(xiàn) TiDB 物化功能

與此同時,數(shù)益工聯(lián)研發(fā)團隊也在進行一些定制化的改造。由于業(yè)務需要支持任意時間段查詢開機率的能力,因此需要按天對數(shù)據(jù)進行預聚合,但TiDB 不支持物化能力,需要借助業(yè)務邏輯來實現(xiàn),加大了業(yè)務實現(xiàn)復雜度。隨著業(yè)務預聚合的需求越來越多,數(shù)益工聯(lián)研發(fā)團隊決定對 TiFlash 進行改造,實現(xiàn) TiDB 物化功能:

1、每個基表根據(jù)物化語句生成物化表。

2、基表以分區(qū)為粒度進行聚合,當數(shù)據(jù)到達一定時間的策略的時候,會把整個分區(qū)進行聚合,放到物化表分區(qū)中。

3、查詢引擎自動判斷是否使用基表分區(qū)還是物化分區(qū)。

4、在和Tiflash團隊的交流中發(fā)現(xiàn),需要解決重復計算的問題,因此數(shù)據(jù)需要多副本去重計算。

目前,在數(shù)益初步的單副本測試中,雖然還存在一些問題需要修復,但能看到 TiFlash 的物化功能展現(xiàn)了很大的潛力,相信將在未來多業(yè)務場景下發(fā)揮重要作用。

數(shù)據(jù)庫在制造業(yè)中扮演著至關重要的角色,它們?yōu)楣S提供了強大的信息管理能力,幫助工廠更好地挖掘數(shù)據(jù)的價值。TiDB 可以幫助制造業(yè)處理海量數(shù)據(jù),提供高效的查詢性能,我們也期待幫助更多制造業(yè)用戶完成數(shù)字化轉(zhuǎn)型,從而提升企業(yè)的競爭力與效率。

(免責聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性,但不保證有關資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏,概不負任何法律責任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權或存在不實內(nèi)容時,應及時向本網(wǎng)站提出書面權利通知或不實情況說明,并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關文章源頭核實,溝通刪除相關內(nèi)容或斷開相關鏈接。 )