國產(chǎn)化邊緣推理首選 高性價比AI盒子——比特大陸SE5 AI計算盒

人工智能、機器深度學(xué)習(xí)技術(shù)的發(fā)展和應(yīng)用使圖像識別技術(shù)獲得了關(guān)鍵性的突破,不同應(yīng)用場景的圖像識別率已經(jīng)可以滿足各方面的應(yīng)用要求,并開始逐步應(yīng)用于身份識別、商品識別、金融支付、安全防范、智能安檢等諸多領(lǐng)域,呈現(xiàn)出高速發(fā)展勢態(tài),使視頻監(jiān)控系統(tǒng)的功能和效能出現(xiàn)質(zhì)的飛躍,而這些智能功能的實現(xiàn)都離不開算力的支持。

主流的智能運算如果全部依賴云端大規(guī)模GPU服務(wù)器集群,其高昂的運營成本就會讓大多用戶無法承擔(dān)。邊緣計算作為5G和高清時代非常重要的網(wǎng)絡(luò)組成部分,主要價值在于減少超大流量對網(wǎng)絡(luò)的消耗,同時為各種應(yīng)用提供低延時和開放的網(wǎng)絡(luò)能力。相比于傳統(tǒng)集中部署的云計算,邊緣計算在靠近數(shù)據(jù)源或用戶的地方提供計算能力不失為明智的選擇。a&s本次測試的比特大陸SE5 AI計算盒是基于芯片和模組,但比模組形態(tài)的產(chǎn)品面向場景更加廣泛的高性能、低功耗邊緣計算產(chǎn)品,搭載比特大陸自主研發(fā)的第三代TPU芯片BM1684,INT8算力高達(dá)17.6TOPS,可同時處理16路高清視頻,為諸多安防、泛安防、教育、金融、安檢、雪亮工程等行業(yè)項目智能運算提供算力。

國產(chǎn)化邊緣推理首選 高性價比AI盒子——比特大陸SE5 AI計算盒

工業(yè)級標(biāo)準(zhǔn)設(shè)計

比特大陸SE5 AI計算盒尺寸只有188mm×148mm×44.5mm(長×寬×高),小巧嚴(yán)謹(jǐn),盒子上部有工業(yè)級散熱齒, 可適應(yīng)工作溫度為-20℃ ~ +60℃(具體視配置而定),工業(yè)級寬溫設(shè)計,可以適應(yīng)嚴(yán)苛的工作環(huán)境,在復(fù)雜條件下進(jìn)行邊緣側(cè)智能分析。

該設(shè)備包含USB3.1×2、 MicroSD ×1 、 HDMI ×1、 RS-232×1 、RS-485 ×1、I/O ×4、自適應(yīng)10/100/1000Mbps網(wǎng)口×2等接口,接口豐富,使得產(chǎn)品可以面向的場景更加豐富、靈活。內(nèi)置12GB內(nèi)存,市場上的同類產(chǎn)品基本為8GB,可以說是高規(guī)格配置。

國產(chǎn)化邊緣推理首選 高性價比AI盒子——比特大陸SE5 AI計算盒

無線傳輸 部署靈活

比特大陸SE5 AI計算盒內(nèi)置4G卡槽,支持LTE無線回傳,在網(wǎng)絡(luò)布線不方便的室內(nèi)外環(huán)境,可以直接使用無線傳輸,方便用戶便捷安裝部署。

計算盒內(nèi)置SATA接口,用戶可以直接添加硬盤,可靈活應(yīng)用在小型利舊項目或者有存儲需求的小型安防項目中。目前市場上的同類的AI計算盒大多不具備存儲功能,而具有存儲功能的盒子又體積較大,部署不夠靈活方便。比特大陸SE5 AI計算盒子在外觀、體積、算力性能優(yōu)異的情況下,還可以外接硬盤的設(shè)計,非常便于用戶未來應(yīng)用的擴容,優(yōu)勢不言而喻。

算力優(yōu)勢明顯

AI計算的核心是芯片,邊緣計算盒產(chǎn)品的主芯片選定后,其計算能力基本可以確定,比特大陸SE5 AI計算盒是基于其自主研發(fā)的BM1684芯片,比特大陸深耕芯片產(chǎn)品多年,BM168X系列芯片已經(jīng)第三次流片,經(jīng)過了充分的市場檢驗,滿足所有邊緣側(cè)推理需求。

算力作為最為主要的AI芯片評判標(biāo)準(zhǔn),只看廠家的標(biāo)稱算力并不能準(zhǔn)確的去評定產(chǎn)品。在實際的應(yīng)用中,標(biāo)稱只能作為輔助的判斷尺,采用標(biāo)準(zhǔn)算法模型進(jìn)行圖片分析,實際的圖片分析能力對用戶來說才是實實在在的收益。

a&s本次測試采用業(yè)界標(biāo)準(zhǔn)測試模型,因各個芯片支持的量化精度不同,有FP32、 INT16、INT8等。這里采用各顆芯片同時支持的INT8做橫向?qū)Ρ取T紨?shù)據(jù)即是在常見標(biāo)準(zhǔn)模型下的實測結(jié)果。將BM1684與TX2、Hi3559A、Atlas200等市場常見芯片對比測試,實測測試結(jié)果如下。

國產(chǎn)化邊緣推理首選 高性價比AI盒子——比特大陸SE5 AI計算盒

國產(chǎn)化邊緣推理首選 高性價比AI盒子——比特大陸SE5 AI計算盒

Mobilenet是輕量級模型,針對產(chǎn)品主要應(yīng)用在手機或者移動端較多,目前數(shù)據(jù)可以超過2500張/秒。Resnet 50典型模型測試中,圖片處理達(dá)到914.9張/秒。從評測對比數(shù)據(jù)來看,BM1684的處理能力普遍超過Atlas200 50%以上,而與其上一代的Hi3559A相比,更是超出其處理能力5倍以上。正是得益于強大的算力,所以SE5 AI計算盒才能在典型人臉識別算法下做到至少實時16路全流程比對。

目前業(yè)界許多AI產(chǎn)品標(biāo)稱的AI分析路數(shù)一般只是指人臉檢測,并不包含圖像識別功能,而比特大陸的單路計算包含了人臉檢測,人臉特征值提取和識別、人臉比對,即人臉全流程比對。

性價比之王 單路AI成本最低

國產(chǎn)化邊緣推理首選 高性價比AI盒子——比特大陸SE5 AI計算盒

從TX2、Hi3559A、Atlas200、BM1684四種市場常見芯片對比測試結(jié)果來看,不同的測試模型,BM1684與TX2相比有5.4-22.9倍級別的性能優(yōu)勢。相比Atlas200,雖然理論峰值標(biāo)稱算力BM1684和Atlas200很接近(17.6T vs 16T),但是從實測來看,BM1684的性能倍數(shù)在最典型Resnet 152上有1.4倍的優(yōu)勢,在Mobilenet上有2.36倍的優(yōu)勢!這說明,標(biāo)稱算力和實際獲得的算力具有一定的差別。BM1684具有較高的有效計算利用率。相應(yīng)的,基于BM1684芯片的比特大陸SE5 AI計算盒實際有計算有效利用率也在同等水平。

在以上公開測試數(shù)據(jù)中,與業(yè)界主流的AI盒子相比,INT8的算力在同類產(chǎn)品中可以說達(dá)到最高。結(jié)合產(chǎn)品性能和價格,比特大陸SE5 AI計算盒的單路成本競爭力強大,可以稱為業(yè)內(nèi)性價比之最。

除了算力、功耗,量化精度是另外一個重要評判指標(biāo),精度降低后,在有限的芯片面積下可以得到更大的算力,比特大陸的AI計算盒采用自研芯片是產(chǎn)品在實際應(yīng)用中能夠發(fā)揮更大作用的原因。

軟件生態(tài)完備 百度認(rèn)證授權(quán)合作

對于AI芯片來講,更需要為開發(fā)者提供完備,可靠的工具鏈和系統(tǒng)軟件。比特大陸在這個領(lǐng)域耕耘多年,隨著AI芯片已經(jīng)發(fā)展到第三代,相應(yīng)的工具鏈也非常成熟,所有的產(chǎn)品線保持統(tǒng)一的編譯工具鏈,經(jīng)過多個合作客戶檢驗。

市面上常見的AI計算盒劣勢就在于支持的框架少,比特大陸SE5 AI計算盒采用的芯片支持Tensorflow、PyTorch、MXNet、 Caffe等多種深度學(xué)習(xí)框架,同時對于國產(chǎn)深度學(xué)習(xí)框架,也有完善的支持。2020年3月24日,百度宣布,比特大陸的算豐BM168x系列AI芯片,已經(jīng)通過百度飛槳的輕量化推理引擎Paddle Lite的兼容性驗證。這意味著百度所有生態(tài)合作伙伴可以直接采用百度框架和算法移植,不存在任何兼容性問題。目前國家政策支持硬件、軟件的國產(chǎn)化,百度Paddle深度學(xué)習(xí)框架是國產(chǎn)化中具有優(yōu)勢的企業(yè),比特大陸與百度合作,實現(xiàn)軟硬件的同時國產(chǎn)化,在國內(nèi)具有發(fā)展優(yōu)勢。

比特大陸SE5 AI計算盒隨機配套BMNNSDK一站式工具包,提供底層驅(qū)動環(huán)境、編譯器、推理部署工具等一系列軟件工具。幫助開發(fā)者快速高效的在SE5上部署深度學(xué)習(xí)算法應(yīng)用。BMNNSDK最大程度降低算法和軟件的開發(fā)周期和成本,使用者能快速在算豐各系列AI硬件產(chǎn)品上部署深度學(xué)習(xí)算法,便捷實現(xiàn)智能應(yīng)用。

應(yīng)用領(lǐng)域廣泛

比特大陸SE5 AI計算盒是基于邊緣計算的小微型服務(wù)器,不論算法類型,基本可以支持各個行業(yè)的算法,通過完備的生態(tài)方便用戶將訓(xùn)練好的模型移植,不光支持人臉識別算法模型,還支持?jǐn)?shù)十種輔助模型,所以面向場景非常廣泛。可以應(yīng)用在園區(qū)、社區(qū)、商業(yè)樓宇等室內(nèi)外場景,以及集成類室外半封閉場景,不需要依托X86架構(gòu)服務(wù)器,充分利用其內(nèi)部ARM資源,直接獨立一體化開發(fā)應(yīng)用。

該計算盒的算力性能高,市場競爭力強,但同樣保留了一部分高精度的算力。在需要高精度算力的場景,保留了高精度優(yōu)勢,如動態(tài)視覺無人零售柜、智慧冰箱系統(tǒng)中商品識別等。SE5實際可應(yīng)用場景如,作為邊緣人臉服務(wù)器布置在園區(qū),進(jìn)行園區(qū)通行識別比對或園區(qū)監(jiān)控;在智慧食堂進(jìn)行人臉支付;在家校互聯(lián)系統(tǒng)做學(xué)生人臉識別;在學(xué)校宿舍系統(tǒng)做出入管理;在餐飲系統(tǒng)中植入菜品識別算法進(jìn)行菜品結(jié)算;替代傳統(tǒng)安檢人員識圖,機器判圖準(zhǔn)確度更高、降低安檢員培訓(xùn)成本,通行速度更快,實現(xiàn)智能輔助安檢??梢灾踩氲乃惴P投喾N多樣,從而實現(xiàn)應(yīng)用場景的多樣化。

產(chǎn)品特色

1. 強勁算力:高達(dá)17.6T的INT8峰值算力或2.2T的FP32高精度算力。

2. 超高性能:16路高清視頻處理能力,38路1080P硬件解碼與2路編碼。

3. 快速移植:支持Caffe/TensorFlow/Pytorch/Mxnet/Paddle Lite等主流深度學(xué)習(xí)框架。

4. 接口豐富:持USB、HDMI、RS-485、RS-232、SATA、自定義I/O等多種接口

5. 寬溫設(shè)計:適應(yīng)溫度-20℃至+60℃。支持無風(fēng)扇被動散熱。

6. 應(yīng)用場景豐富:支持智慧園區(qū)/安防/工控/商業(yè)等多領(lǐng)域多場景靈活部署。

點評

人工智能的需求貫穿了從端邊云到整個網(wǎng)絡(luò),基于視覺的人工智能應(yīng)用場景最豐富、市場需求最旺盛,而邊緣端的計算需求又比云端多一個數(shù)量級,所以安全和實時響應(yīng)的邊緣端智能分析成為發(fā)展的必然趨勢。

比特大陸在芯片行業(yè)深耕多年,BM168X系列經(jīng)受住了市場的考驗,SE5 AI計算盒是基于第三代TPU芯片BM1684研發(fā)的AI產(chǎn)品,更是具有了這個芯片的特性。INT8算力高達(dá)17.6TOPS,在具有高算力的同時保持了低功耗、被動式散熱、接口豐富、軟件生態(tài)完備等優(yōu)勢,算法移植便捷,不光支持人臉識別算法模型,還支持?jǐn)?shù)十種輔助模型,所以可面向應(yīng)用場景非常廣泛,是一款性價比非常高的邊緣智能分析設(shè)備。

主要規(guī)格參數(shù)

國產(chǎn)化邊緣推理首選 高性價比AI盒子——比特大陸SE5 AI計算盒

(免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請進(jìn)一步核實,并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負(fù)任何法律責(zé)任。
任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時,應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實,溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 )