賦能智慧交通 智芯原動基于英特爾? 架構(gòu)加速車牌識別推理

在智慧交通的整體體系中，車牌識別無疑是基礎(chǔ)性的應(yīng)用之一。車牌識別應(yīng)用要求將靜止或運(yùn)動中的汽車牌照從復(fù)雜背景中提取并識別出來，通過車牌提取、圖像預(yù)處理、特征提取、車牌字符識別等技術(shù)，識別車輛牌號、顏色等信息。車牌識別是自動化交通控制的基礎(chǔ)應(yīng)用，其識別成功率以及準(zhǔn)確率會對交通運(yùn)行效率、收費(fèi)、違規(guī)行為處罰等帶來較大影響。

北京智芯原動科技有限公司*(以下簡稱：智芯原動)是中國領(lǐng)先的人工智能及解決方案提供商，專業(yè)從事人工智能算法和算法芯片的技術(shù)研發(fā)，智能化產(chǎn)品、解決方案的開發(fā)交付，以及智能云服務(wù)的集成，致力于加快人工智能技術(shù)在各個行業(yè)中的應(yīng)用，以提升用戶體驗和工作效率。為了滿足車牌識別的要求，智芯原動推出了深云識車* 平臺，該平臺可準(zhǔn)確識別各類車牌。此外，智芯原動還推出了海外車牌識別解決方案，能夠在少量(>1K)車牌樣本條件下快速迭代，僅需2-4周的交付周期即可實現(xiàn)新國家車牌的開發(fā)任務(wù)，且綜合準(zhǔn)確率可高達(dá)90%-95%。

為了進(jìn)一步提升車牌識別平臺的推理性能，加速面向海外車牌場景的算法訓(xùn)練速度，智芯原動搭載了第二代英特爾® 至強(qiáng)® 可擴(kuò)展處理器與英特爾® OpenVINO™的組合解決方案，并使用了針對英特爾® 架構(gòu)進(jìn)行優(yōu)化的 Caffe* 應(yīng)用，實現(xiàn)了數(shù)十倍的性能提升。

挑戰(zhàn)：海外市場給車牌識別帶來嚴(yán)峻考驗

在互聯(lián)網(wǎng)停車領(lǐng)域，智芯原動除了出入口車牌識別外，還陸續(xù)推出了路邊停車、停車場內(nèi)車位相機(jī)，同時智芯原動也開始進(jìn)入海外停車市場，已經(jīng)在香港、臺灣、澳門、馬來西亞、印尼、泰國、新加坡、越南等多地開始部署，預(yù)計未來3年車牌識別相機(jī)部署量接近百萬臺。在海外車牌識別市場，一個重要的特征是每個國家或地區(qū)在車牌的長寬度、顏色和字符組成上都有著一定的差異，同樣的一套算法無法適用于每個國家與地區(qū)。

要對每個國家與地區(qū)的車牌識別算法進(jìn)行針對性訓(xùn)練，無疑需要本地化的數(shù)據(jù)作為支撐。如果通過傳統(tǒng)的車牌算法，將需要海量的車牌樣本，同時需要長達(dá)數(shù)月的交付周期，才能將車牌識別的準(zhǔn)確率提升到可用的水平。而這一速度，顯然無法滿足快速的市場競爭需求，智芯原動希望能夠基于少量的車牌樣本完成快速的產(chǎn)品部署，這要求其對于算法進(jìn)行不斷創(chuàng)新，同時也要部署更高效的基礎(chǔ)設(shè)施平臺與深度學(xué)習(xí)加速工具。

此外，車牌識別系統(tǒng)本身也對于深度學(xué)習(xí)性能帶來要求。根據(jù)智芯原動的工程師測算，目前單核處理器做一次車款識別需要40ms，按照停車高峰期每10秒一輛車計算，深云識車服務(wù)總共需要1000個4核處理器。一旦再提供公安警用服務(wù)的話，壓力更會成倍增加，因此需要實現(xiàn)更高效的深度學(xué)習(xí)計算能力。

智芯原動面向海外市場的領(lǐng)先算法平臺

面向海外市場的車牌識別需求，智芯原動推出了海外車牌識別解決方案，在技術(shù)上，海外車牌算法的實現(xiàn)是通過車牌提取、字符分割和字符識別三個步驟來搭配完成，即從背景復(fù)雜的含有車牌的圖像中提取出車牌圖像，然后對提取圖像進(jìn)行必要的預(yù)處理、分離出單個字符，接著提取字符的特征并與標(biāo)準(zhǔn)字符進(jìn)行比對，輸出待識別車牌的車牌號碼。智芯原動針對不同的車牌類型會采用不同的車牌定位和字符分割算法，以確保識別的準(zhǔn)確率。

方案最大的亮點即基于自研車牌算法框架，能夠在少量(>1K)車牌樣本條件下快速迭代，僅需2-4周的交付周期即可實現(xiàn)新國家車牌的開發(fā)任務(wù)，且綜合準(zhǔn)確率可高達(dá)90%-95%。目前，該方案已經(jīng)在全球二十幾個國家和地區(qū)實現(xiàn)了規(guī)?；逃谩４送?，方案還具備以下特點：

● 支持二十多個國家與區(qū)域的車牌識別

● 適用卡口、出入口、停車位等場景

● 算法框架采用靈活模型匹配策略和模塊化設(shè)計，在少量樣本下能夠?qū)崿F(xiàn)新國家車牌的開發(fā)和實現(xiàn)

● 算法支持跨平臺設(shè)計，滿足前端相機(jī)、后端服務(wù)器不同方案需求

● 中國團(tuán)隊原廠研發(fā)支持，問題迭代高效，項目需求響應(yīng)及時

在該方案中，智芯原動使用了基于卷積神經(jīng)網(wǎng)絡(luò)深度學(xué)習(xí)的車款識別方法，并通過MobileNet*、GoogleNet* 等拓?fù)浣Y(jié)構(gòu)來實現(xiàn)分類推理優(yōu)化。在智芯原動對車牌識別算法進(jìn)行優(yōu)化之后，有助于在小樣本的前提下實現(xiàn)應(yīng)用的快速開發(fā)及部署。

解決方案：基于英特爾® 架構(gòu)加速推理性能

在基礎(chǔ)設(shè)施架構(gòu)方面，智芯原動面向不同國家及地區(qū)的實際應(yīng)用環(huán)境，推出了不同的參考方案，車牌識別的工作負(fù)載可以靈活的由云數(shù)據(jù)中心，或是邊緣設(shè)備來承載，可以滿足用戶對于延遲、部署成本、網(wǎng)絡(luò)等方面的不同要求。

在服務(wù)器端，智芯原動搭載了第二代英特爾® 至強(qiáng)® 可擴(kuò)展處理器與英特爾® OpenVINO™的組合解決方案。第二代英特爾® 至強(qiáng)® 可擴(kuò)展處理器采用矢量神經(jīng)網(wǎng)絡(luò)指令 (VNNI) 的全新英特爾® 深度學(xué)習(xí)加速功能，提高了人工智能推理的表現(xiàn)，與上一代產(chǎn)品相比，性能有了顯著提升，第二代英特爾® 至強(qiáng)® 可擴(kuò)展處理器有助于在整個數(shù)據(jù)中心到邊緣之間實現(xiàn)充分的 AI 支持。

相較于智芯原動之前所使用的第一代英特爾® 至強(qiáng)® 可擴(kuò)展處理器，第二代英特爾® 至強(qiáng)® 可擴(kuò)展處理器進(jìn)一步提升了性能表現(xiàn)，特別是其支持的 VNNI 等技術(shù)提高了將推理性能提升到新的層次。在具體的應(yīng)用實例中，性能的提升將允許用戶部署更少的節(jié)點，同時支撐更多的推理負(fù)載，實現(xiàn)更低的總體擁有成本 (TCO)。

英特爾® OpenVINO™ 工具套件分發(fā)版則支持開發(fā)人員使用行業(yè)標(biāo)準(zhǔn)人工智能框架、標(biāo)準(zhǔn)或自定義層，將深度學(xué)習(xí)推理輕松集成到應(yīng)用中。通過在底層的英特爾® 至強(qiáng)® 可擴(kuò)展處理器上運(yùn)行，英特爾® OpenVINO™ 工具套件分發(fā)版可實現(xiàn)具有競爭力的推理速度和極低的精度損失。同時，借助 AVX-512 和 MKL/MKL-DNN boost 庫的支持，這一解決方案還可實現(xiàn)卓越的計算性能。

效果：實現(xiàn)接近30倍的性能提升

為了驗證第二代英特爾® 至強(qiáng)® 可擴(kuò)展處理器與英特爾® OpenVINO™ 在不同拓?fù)浣Y(jié)構(gòu)中的推理性能，智芯原動搭建了測試平臺，測試平臺的配置如表1所示2：

在視頻圖像分析推理性能的測試中，測試人員分別測試了在MobileNet、MobileNet-V2、GoogleNet、VGG-16等多個拓?fù)浣Y(jié)構(gòu)中，使用公共版Caffe*、英特爾優(yōu)化版本Caffe，以及OpenVINO™ 的推理性能。測試數(shù)據(jù)如圖1所示，與英特爾優(yōu)化版本 Caffe 相比，使用OpenVINO™ 在 MobileNet 中實現(xiàn)了28.4倍的性能提升1。

同時，在SSD、RPN 檢測推理優(yōu)化的測試中(測試數(shù)據(jù)如圖2所示)，相比帶有 FP32 的英特爾優(yōu)化 Caffe，帶有 SSD-VGG、RPN-VGG 拓?fù)浣Y(jié)構(gòu)且使用 Int8 量化的英特爾優(yōu)化 Caffe 可分別實現(xiàn) 2.58 倍和 2.09 倍的性能提升。

未來：為車輛識別應(yīng)用負(fù)載提供靈活、高效的算力支持

除了車牌識別之外，基于人工智能與深度學(xué)習(xí)技術(shù)的檢測推理還廣泛應(yīng)用于車輛識別的其它場景之中，并用于檢測車輛型號、顏色、大小、位置等用途。這些應(yīng)用負(fù)載在依賴先進(jìn)算法的同時，也對于平臺的算力提出了一定的要求。智芯原動的云端車款識別平臺可識別1600種左右車款，車款信息包括：品牌、型號、年代，識別準(zhǔn)確率超過99%，該平臺同時也可應(yīng)用于警用安防系統(tǒng)、高速公路收費(fèi)等領(lǐng)域的車款識別。

通過與英特爾進(jìn)行合作，智芯原動能夠為車輛識別深度學(xué)習(xí)應(yīng)用提供更加靈活的基礎(chǔ)設(shè)施平臺，如在數(shù)據(jù)中心通過CPU、GPU、FPGA的組合實現(xiàn)深度學(xué)習(xí)異構(gòu)計算，或是在邊緣端部署統(tǒng)一的邊緣計算服務(wù)器，承載車輛、車牌的識別負(fù)載，滿足用戶對于檢測精度、速度等方面的需求，助力智慧交通的實現(xiàn)。

1. 基于英特爾和智芯原動內(nèi)部測試結(jié)果

2. 測試配置：平臺 1 – 英特爾® 至強(qiáng)® 金牌 6140處理器;BIOS 版本(包括微代碼版本：cat /proc/cpuinfo | grep microcode –m1)：SE5C620.86B.00.01.0012.021320180053，總內(nèi)存96 GB(6 個插槽/16 GB/2666MHz);1 個英特爾 960GB 固態(tài)盤操作系統(tǒng)盤;CentOS 7.4.1708，3.10.0-957.10.1.el7.x86_64;平臺 2 -英特爾® 至強(qiáng)® 鉑金 8260處理器;BIOS 版本(包括微代碼版本：cat /proc/cpuinfo | grep microcode –m1)：SE5C620.86B.02.01.0008.031920191559，總內(nèi)存96 GB(6 個插槽/16 GB/2666MHz);1 個英特爾 960GB 固態(tài)盤操作系統(tǒng)盤;Ubuntu 16.04.3 LTS，4.10.0-28-generic

生成海報

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。