淺談AI跑分機(jī)制，蘇黎世ETHZ測(cè)試軟件解讀

智能手機(jī)技術(shù)正迎來(lái)摩爾定律的發(fā)展瓶頸，移動(dòng)處理器的性能增長(zhǎng)越來(lái)越慢，但用戶(hù)對(duì)計(jì)算能力的需求增速卻并未減緩，甚至在人工智能、大數(shù)據(jù)、物聯(lián)網(wǎng)等興起后，對(duì)計(jì)算能力、計(jì)算功耗和計(jì)算成本反而有了新的要求。目前單純的CPU或GPU性能已經(jīng)無(wú)法滿(mǎn)足新型運(yùn)算的需求，而隨著移動(dòng)AI時(shí)代的到來(lái)，AI芯片也成為突破摩爾定律的希望，但AI芯片的性能有多強(qiáng)，目前的評(píng)判標(biāo)準(zhǔn)也大不相同。

以往說(shuō)到對(duì)一款芯片的性能評(píng)判，最簡(jiǎn)單粗暴的方式就是借助于跑分軟件，例如知名的GeekBench、3DMark、安兔兔、魯大師等，這些性能測(cè)試軟件在曾經(jīng)的CPU+GPU協(xié)作時(shí)代聞名遐邇，一度成為對(duì)性能評(píng)估的直觀工具。但是面對(duì)AI芯片復(fù)雜而不斷迭代的運(yùn)算模型和跳出傳統(tǒng)框架的算力邏輯，使得傳統(tǒng)測(cè)試軟件對(duì)AI芯片的測(cè)試方法追趕已顯得力不從心。

例如近期聯(lián)發(fā)科推出的全新Helio P90單系統(tǒng)SoC解決方案，這款芯片在AI方面為用戶(hù)展現(xiàn)了極強(qiáng)的算力，憑借APU 2.0的運(yùn)算加速，該芯片的綜合跑分?jǐn)?shù)據(jù)高達(dá)25645分，一舉超過(guò)了高通驍龍855平臺(tái)的22082分，大勝同級(jí)別的其他競(jìng)爭(zhēng)對(duì)手，引起業(yè)界震動(dòng)。而隨著跑分?jǐn)?shù)據(jù)的公布，一個(gè)很少為人知的專(zhuān)用AI跑分軟件ETHZ AIBenchmark(也被稱(chēng)之為蘇黎世跑分)也浮出了水面。

　　聯(lián)發(fā)科P90在蘇黎世跑分軟件中擊敗競(jìng)爭(zhēng)對(duì)手，實(shí)現(xiàn)AI性能領(lǐng)先。(圖/網(wǎng)絡(luò))

這款針對(duì)AI芯片的跑分軟件由有著“歐陸第一名校”之稱(chēng)的蘇黎世聯(lián)邦理工學(xué)院研發(fā)，該校所屬的人工智能實(shí)驗(yàn)室在全球機(jī)器視覺(jué)、深度學(xué)習(xí)和機(jī)械工程等方面都有著深厚的積累，培養(yǎng)出了無(wú)數(shù)人工智能領(lǐng)域的人才。而這款A(yù)I跑分軟件也是其在針對(duì)性測(cè)試領(lǐng)域的集大成之作，因?yàn)閷?duì)AI的綜合能力有一個(gè)準(zhǔn)確的判斷受到了業(yè)內(nèi)的認(rèn)可，包括華為P20、iPhone X等同樣鎖定AI的手機(jī)均非?？粗羞@款測(cè)試軟件的得分表現(xiàn)。

相比于傳統(tǒng)的跑分測(cè)試軟件，蘇黎世聯(lián)邦理工學(xué)院研發(fā)的這款A(yù)IBenchmark在對(duì)AI的評(píng)測(cè)上可以說(shuō)是與眾不同。例如為了確定智能手機(jī)是否功能強(qiáng)大，且能否以快速運(yùn)行最新的深度神經(jīng)網(wǎng)絡(luò)來(lái)執(zhí)行基于AI的任務(wù)，它就提供了8大項(xiàng)的核心測(cè)試環(huán)節(jié)：

MobileNet-V1神經(jīng)網(wǎng)絡(luò)的目標(biāo)識(shí)別/分類(lèi)

對(duì)象識(shí)別/初始分類(lèi)-V3神經(jīng)網(wǎng)絡(luò)

人臉識(shí)別

圖像去模糊

基于CPU、NPU、DSP的VG-19神經(jīng)網(wǎng)絡(luò)圖像超分辨率

僅在CPU上的SRGAN神經(jīng)網(wǎng)絡(luò)的圖像超分辨率

語(yǔ)義圖像分割

照片增強(qiáng)

AI基準(zhǔn)測(cè)試中使用到的深度學(xué)習(xí)模型的特征總結(jié)(圖/網(wǎng)絡(luò))

相比于傳統(tǒng)的跑分測(cè)試軟件來(lái)說(shuō)，這8大測(cè)試環(huán)節(jié)基本上已經(jīng)可以覆蓋到目前大部分的AI實(shí)踐運(yùn)算，例如AI物體識(shí)別(測(cè)試1/2/3)、AI影像分類(lèi)(測(cè)試7)、AI圖像增強(qiáng)(測(cè)試4/5/6/8)等，而它為了完整發(fā)揮平臺(tái)的AI算力，它不只支持Android神經(jīng)網(wǎng)絡(luò)API，也可以支持芯片廠商定制的程序，以充分調(diào)動(dòng)芯片廠商CPU、GPU、ISP等多個(gè)硬件進(jìn)行協(xié)同處理。

例如在針對(duì)聯(lián)發(fā)科P90的AI算力測(cè)試部分，蘇黎世的跑分機(jī)制就將其分為了三組，第一組(測(cè)試1，2，3項(xiàng)目)中，將使用完全由Android神經(jīng)網(wǎng)絡(luò)API(NNAPI)支持的CNN模型，測(cè)試會(huì)對(duì)移動(dòng)設(shè)備進(jìn)行硬件加速，主要測(cè)試的部分圍繞著視覺(jué)感知來(lái)進(jìn)行，包括常見(jiàn)的目標(biāo)識(shí)別、目標(biāo)分類(lèi)和人臉識(shí)別等抽象級(jí)圖形部分。但為達(dá)到這一環(huán)節(jié)的測(cè)試需要芯片組有每秒10到100G的MACs(每秒乘累加次數(shù))的運(yùn)算能力，基本上目前大部分的設(shè)備都可以完成這一部分的操作。

第二組(測(cè)試7)真要針對(duì)的是圖形語(yǔ)言分割部分。與第一組的圖像分類(lèi)相比，這部分主要是獲得像素級(jí)圖像理解以方便后期的分割動(dòng)作，這項(xiàng)測(cè)試意味著每個(gè)像素必須被獨(dú)立歸類(lèi)，例如行人、家具、道路，天空，植被等，此外還必須進(jìn)行圖形的主題深度估計(jì)和運(yùn)算估計(jì)，這部分基本上要求到50到500G MACs的運(yùn)算能力，考慮一般低性能的設(shè)備很難實(shí)現(xiàn)快速準(zhǔn)確的分割設(shè)計(jì)，所以這部門(mén)對(duì)算力其實(shí)已經(jīng)有了很高的要求。

第三組(測(cè)試4、5、6、8)則是使用CNN結(jié)構(gòu)(Convolutional Neural Network，卷積神經(jīng)網(wǎng)絡(luò)技術(shù)，即基于深度學(xué)習(xí))的端到端的超分辨率算法SRCNN(Super-Resolution)進(jìn)行的圖形像素化部分，主要測(cè)試的部分包括圖形去模糊、多元化的圖像超分辨率和圖形增強(qiáng)，目前傳統(tǒng)的手動(dòng)編碼框架對(duì)物體識(shí)別的精度基本上都沒(méi)有超過(guò)74%，而2012年引入的深度神經(jīng)網(wǎng)絡(luò)(DNNS)則將這一準(zhǔn)確率提高到84%，不過(guò)在微軟、Google等企業(yè)的推動(dòng)下，這部分的準(zhǔn)確率已經(jīng)高達(dá)96%，不僅遠(yuǎn)超出人類(lèi)的辨別能力，而且也大幅改善了AI的實(shí)用能力。

不過(guò)由于這個(gè)部分中ResNet架構(gòu)和CNN將會(huì)發(fā)揮重大的作用，由于涉及到圖片的重構(gòu)、模擬、訓(xùn)練和補(bǔ)充，不僅需要消耗極大量的浮點(diǎn)運(yùn)算和視覺(jué)還原(涉及在GPU或特制AI加速器上運(yùn)行神經(jīng)網(wǎng)絡(luò))，還對(duì)設(shè)備在CPU、GPU、NPU(APU)等提出了相當(dāng)大的協(xié)作處理能力，通常要求每秒高達(dá)200-5000 GMACs的運(yùn)算能力，如果不是定位高端芯片或設(shè)備基本很難完成這一項(xiàng)，而聯(lián)發(fā)科P90最終也以其高達(dá)1127 GMACs的算力，在這一領(lǐng)域取得第一的優(yōu)異成績(jī)。

從ETHZ蘇黎世AI Benchmark的工作機(jī)制來(lái)看，目前國(guó)產(chǎn)AI跑分軟件在AI層面似乎就顯得初級(jí)了些，這些跑分軟件目前大部分都僅使用了Inception V3，ResNet 34，VGG16(測(cè)試2、3、5)這三項(xiàng)神經(jīng)網(wǎng)絡(luò)的測(cè)試指標(biāo)，而這三項(xiàng)指標(biāo)雖然也能判別AI識(shí)別圖像的能力，但還只能停在浮點(diǎn)運(yùn)算或者是智能識(shí)圖方面，且基本上都是通過(guò)算法和統(tǒng)計(jì)和評(píng)估AI時(shí)，測(cè)試框架非常單一，對(duì)于AI芯片今后能作為廣泛用途的項(xiàng)目測(cè)試或是較新的算法則根本沒(méi)有涉足，所以目前市面上常見(jiàn)的傳統(tǒng)AI跑分測(cè)試軟件其實(shí)很難客觀的對(duì)AI芯片做出正確評(píng)價(jià)。

雖然ETHZ蘇黎世跑分軟件并不是第一個(gè)測(cè)試AI性能的應(yīng)用，但就目前來(lái)看它確實(shí)是最全面的的AI評(píng)分軟件。它不僅能夠把AI性能測(cè)試細(xì)分為9個(gè)部分進(jìn)行檢測(cè)，大家熟知的智能識(shí)圖僅僅只是其中一項(xiàng)，其他的還包括人臉，圖像降噪，畫(huà)面分割等項(xiàng)目均包含在內(nèi)，不僅實(shí)現(xiàn)了對(duì)主流AI應(yīng)用的測(cè)試，還進(jìn)一步深入到對(duì)AI未來(lái)技術(shù)框架的能力探索評(píng)估中。當(dāng)然更具意義的是，此前人工智能開(kāi)發(fā)主要由PC和服務(wù)器上使用，很少考慮智能手機(jī)操作環(huán)境中的需求，而ETHZ蘇黎世跑分顯然有助于智能手機(jī)廠商對(duì)AI的不斷優(yōu)化。

所以從ETHZ蘇黎世跑分軟件中我們也發(fā)現(xiàn)，聯(lián)發(fā)科Helio P90確實(shí)有其亮點(diǎn)所在，得益于獨(dú)特的AI專(zhuān)核和APU 2.0加速引擎，這款芯片實(shí)現(xiàn)了前所未有的AI算力突破，高達(dá)25645分的成績(jī)不僅位居第一，而且也實(shí)現(xiàn)了對(duì)其競(jìng)爭(zhēng)對(duì)手高通的反擊。另外根據(jù)數(shù)據(jù)顯示，聯(lián)發(fā)科P90的AI 算力高達(dá) 1127GMACs(每秒可操作11270億次定點(diǎn)乘累加次數(shù))，而例如驍龍845的成績(jī)大約是每秒600 GMAC、麒麟970的數(shù)值大概是450 GMAC左右，所以聯(lián)發(fā)科P90在AI領(lǐng)域?qū)嶋H上已經(jīng)走到了行業(yè)前列。

從目前聯(lián)發(fā)科專(zhuān)注AI的策略來(lái)看，這個(gè)思路是對(duì)的。更關(guān)鍵的是，聯(lián)發(fā)科正在以AI體驗(yàn)作為重心點(diǎn)，基于Helio P90的AI算力推出了3D人體姿態(tài)識(shí)別與追蹤、AI焦點(diǎn)直播、AI人像留色、AI降噪夜拍等一系列讓用戶(hù)能感知到的應(yīng)用特性，以用戶(hù)體驗(yàn)取代了傳統(tǒng)的跑分和參數(shù)，不僅顛覆了智能手機(jī)市場(chǎng)的游戲規(guī)則，也讓聯(lián)發(fā)科在新高端的品牌轉(zhuǎn)型之路上站穩(wěn)了腳跟。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。