GPU、CPU、加速器，英特爾終端側(cè)AI的“三種武器”

AI無處不在。從低至100mW以下的超低功耗應(yīng)用，到望不到邊際的計(jì)算機(jī)集群;從愛奇藝的4K、杜比電影頻道到AI、虎牙直播時(shí)的實(shí)時(shí)美顏;從互聯(lián)網(wǎng)游戲中的AI人物設(shè)定到短視頻應(yīng)用的AI換臉……英特爾的AI技術(shù)正滲透入互聯(lián)網(wǎng)應(yīng)用的方方面面，變得無處不在。

終端側(cè)AI價(jià)值廣闊

英特爾視覺計(jì)算軟件合作部亞洲區(qū)總經(jīng)理高源表示，相對云端AI，終端側(cè)AI正在變得越來越重要，如電腦、手機(jī)、無人機(jī)、機(jī)器人等設(shè)備都開始具備承載AI的能力。

英特爾視覺計(jì)算軟件合作部亞洲區(qū)總經(jīng)理高源

高源認(rèn)為，終端側(cè)AI有四大驅(qū)動力，分別是低延時(shí)、無網(wǎng)絡(luò)工作、隱私保護(hù)、節(jié)省服務(wù)器和帶寬成本。

“例如無人機(jī)自動避障的應(yīng)用，需要隨時(shí)隨地采集視覺信息，并能非?？焖僮龀龇磻?yīng)，我們不可能把視覺信息傳到云端，再從云端做AI應(yīng)用，這是來不及的。又如自動駕駛汽車開到了沒有網(wǎng)絡(luò)的森林，終端決策變得至關(guān)重要。”高源一一舉例，家庭私人照片放到云端去之后怎樣實(shí)現(xiàn)隱私保護(hù)，在終端側(cè)做AI就可以很好地保護(hù)用戶隱私;隨著1080P、4K視頻的流行，互聯(lián)網(wǎng)服務(wù)商面臨帶寬和后端存儲的壓力，端能力的提升是環(huán)節(jié)源頭壓力的最好途徑。

在英特爾紫竹科學(xué)園內(nèi)，一臺裝備低電壓版英特爾處理器的PC在僅數(shù)十兆帶寬的網(wǎng)絡(luò)環(huán)境下完美實(shí)現(xiàn)了4K視頻的流暢播放。英特爾工程師告訴記者，“低電壓版處理器加數(shù)十兆帶寬就足夠了，在性能、功耗、用戶體驗(yàn)上都能滿足要求。”

三層架構(gòu)擁抱AI

當(dāng)終端側(cè)AI在蓬勃發(fā)展。多元化的應(yīng)用場景又迅速定義了終端側(cè)AI不同的特性。如終端側(cè)AI需要長時(shí)間運(yùn)行，對耗電敏感;偶爾運(yùn)行、延時(shí)敏感;長時(shí)間運(yùn)行，計(jì)算密集。

正是因?yàn)榻K端側(cè)AI有這么多的使用場景以及非常不一樣的特性，所以我們覺得單一的架構(gòu)很難滿足所有終端側(cè)AI的需求，“特別是我覺得在業(yè)內(nèi)，因?yàn)闅v史的原因，大家可能覺得一提到AI想到的就是需要一個獨(dú)立顯卡。”高源強(qiáng)調(diào)，這是一個很大的誤區(qū)，AI不等于獨(dú)立顯卡，它需要不同平臺來適應(yīng)不同的AI應(yīng)用。

對于英特爾來說，則從三類不同架構(gòu)布局了終端側(cè)AI的應(yīng)用。

首先，GPU的硬件架構(gòu)是高度并行化的，所以更適合一些很高性能的AI計(jì)算。但GPU也有自己的“短板”，計(jì)算啟動延時(shí)比較大，適合大型數(shù)據(jù)處理帶寬的應(yīng)用。“其實(shí)，許多人不知道，英特爾是世界上最大的GPU供應(yīng)商。”高源說，英特爾集成顯卡占67%的市場份額，集成顯卡是和CPU是共享系統(tǒng)內(nèi)存的，所以在很多AI應(yīng)用當(dāng)中，集成顯卡不需要在CPU、GPU之間來回拷貝內(nèi)存的，這可以提升響應(yīng)速度。

其次，CPU平臺最大的特點(diǎn)是無處不在。CPU是軟硬件非常統(tǒng)一的，無論是英特爾還是英偉達(dá)的都是X86架構(gòu)，硬件和軟件都非常統(tǒng)一。把AI放在CPU平臺上很有效。例如，英特爾和相芯科技一起展示了利用PC同時(shí)對4路高清視頻進(jìn)行AI應(yīng)用，比如說換頭發(fā)、手勢識別等，“大家可以看一下4路一起跑的時(shí)候，一個筆記本平臺，它的CPU占用率也就是40%左右。很多AI應(yīng)用對CPU的占用都是非常小的，是完全可以承受的。”

最后，英特爾專門設(shè)計(jì)了低功耗的AI加速器。一個是GNA，它不是一個獨(dú)立的硬件，它是專門設(shè)計(jì)的電路，是集成在CPU處理器當(dāng)中，所以在新一代處理器里已經(jīng)有了。GNA的功耗小于100mw，所以它可以一直開著，不需要關(guān)的，這特別適合應(yīng)用于語音應(yīng)用。除此之外，英特爾還開擁有Movidius的VPU，VPU是專門為視頻類應(yīng)用設(shè)計(jì)的，例如用VPU來研制無人機(jī)自動避障功能。

賦能中國企業(yè)

網(wǎng)易雷火事業(yè)群高級技術(shù)總監(jiān)鄧杰表示，在GPU、CPU、硬盤等方面，網(wǎng)易都與英特爾保持了緊密的合作以優(yōu)化游戲性能。例如，《戰(zhàn)意》和《逆水寒》兩款采用自研引擎的游戲，網(wǎng)易與英特爾工程師合作，提高了游戲在多核上的性能，讓并行度分別提升了2.6倍和2.4倍，讓游戲在比較低的配置上也可以流暢地運(yùn)行。另外，網(wǎng)易還與英特爾一起針對華為最新筆記本電腦的雙屏應(yīng)用開發(fā)了針對性的應(yīng)用，例如將關(guān)鍵信息放到第二塊顯示屏上，如聊天窗口、小地圖、裝備等，這樣可以獲得更廣闊的游戲視野。

網(wǎng)易雷火事業(yè)群與英特爾針對華為雙屏筆記本開發(fā)針對性的應(yīng)用

而在YY直播平臺，只要音頻和視頻的連線場景，如主播PK和觀眾連麥，都會有英特爾技術(shù)的介入，YY直播企業(yè)業(yè)務(wù)總監(jiān)鄭龍哲介紹，YY將更多地實(shí)時(shí)處理都放到了端上，“端上設(shè)備性能越強(qiáng)大，我們可達(dá)到的效果就會越好。我們是國內(nèi)第一大音視頻廠商，每月使用YY音視頻業(yè)務(wù)的市場已經(jīng)達(dá)到了60億分鐘。”

除此之外，YY在UGC內(nèi)容審核、音頻降噪、實(shí)時(shí)美顏、AR游戲等方面都應(yīng)用了端AI的策略，而YY在商業(yè)直播版塊的后端能力已具備了商業(yè)化推廣的條件，據(jù)悉，其虛擬導(dǎo)播臺技術(shù)可以低成本實(shí)現(xiàn)專業(yè)轉(zhuǎn)播設(shè)備的多路高清直播功能，正考慮向全社會商業(yè)化開放能力。

相芯科技資深圖形引擎開發(fā)經(jīng)理蔡銳濤介紹，其PC端在線教育平臺早期選擇了TensorFlow作為底層神經(jīng)網(wǎng)絡(luò)推理框架，通過與英特爾的合作，展現(xiàn)了OpenVINO諸多優(yōu)勢，對硬件做了非常好的優(yōu)化，“在Ice Lake上，OpenVINO(VNNI)比TfLite fp32能夠得到9.82倍的性能提升，在AMD 3700上，OpenVINO也可以比TfLite有4.8倍的性能提升。”

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實(shí)，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。