趨勢丨NPU時代來臨,瑞芯微加持百度飛槳打造AI應(yīng)用落地

前言:

AI時代,深度學習框架和操作系統(tǒng)類似,起著承上啟下的作用,連接芯片與應(yīng)用,擁有強大算力的AI芯片加持,AI技術(shù)將得到更廣泛普及。

NPU成移動AI的核心載體

手機正常運行離不開SoC芯片,其集成的各個模塊共同支撐手機功能實現(xiàn),如CPU負責手機應(yīng)用流暢切換、GPU支持游戲畫面快速加載,而NPU(神經(jīng)網(wǎng)絡(luò)處理器)就專門負責實現(xiàn)AI運算和AI應(yīng)用的實現(xiàn)。

NPU又叫獨立網(wǎng)絡(luò)加速引擎??梢园凑兆置嬉馑祭斫?,它是專門用來處理數(shù)據(jù)包轉(zhuǎn)發(fā)的芯片。主要的工作是收到數(shù)據(jù)包,按照包的地址,快速轉(zhuǎn)發(fā)出去,就像一條快遞傳送帶。并且它只負責包的轉(zhuǎn)發(fā),無法處理其他業(yè)務(wù)邏輯。

CPU像是人的大腦,可以計算加減乘除,也可以用來學習英語,還可以用來邏輯推理,NPU更像是計算器,只能計算加減乘除,但因為“專器專用”,NPU處理效率很高,功耗更低。

如果沒有NPU,數(shù)據(jù)包的轉(zhuǎn)發(fā)也能通過CPU來進行處理,但當設(shè)備多數(shù)據(jù)量大時,CPU占用就會變高,處理不過來時就會丟包,導(dǎo)致網(wǎng)絡(luò)無法使用。而這些特定的數(shù)據(jù)包轉(zhuǎn)發(fā)規(guī)則,可以交由NPU處理,CPU可以減少最多99%的工作量。

深度學習+開源的百度飛槳

在海量數(shù)據(jù)時代,數(shù)據(jù)的收集、組織、分析、運用都將推動社會的發(fā)展。隨著數(shù)據(jù)量的不斷增長、算法不斷演進和迭代,對極致算力的需求也越來越大,而軟硬件的充分結(jié)合則顯得尤為重要。

百度飛槳是國內(nèi)自主研發(fā)、開源開放、功能最完備的產(chǎn)業(yè)級深度學習平臺,集深度學習核心框架、基礎(chǔ)模型庫、端到端開發(fā)套件、工具組件和服務(wù)平臺于一體,提供深度學習和機器學習任務(wù)開發(fā)、訓練、部署能力,加速企業(yè)從算法研發(fā)到產(chǎn)業(yè)落地的過程。

飛槳框架是源自產(chǎn)業(yè)實踐深度學習框架,同時支持靜態(tài)圖和動態(tài)圖搭建網(wǎng)絡(luò),支持高效大規(guī)模分布式訓練,同時推出了像PaddleSlim模型壓縮還有安全加密的工具,以及在服務(wù)端和移動端進行預(yù)測部署一些引擎。

而Paddle Lite是飛槳推出的一套功能完善、易用性強且性能卓越的輕量化推理引擎,支持多種硬件、多種平臺,具備輕量化部署、高性能實現(xiàn)等重要特性。

在算力層向上,向下連接芯片,向上連接了應(yīng)用場景的就是深度學習框架及平臺,在AI時代能夠幫助開發(fā)者便捷、快速完成深度學習技術(shù)研發(fā)的作用。

據(jù)IDC報告顯示,百度飛槳與谷歌、Facebook名列前三,領(lǐng)銜中國深度學習平臺市場,也是市場份額前五中唯一的國貨。

12下一頁>

(免責聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性,但不保證有關(guān)資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負任何法律責任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時,應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明,并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實,溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 )

贊助商
2020-05-22
趨勢丨NPU時代來臨,瑞芯微加持百度飛槳打造AI應(yīng)用落地
前言:在AI時代,深度學習框架和操作系統(tǒng)類似,起著承上啟下的作用,連接芯片與應(yīng)用,擁有強大算力的AI芯片加持,AI技術(shù)將得到更廣泛普及。

長按掃碼 閱讀全文