在技術(shù)革新的浪潮下，智能硬件已帶著人工智能技術(shù)越來越多地出現(xiàn)在我們的日常生活，智能手機、智能手表、智能音箱等這些常見的"智能設(shè)備"也都已成為非常重要的本地深度學(xué)習(xí)載體。然而，日趨異構(gòu)化的硬件平臺和復(fù)雜的終端側(cè)的使用狀況，讓端側(cè)推理引擎的架構(gòu)能力頗受挑戰(zhàn)。為更好滿足人工智能應(yīng)用落地移動端的嚴(yán)苛要求，百度飛槳推出用于端側(cè)高性能輕量化AI應(yīng)用部署的推理引擎Paddle Lite，不僅可支持多種硬件、多種平臺，還具備輕量化部署、高性能實現(xiàn)等重要特性。
此次，在百度AI快車道——企業(yè)深度學(xué)習(xí)實戰(zhàn)營于12月8日于上海舉辦的"百度AI快車道Paddle Lite"專場活動中，百度多位技術(shù)大咖在活動當(dāng)天為當(dāng)?shù)亻_發(fā)者們帶來了端側(cè)推理引擎Paddle Lite的技術(shù)解析與實踐，詳細(xì)解讀了飛槳 Paddle Lite、端計算模型生成平臺EasyEdge、以及AI解決方案EdgeBoard的技術(shù)特點、使用方法和相關(guān)應(yīng)用。
據(jù)介紹，Paddle Lite核心用途是將訓(xùn)練出的模型在不同硬件平臺場景下快速部署，根據(jù)輸入數(shù)據(jù)，執(zhí)行預(yù)測推理得到計算結(jié)果，支持實際的業(yè)務(wù)應(yīng)用。目前，Paddle Lite可支持多種硬件，并可實現(xiàn)用X2Paddle 工具轉(zhuǎn)化 Caffe, TensorFlow, ONNX 三個平臺的模型到 Paddle格式進(jìn)行多種訓(xùn)練，以及支持諸如Android, IOS, armlinux 等端側(cè)多個平臺。
此外，Paddle Lite同時支持為模型定制化的裁剪方案，也就是說對于特定的模型，用戶可以只將需要的op和kernel實現(xiàn)編譯進(jìn)部署的lib中，極大地減小了需加載預(yù)測庫的體積，更有助于實現(xiàn)輕量級部署，并展示出其明顯的高性能特點。
活動現(xiàn)場，還借工業(yè)、零售、教育等多場景案例介紹了百度大腦FPGA嵌入式AI解決方案——EdgeBoard。百度大腦EdgeBoard不僅可憑借高性能的加速引擎提供最高3.6Tops的強大算力，還發(fā)布多種硬件產(chǎn)品，開放完整的嵌入式參考設(shè)計方式，使硬件集成更輕松便捷。例如在工業(yè)場景下，智能質(zhì)檢機械臂可以利用運控抓拍和EdgeBoard智能解析，實現(xiàn)毫秒級、高準(zhǔn)率金屬手機殼多表面復(fù)雜檢測工作。EdgeBoard具備高性能、低成本、使用簡單等優(yōu)點，支持多模型、高精模型部署，同時支持模型可擦寫升級，提供豐富的開發(fā)資源，并支持硬件定制，十分適用于智能硬件打造和AI項目部署。
此外，在當(dāng)天的課程還安排了多種實踐"挑戰(zhàn)"，不僅有在EdgeBoard上使用Paddle Lite以實現(xiàn)"蔬菜識別"功能，還有Paddle Lite移動端目標(biāo)檢測實戰(zhàn)。在目標(biāo)檢測的實戰(zhàn)中，現(xiàn)場的開發(fā)者可以選用如MAC電腦、iPhone手機或者安卓手機等作為實驗設(shè)備進(jìn)行"實戰(zhàn)"。現(xiàn)場導(dǎo)師以環(huán)境準(zhǔn)備，預(yù)測庫編譯、模型轉(zhuǎn)換以及APP開發(fā)集成四個步驟帶領(lǐng)當(dāng)天所有參會學(xué)員，一步步產(chǎn)出最終結(jié)果，在手機端順利識別出小動物?；顒蝇F(xiàn)場，學(xué)員們始終保持著極高的熱情，其中一位成功檢測出目標(biāo)的學(xué)員感嘆道："剛系統(tǒng)了解Paddle Lite，沒想到這么快就可以上手。"對于Paddle Lite之后的應(yīng)用，學(xué)員表示充滿期待。
據(jù)了解，百度 AI 快車道企業(yè)深度學(xué)習(xí)實戰(zhàn)營是百度依托自身深厚的深度學(xué)習(xí)技術(shù)實踐經(jīng)驗，面向有 AI 技術(shù)需求企業(yè)的算法工程師、架構(gòu)師群體提供的快速應(yīng)用扶持計劃。計劃的學(xué)習(xí)內(nèi)容囊括了10套工程實施與深度學(xué)習(xí)技術(shù)落地結(jié)合的詳細(xì)方案，覆蓋百度領(lǐng)先的AI技術(shù)和業(yè)務(wù)應(yīng)用場景的深入剖析，如OCR、精密儀器質(zhì)檢、推薦排序經(jīng)典場景、遙感圖像處理等；源于百度業(yè)務(wù)實踐的深度學(xué)習(xí)平臺飛槳的性能優(yōu)勢、模型優(yōu)勢、生態(tài)優(yōu)勢的解讀；百度自研和頂級學(xué)術(shù)會議魁首算法、預(yù)訓(xùn)練模型的詳細(xì)介紹，還有與案例和算法緊密相扣的在線實驗，并以"學(xué)來即用"的課程，進(jìn)行業(yè)務(wù)問題定位、框架及算法的快速應(yīng)用培訓(xùn)，為更多企業(yè)帶去深度學(xué)習(xí)技術(shù)和經(jīng)驗分享。
百度AI快車道將在12月14日繼續(xù)來到深圳，為大家?guī)鞵addle Detection專場活動，深圳的開發(fā)者趕快來組團(tuán)報名啦，無法到達(dá)現(xiàn)場的開發(fā)者們也有機會"一起玩"，進(jìn)入"IT大咖說"網(wǎng)站搜索"AI快車道"收看活動視頻，往期活動也可以觀看回放。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
