硬科技產(chǎn)業(yè)觀察之端側(cè)AI：AI算力隨身釋放千億價(jià)值

極客網(wǎng)·極客觀察（朱飛）11月14日 風(fēng)云變幻的國際局勢(shì)中，硬科技的價(jià)值日益凸顯。2024年10月22日，由E維智庫主辦的第12屆中國硬科技產(chǎn)業(yè)鏈創(chuàng)新趨勢(shì)峰會(huì)暨百家媒體論壇在深圳灣萬怡酒店成功舉行。峰會(huì)聚焦硬科技在產(chǎn)業(yè)發(fā)展中的驅(qū)動(dòng)作用，匯聚眾多行業(yè)精英、專家學(xué)者以及百家媒體代表，共同探討硬科技產(chǎn)業(yè)鏈的創(chuàng)新趨勢(shì)與未來發(fā)展方向。

峰會(huì)上，來自艾邁斯歐司朗、Qorvo、RAMXEED（原富士通半導(dǎo)體）、飛凌微、安謀科技、清純半導(dǎo)體等知名科技企業(yè)的技術(shù)專家發(fā)表了精彩演講，內(nèi)容涵蓋LED技術(shù)、射頻技術(shù)、FeRAM技術(shù)、端側(cè)AI技術(shù)、NPU技術(shù)、SiC技術(shù)等多個(gè)領(lǐng)域，展示了硬科技在多個(gè)領(lǐng)域的技術(shù)發(fā)展及應(yīng)用情況。

這其中，端側(cè)AI作為硬科技領(lǐng)域的一個(gè)重要分支，涉及在設(shè)備端疊加AI算力、進(jìn)行數(shù)據(jù)處理和智能決策，以實(shí)現(xiàn)快速響應(yīng)和增強(qiáng)用戶體驗(yàn)，成為峰會(huì)的一大焦點(diǎn)。飛凌微和安謀科技的技術(shù)專家均現(xiàn)身說法，分享了各家技術(shù)方案的發(fā)展以及在端側(cè)AI領(lǐng)域的最新應(yīng)用，令人印象深刻。

飛凌微邵科：以新一代端側(cè)SoC與感知融合方案，助力車載智能視覺升級(jí)

飛凌微首席執(zhí)行官兼思特威副總裁邵科在峰會(huì)上做了《新一代端側(cè)SoC與感知融合方案，助力車載智能視覺升級(jí)》的分享，結(jié)合端側(cè)AI發(fā)展趨勢(shì)介紹了端側(cè)視覺處理芯片及將端側(cè)SoC和圖像傳感器結(jié)合在車載應(yīng)用方案上面的落地應(yīng)用。

端側(cè)AI為何必要？邵科在演講中強(qiáng)調(diào)了端側(cè)AI處理的三大優(yōu)勢(shì)：低延遲、高可靠性以及數(shù)據(jù)安全和隱私保護(hù)。他指出，隨著圖像傳感器和AI算法的快速發(fā)展，端側(cè)AI在智能車載、智能家居、物聯(lián)網(wǎng)和機(jī)器視覺等領(lǐng)域的應(yīng)用越來越廣泛。

順應(yīng)市場(chǎng)需求，飛凌微今年推出了M1系列三款產(chǎn)品——高性能ISP和兩顆輕量級(jí)SoC，它們專為車載端側(cè)視覺感知預(yù)處理設(shè)計(jì)，具有業(yè)內(nèi)最小的BGA 7mm*7mm封裝，有助于實(shí)現(xiàn)更小型化的車載攝像頭模組。

其中，M1系列芯片的高性能ISP能夠處理高達(dá)800萬像素的圖像數(shù)據(jù)，具備高動(dòng)態(tài)范圍和優(yōu)秀的暗光性能，滿足車載ADAS和影像類產(chǎn)品的需求。此外，M1系列芯片的輕量級(jí)SoC集成了輕量級(jí)的CPU和NPU，具備0.8TOPS的算力，能夠進(jìn)行人臉識(shí)別、姿態(tài)識(shí)別等輕量級(jí)AI應(yīng)用。

目前，飛凌微的產(chǎn)品方案已經(jīng)在車載視覺領(lǐng)域的多個(gè)應(yīng)用案例，包括DMS駕駛員監(jiān)控、OMS乘客監(jiān)控、電子后視鏡和后視攝像頭識(shí)別等。這些解決方案不僅提升了駕駛體驗(yàn)，還增強(qiáng)了車輛的安全性和智能化水平。

在演講之后的問答環(huán)節(jié)中，邵科解釋了飛凌微的輕算力與市場(chǎng)上其他MCU的區(qū)別，并強(qiáng)調(diào)了輕算力在功耗、小型化方面的差異化優(yōu)勢(shì)。他還提到，飛凌微正在開發(fā)第二代產(chǎn)品，將支持多模態(tài)應(yīng)用，包括不同傳感器的輸入和語音與視覺的組合。

一言以蔽之，面對(duì)端側(cè)AI和SoC技術(shù)的新機(jī)遇及新挑戰(zhàn)，飛凌微計(jì)劃通過圖像傳感器與SoC的深度融合，以及采用更先進(jìn)的AI加速技術(shù)和提高圖像性能的技術(shù)，來更好地滿足客戶需求，讓端側(cè)AI綻放更大價(jià)值。

安謀科技：以“周易”NPU IP產(chǎn)品，加速終端AI算力升級(jí)

安謀科技產(chǎn)品總監(jiān)鮑敏祺在峰會(huì)期間做了《端側(cè)AI應(yīng)用“芯”機(jī)遇，NPU加速終端算力升級(jí)》的分享。他指出，隨著AIGC大模型帶來的算力提升，具備時(shí)效性和數(shù)據(jù)本地安全性優(yōu)勢(shì)的端側(cè)AI應(yīng)用正迎來新的增長點(diǎn)，其發(fā)展不僅僅局限于語言模型，而是將涵蓋圖片、音頻、視頻等多種輸入方式，滿足多樣化的應(yīng)用場(chǎng)景。

當(dāng)然機(jī)遇背后也有挑戰(zhàn)。鮑敏祺提到，端側(cè)AI的挑戰(zhàn)主要集中在成本、功耗和生態(tài)系統(tǒng)上。他解釋說，用戶實(shí)時(shí)體驗(yàn)的需求要求大模型在2秒內(nèi)響應(yīng)，而端側(cè)設(shè)備的存儲(chǔ)容量、帶寬限制了大模型的部署。為此，安謀科技推出“周易”NPU，通過優(yōu)化架構(gòu)、提升算力，有效應(yīng)對(duì)這些挑戰(zhàn)。

比如，“周易”NPU保留了一部分本來的CNN能力，同時(shí)對(duì)Transformer大模型進(jìn)行了增強(qiáng)；又如，“周易”NPU更注重?cái)?shù)據(jù)的本地化，減少數(shù)據(jù)搬運(yùn)；此外，“周易”NPU針對(duì)大模型進(jìn)行了總線帶寬的擴(kuò)展，以防止帶寬瓶頸出現(xiàn)。如此種種，通過增強(qiáng)算力、優(yōu)化數(shù)據(jù)流和提升效率，“周易”NPU IP產(chǎn)品能夠加速終端AI算力升級(jí)，滿足多樣化端側(cè)設(shè)備的AI計(jì)算需求。

而在應(yīng)對(duì)生態(tài)挑戰(zhàn)方面，移動(dòng)時(shí)代一路主導(dǎo)下來的安謀科技更為輕車駕熟。鮑敏祺介紹，其“周易”NPU針對(duì)文心、Llama、GPT等主流模型均進(jìn)行了對(duì)應(yīng)部署，并對(duì)包括PAD、PC、Mobile、Automotive在內(nèi)的各類端側(cè)設(shè)備都進(jìn)行了覆蓋，根據(jù)實(shí)際場(chǎng)景需求去適配模型和算力。

在演講之后的問答環(huán)節(jié)，鮑敏祺還分享了“周易”NPU在智能汽車領(lǐng)域的應(yīng)用，包括ADAS、智能座艙和車載娛樂系統(tǒng)等。其中，搭載“周易”NPU的芯擎科技“龍鷹一號(hào)”已累計(jì)出貨超過40萬片，并成功應(yīng)用于吉利旗下的領(lǐng)克、銀河系列以及一汽紅旗等20余款主力車型中。

而面向未來，鮑敏祺透露下一代“周易”NPU將會(huì)繼承并顯著增強(qiáng)前代NPU的強(qiáng)算力、易部署以及可編程等特點(diǎn)和優(yōu)勢(shì)，并針對(duì)大模型的優(yōu)化做一些通用計(jì)算的能力優(yōu)化，圍繞精度、帶寬、調(diào)度管理、算子支持等多個(gè)方面持續(xù)進(jìn)行優(yōu)化，使得NPU能夠更好地滿足當(dāng)前及未來市場(chǎng)需求。

寫在最后：

無獨(dú)有偶，在近日舉行的2024全球移動(dòng)寬帶論壇（MBBF 2024）上，端側(cè)AI也是焦點(diǎn)議題之一。在電信及其他產(chǎn)業(yè)人士看來，2024年是AI入端元年，將造就AI算力隨身，使能AI業(yè)務(wù)移動(dòng)化，引領(lǐng)消費(fèi)電子、智能汽車、具身智能機(jī)器人等新移動(dòng)業(yè)態(tài)的發(fā)展，創(chuàng)造巨大的商業(yè)價(jià)值。

IDC預(yù)計(jì)，明年（2025年）全球端側(cè)AI市場(chǎng)的收入將達(dá)到59億美元。而Gartner的預(yù)測(cè)數(shù)據(jù)顯示，到2030年，全球端側(cè)AI市場(chǎng)將達(dá)到數(shù)千億美元的規(guī)模。這一預(yù)測(cè)基于端側(cè)AI技術(shù)在多個(gè)行業(yè)的深入應(yīng)用，包括智能制造、自動(dòng)駕駛、智能家居、醫(yī)療健康等領(lǐng)域。

數(shù)據(jù)顯示，當(dāng)前具有AI功能的APP數(shù)量已達(dá)到300多萬款，超過了傳統(tǒng)應(yīng)用商店中所有其他APP數(shù)量的總和。AI業(yè)界認(rèn)為，未來5~10年，個(gè)人智能體（即各種Agents），將橫跨多應(yīng)用、多模態(tài)和多終端，成為移動(dòng)新入口，影響每一個(gè)人。

毋庸諱言，端側(cè)AI大門已經(jīng)打開，未來更是星辰大海！從底層芯片到終端產(chǎn)品再到智能應(yīng)用，產(chǎn)業(yè)各界已經(jīng)形成高度共識(shí)并付諸行動(dòng)，挖掘硬科技的巨大潛力，驅(qū)動(dòng)更美好的智能未來！

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。