端側(cè)AI，風(fēng)起移動(dòng)智能計(jì)算

過(guò)去一年來(lái)，消費(fèi)電子領(lǐng)域最火爆的關(guān)鍵詞，就是端側(cè)AI。

大模型，具有強(qiáng)大的理解、生成能力；終端設(shè)備，是人與AI的首選交互入口。二者碰撞之下，讓端側(cè)成為大模型落地的最佳途徑，甚至沒(méi)有之一。越來(lái)越多的手機(jī)、PC、汽車等消費(fèi)電子終端廠商，將AI技術(shù)應(yīng)用到自己的產(chǎn)品和服務(wù)中，而端側(cè)AI的繁榮景象離不開(kāi)一個(gè)核心支撐點(diǎn)——計(jì)算平臺(tái)（芯片）。

端側(cè)算力，從芯而來(lái)。所以高性能芯片，是端側(cè)AI持續(xù)繁榮的源頭力量，也是高通希望借助技術(shù)創(chuàng)新、生態(tài)合作所推動(dòng)的方向。

前不久恰逢驍龍峰會(huì)舉辦，我們看到高通公司繼續(xù)強(qiáng)化終端側(cè)AI產(chǎn)品布局和對(duì)國(guó)內(nèi)大模型的支持。不僅宣布了與智譜、騰訊混元等大模型廠商的合作，共同推動(dòng)端側(cè) AI 模型部署和落地。此外，還推出了面向AI手機(jī)的驍龍 8 至尊版移動(dòng)平臺(tái)和面向智能汽車的驍龍至尊版汽車平臺(tái)。

高通公司總裁兼CEO安蒙表示，AI，尤其是生成式AI，是移動(dòng)計(jì)算領(lǐng)域最大的變革之一；高通關(guān)注生成式AI，尤其關(guān)注AI如何改變計(jì)算體驗(yàn)，邊緣側(cè)將如何發(fā)展，及其如何帶來(lái)顛覆性的創(chuàng)新周期，致力于將AI為先的體驗(yàn)帶入每一個(gè)計(jì)算空間。

端側(cè)AI的時(shí)代風(fēng)口，源于高通為代表的移動(dòng)計(jì)算，與AI深深地?fù)肀?。我們不妨就從高通打造AI為先的體驗(yàn)這一方向入手，去尋找端側(cè)AI向前一步的源頭力量。

2024年伊始，PC、手機(jī)、汽車等消費(fèi)電子品類都開(kāi)始積極與大模型相結(jié)合，打造全新的AI XX硬件，端側(cè)AI由此進(jìn)入集中爆發(fā)階段。

可以說(shuō)，大模型打開(kāi)了一個(gè)消費(fèi)電子領(lǐng)域的全新風(fēng)口，而深入風(fēng)眼中心，我們會(huì)看到一支推動(dòng)端側(cè)AI醞釀并成熟的關(guān)鍵力量——移動(dòng)計(jì)算。

端側(cè)AI之于云側(cè)AI的不可替代性，是大模型在本地進(jìn)行計(jì)算，避免數(shù)據(jù)上云，解決用戶數(shù)據(jù)和隱私安全的顧慮；實(shí)時(shí)性更強(qiáng)，游戲、攝影、AIGC等應(yīng)用在端側(cè)處理的時(shí)延更低、反饋更快、體驗(yàn)更好。

進(jìn)入2024，OpenAI、智譜、騰訊混元等第一梯隊(duì)的模型廠商都認(rèn)識(shí)到了大模型落地端側(cè)的價(jià)值與桎梏，紛紛推出更小規(guī)模、更高性能的模型版本。雖然大模型在積極小型化，但受到端側(cè)計(jì)算能力、內(nèi)存空間等限制，模型的減配、壓縮也會(huì)折損標(biāo)準(zhǔn)通用基礎(chǔ)大模型的性能表現(xiàn)。

大模型的端側(cè)部署，十分依賴于端側(cè)計(jì)算平臺(tái)提供強(qiáng)大性能，支撐超大規(guī)模的數(shù)據(jù)運(yùn)算量，并在性能與功耗之間實(shí)現(xiàn)平衡。

讓大模型更好地適配端側(cè)，成了移動(dòng)計(jì)算領(lǐng)域的首要任務(wù)，高通正在積極地解決中。

在前不久的驍龍峰會(huì)上，高通宣布和智譜、騰訊混元合作，共同推動(dòng)端側(cè) AI 模型部署和落地。我們能從高通的全新動(dòng)作中，看到移動(dòng)計(jì)算+大模型的三個(gè)變化：

變化一：更豐富的端側(cè)AI能力。驍龍8至尊版的NPU性能比上一代提升了45%，強(qiáng)大的性能可以同時(shí)運(yùn)行多個(gè)AI工作負(fù)載，這意味著更多基于大模型的AI應(yīng)用能夠在端側(cè)部署。

變化二：更優(yōu)質(zhì)的端側(cè)智慧體驗(yàn)。高通為驍龍8至尊版配備目前最高速的LPDDR5x內(nèi)存，解決了內(nèi)存顧慮。目前，騰訊混元正通過(guò)和高通合作，推動(dòng)7B和3B的混元大模型在終端部署。

變化三：更健壯的端側(cè)AI生態(tài)。AI開(kāi)發(fā)者是端側(cè)AI持續(xù)繁榮不可或缺的角色，高通為開(kāi)發(fā)者準(zhǔn)備了基于自身硬件的高效開(kāi)發(fā)工具，包括高通AI軟件棧（AI Stack）和AI Hub，與騰訊混元和智譜AI達(dá)成合作，幫助模型廠商在高通硬件上更好地釋放平臺(tái)算力，支持AI開(kāi)發(fā)者輕松地將AI模型集成到應(yīng)用程序中。

根據(jù)驍龍峰會(huì)高通公布的數(shù)據(jù)，充分利用驍龍8至尊版的強(qiáng)大終端側(cè)AI性能和高通AI軟件棧為模型帶來(lái)的性能優(yōu)化，智譜GLM-4V端側(cè)視覺(jué)大模型能夠以超過(guò)70 tokens/秒的速度在終端側(cè)高速運(yùn)行。大模型的端側(cè)性能表現(xiàn)優(yōu)化，不僅會(huì)降低開(kāi)發(fā)者的使用成本，提升開(kāi)發(fā)者的產(chǎn)品效果，也有助于基礎(chǔ)通用大模型的商業(yè)化。

大模型，是端側(cè)AI這一時(shí)代風(fēng)口的起點(diǎn)；移動(dòng)計(jì)算，則從更多應(yīng)用、更優(yōu)體驗(yàn)、更強(qiáng)生態(tài)等方面，為大模型在端側(cè)提供動(dòng)力保障。

高通對(duì)大模型的有力支撐，從源頭支持端側(cè)AI的產(chǎn)業(yè)繁榮，正是推動(dòng)AI為先體驗(yàn)的體現(xiàn)之一。

大模型要在終端設(shè)備上被用戶用起來(lái)，才能從一種技術(shù)趨勢(shì)，轉(zhuǎn)變?yōu)槎藗?cè)AI的產(chǎn)業(yè)繁榮與商業(yè)價(jià)值。AI大模型入端，硬件性能是基礎(chǔ)。

我們采訪過(guò)一位AI手機(jī)品牌的負(fù)責(zé)人就表示：AI在手機(jī)行業(yè)剛剛開(kāi)始，未來(lái)的一年，AI體驗(yàn)會(huì)超出你的想象，而端側(cè)模型對(duì)性能要求很高，所以性能永遠(yuǎn)不會(huì)過(guò)剩。

性能從哪里來(lái)？答案就是計(jì)算平臺(tái)。針對(duì)目前端側(cè)AI集中的兩大品類：一個(gè)是個(gè)人移動(dòng)終端，比如AI手機(jī)、AI PC；另一個(gè)是智能網(wǎng)聯(lián)汽車，智能座艙、輔助駕駛、自動(dòng)駕駛等AI應(yīng)用都在加速上車。高通在前不久的驍龍峰會(huì)上帶來(lái)了兩大平臺(tái)的最新技術(shù)和產(chǎn)品。

移動(dòng)平臺(tái)方面：

驍龍8至尊版芯片，憑借技術(shù)方面的性能突破和創(chuàng)新能力，帶來(lái)了AI手機(jī)智能化的重大飛躍。

驍龍8至尊版在終端側(cè)生成式AI、多模態(tài)處理和影像處理等方面的突破，可以為AI手機(jī)的大量AI用例提供支持。比如AI-ISP技術(shù)的革命性突破，與NPU緊密結(jié)合，使得高分辨率影像數(shù)據(jù)的實(shí)時(shí)處理成為可能，手機(jī)廠商可以在攝影功能中引入更多AI應(yīng)用，如自動(dòng)場(chǎng)景識(shí)別、實(shí)時(shí)美顏和自動(dòng)對(duì)焦等，這是當(dāng)下年輕消費(fèi)群體格外看重的產(chǎn)品力之一。

此外，驍龍平臺(tái)還積極支持PC領(lǐng)域的AI應(yīng)用。

在剛剛舉辦的2024年世界互聯(lián)網(wǎng)大會(huì)上，高通憑借其專為Windows 11 AI+ PC設(shè)計(jì)的驍龍X Elite平臺(tái)榮獲“世界互聯(lián)網(wǎng)大會(huì)領(lǐng)先科技獎(jiǎng)”。驍龍X Elite的核心優(yōu)勢(shì)之一是采用了定制化的Oryon CPU，具備極致快速的響應(yīng)速度，可以為AI PC提供強(qiáng)勁的性能表現(xiàn)。比如榮耀最新推出的AI PC，就在驍龍X Elite的算力支持下，實(shí)現(xiàn)了AI紀(jì)要、AI雙向降噪等AI功能，極大地提升了用戶的會(huì)議和溝通效率。目前，驍龍X系列已支持58款已發(fā)布或正在開(kāi)發(fā)中的PC產(chǎn)品，有力支撐了AI PC這一新品類的成長(zhǎng)。

汽車平臺(tái)方面：

汽車智能化成為大勢(shì)所趨，其中智能座艙、智能駕駛，成為車企的核心賽點(diǎn)。為智能汽車提供底層源動(dòng)力，高通分別推出了全新的驍龍座艙至尊版平臺(tái)和Snapdragon Ride至尊版平臺(tái)。

其中，驍龍座艙至尊版平臺(tái)也采用了專為汽車打造的高通自研Oryon CPU，性能大幅提升，可以助力車企實(shí)現(xiàn)大模型和AIGC等能力與座艙相結(jié)合，打造AI語(yǔ)音助手、AIGC應(yīng)用、復(fù)雜情境感知、自然語(yǔ)言交互等新體驗(yàn)。

Snapdragon Ride至尊版平臺(tái)也基于高通最先進(jìn)的NPU及Oryon CPU，將更好的智能駕駛帶到汽車上，實(shí)現(xiàn)了高精度定位、環(huán)境感知、決策規(guī)劃以及車輛控制等一系列智能駕駛功能。

此外值得一提的是，增強(qiáng)AI手機(jī)、AI PC、智能汽車的產(chǎn)品力，更強(qiáng)大的移動(dòng)計(jì)算硬件只是必要條件。除此之外，廠商和開(kāi)發(fā)者還需要一系列開(kāi)發(fā)工作來(lái)釋放硬件性能、優(yōu)化端側(cè)AI表現(xiàn)。

目前，手機(jī)、PC、汽車等采用的驍龍硬件平臺(tái)，均已集成高通自研Oryon CPU，加之高通AI軟件棧的賦能，有望實(shí)現(xiàn)終端側(cè)AI應(yīng)用在各平臺(tái)高效開(kāi)發(fā)。

硬件（移動(dòng)平臺(tái)、PC平臺(tái)和汽車平臺(tái)）與軟件（AI Stack、AI Hub）相協(xié)同，高通正在拆除端側(cè)AI的性能桎梏，帶動(dòng)手機(jī)、汽車等各類消費(fèi)電子產(chǎn)品加速進(jìn)化，抓住大模型的技術(shù)紅利。

總結(jié)一下，大模型是這一輪端側(cè)AI浪潮的起點(diǎn)，計(jì)算硬件是AI終端這一新概念得以落地的性能源泉。支撐大模型和AI終端的持續(xù)發(fā)展，高通也在源頭為端側(cè)AI繁榮貢獻(xiàn)了力量。

之所以要在今天找尋端側(cè)AI發(fā)展的源頭力量，是因?yàn)檫@與國(guó)內(nèi)消費(fèi)電子廠商抓緊時(shí)代機(jī)遇和技術(shù)趨勢(shì)的需求一致，與源頭緊密合作、齊頭并進(jìn)，有利于獲取向未來(lái)生長(zhǎng)的動(dòng)能。

目前來(lái)看，高通就是與國(guó)內(nèi)廠商合作緊密的重要AI力量之一。

一方面，高通和驍龍平臺(tái)是國(guó)內(nèi)安卓手機(jī)廠商全球化、高端化的助力。國(guó)內(nèi)頭部品牌正在高端市場(chǎng)與蘋果展開(kāi)正面競(jìng)爭(zhēng)。高通和驍龍與國(guó)內(nèi)廠商的緊密合作，成為國(guó)內(nèi)智能手機(jī)品牌在全球的競(jìng)爭(zhēng)力保障，可以讓領(lǐng)先的AI應(yīng)用、AI手機(jī)、AI PC硬件，為全球樹立標(biāo)桿。目前，首批搭載驍龍8至尊版的旗艦手機(jī)，如小米、榮耀、iQOO等，已經(jīng)在性價(jià)比、影像能力、游戲性能等方面，建立了鮮明的市場(chǎng)認(rèn)知度。

此外，新能源汽車增長(zhǎng)也有望更進(jìn)一步。

目前，國(guó)內(nèi)新能源汽車已經(jīng)在全球市場(chǎng)建立了較強(qiáng)的競(jìng)爭(zhēng)力，抓住智能化機(jī)遇，獲得更大的發(fā)展，可以進(jìn)一步夯實(shí)優(yōu)勢(shì)地位。驍龍汽車平臺(tái)就相當(dāng)于基石，支撐基于大模型的智能駕駛、智能座艙上車，讓新能源汽車保持競(jìng)爭(zhēng)優(yōu)勢(shì)，在全球市場(chǎng)走得更穩(wěn)更遠(yuǎn)。

對(duì)于端側(cè)AI來(lái)說(shuō)，大模型就是新一代的操作系統(tǒng)，而用好這一新型操作系統(tǒng)，需要生態(tài)、工具、資源的充分支持。通過(guò)驍龍的軟硬件生態(tài)體系，高通可以為端側(cè)AI的發(fā)展提供生態(tài)助力，幫助更多開(kāi)發(fā)者用好大模型技術(shù)，促進(jìn)AI產(chǎn)品與應(yīng)用程序的整體繁榮。

總結(jié)一下，終端消費(fèi)電子的市場(chǎng)廣闊，智能化升級(jí)才剛剛開(kāi)始。AI將席卷我們熟悉的各個(gè)終端品類，站在時(shí)代風(fēng)口，高通和驍龍作為源頭動(dòng)力的身影，也漸漸明晰起來(lái)。

高通和驍龍與AI的緊密擁抱，帶來(lái)的是移動(dòng)計(jì)算與端側(cè)AI的長(zhǎng)相廝守?？癖家荒甑亩藗?cè)AI故事，會(huì)繼續(xù)講述下去。

生成海報(bào)

免責(zé)聲明：此文內(nèi)容為第三方自媒體作者發(fā)布的觀察或評(píng)論性文章，所有文字和圖片版權(quán)歸作者所有，且僅代表作者個(gè)人觀點(diǎn)，與極客網(wǎng)無(wú)關(guān)。文章僅供讀者參考，并請(qǐng)自行核實(shí)相關(guān)內(nèi)容。投訴郵箱：editor@fromgeek.com。

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。