端側(cè)AI大模型紛至沓來,手機(jī)要被顛覆?

(高靖宇/文)近年來手機(jī)產(chǎn)業(yè)發(fā)展進(jìn)入創(chuàng)新瓶頸期,手機(jī)廠商正試圖尋找新的差異化出路。特別今年以來,隨著ChatGPT的橫空出世和全民級應(yīng)用發(fā)展趨勢,眾多手機(jī)廠商紛紛入局AI大模型賽道,其中不乏榮耀、OPPO、vivo、小米、華為等國產(chǎn)手機(jī)巨頭。

榮耀將把AI大模型引入端側(cè),賦能YOYO智慧助手,打造更加個人化、人性化,隱私保護(hù)更周全的端側(cè)個人模型;小米將小愛同學(xué)升級大模型,小米手機(jī)端側(cè)大模型已初步跑通;OPPO、vivo 也計劃在系統(tǒng)中整合AI 大模型能力。

除了手機(jī)廠商外,高通、聯(lián)發(fā)科等芯片巨頭也在探索將AI大模型植入端側(cè)。這預(yù)示著,部署AI大模型的手機(jī)終端就要來了。

手機(jī)巨頭搶跑“AI 大模型”賽道

8月4日,華為對外發(fā)布HarmonyOS 4,將AI大模型能力內(nèi)置在了系統(tǒng)底層。華為常務(wù)董事、終端BG CEO余承東介紹,HarmonyOS 4由華為盤古大模型提供底層支持,希望給用戶帶來智慧終端交互、高階生產(chǎn)力效率、個性化服務(wù)的全新AI體驗變革。

在8月14日晚舉辦的小米年度演講中,雷軍表示,小米AI大模型最新一個13億參數(shù)大模型已經(jīng)成功在手機(jī)本地跑通,部分場景可以媲美60億參數(shù)模型在云端運行結(jié)果。小米旗下人工智能助手小愛同學(xué)已開始升級AI大模型能力,在發(fā)布會當(dāng)天開啟邀請測試。

榮耀是最早布局AI的手機(jī)廠商之一,根據(jù)趙明的描述,其AI能力的進(jìn)階主要分為三個階段:第一階段是從0到1提出概念,將需求場景化,比如相機(jī)可以直接識別綠植、天空,AI能夠?qū)D像進(jìn)行對應(yīng)的優(yōu)化;第二階段,AI有了上下文理解與學(xué)習(xí),基于位置、時間對消費者習(xí)慣進(jìn)行整合式機(jī)器的決策;第三階段就是把AI引入端側(cè)。

“之所以提出端側(cè)大模型的概念,是因為網(wǎng)絡(luò)側(cè)大模型存在局限性。”在趙明看來,大模型的學(xué)習(xí)能力的確很強(qiáng),但我們需要劃分個人隱私以及人類知識庫之間的邊界。每個人都有自己的獨立空間,它應(yīng)該完全地被保護(hù),這也是端側(cè)大模型的價值所在。

OPPO、vivo 也逐漸開始在大模型領(lǐng)域發(fā)力。OPPO推出了基于 AndesGPT 打造的全新小布助手即將開啟大型體驗活動。據(jù)介紹, AndesGPT 是 OPPO 安第斯智能云團(tuán)隊打造的基于混合云架構(gòu)的生成式大語言模型。升級后的小布助手將具備 AI 大模型能力,擁有更強(qiáng)的語義理解對話能力。此外,vivo將在今年10月左右推出新的OriginOS 4.0系統(tǒng),新系統(tǒng)將內(nèi)置AI大模型。

端側(cè)運行AI大模型,手機(jī)芯片頂?shù)米幔?/STRONG>

作為推動手機(jī)物種進(jìn)化的先進(jìn)技術(shù),與單純在云端部署生成式 AI 應(yīng)用和服務(wù)相比,手機(jī)終端側(cè)部署生成式 AI 在節(jié)約服務(wù)器成本、保護(hù)用戶信息安全、提升實時性和實現(xiàn)個性化用戶體驗等方面帶來了更加廣闊的應(yīng)用前景。

同時,在手機(jī)端部署AI大模型仍然面臨不小的挑戰(zhàn),手機(jī)芯片能否支撐龐大的算力消耗,是現(xiàn)有芯片性能所無法滿足的。以網(wǎng)絡(luò)側(cè)大模型ChatGPT為例,按其在今年1月的獨立訪客平均數(shù)1300萬計算,其對應(yīng)芯片需求為3萬多片英偉達(dá)A100 GPU圖形處理器。

目前,高通等芯片廠商,正在針對AI大模型端側(cè)部署研發(fā)專用的芯片。目前,高通正在將AIGC嵌入下一代高端芯片驍龍8 Gen3中,該芯片將于今年10月底在夏威夷舉行的高通驍龍峰會上首次亮相。

在Asghar的實驗室中,高通芯片能夠處理70億個參數(shù)的AI模型,雖然遠(yuǎn)遠(yuǎn)低于OpenAI GPT-3模型的1750億個參數(shù),但應(yīng)該適合移動搜索。

早在今年2月份,高通就已經(jīng)發(fā)布了全球首個運行在安卓手機(jī)上的圖片生成軟件Stable Diffusion的終端演示,該手機(jī)搭載了驍龍8 Gen2芯片。在設(shè)備上使用生成式AI有很多好處。比如,所搜索記錄和個人數(shù)據(jù)是保密的,不會通過遠(yuǎn)程服務(wù)器中轉(zhuǎn)。本地AI也比云端更快,而且可以在飛機(jī)上等缺少手機(jī)服務(wù)的地區(qū)工作。

除了芯片端,為了在手機(jī)上高效運行大模型,研究人員和開發(fā)者致力于將模型進(jìn)行壓縮和輕量化處理,通過剪枝、量化、分解等技術(shù),以減小模型的大小和計算量,同時保持較高的性能。此外,、開發(fā)者也在針對手機(jī)場景設(shè)計專用的AI模型。這些模型通常在快速響應(yīng)、低功耗和小尺寸等方面進(jìn)行了優(yōu)化。

在業(yè)內(nèi)看來,目前AI大模型在手機(jī)端側(cè)的應(yīng)用還在起步階段,但卻是未來必爭的技術(shù)高地。根據(jù)IDC預(yù)測,到2026年,中國市場中近50%的終端設(shè)備的處理器將帶有AI引擎技術(shù)。這意味著,手機(jī)廠商擁有AI大模型的能力將變得越來越重要。對于用戶而言,在AI大模型的賦能下,未來手機(jī)演進(jìn)將迎來更多體驗層的“質(zhì)變”性創(chuàng)新。

免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請進(jìn)一步核實,并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負(fù)任何法律責(zé)任。任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時,應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實,溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。

2023-08-28
端側(cè)AI大模型紛至沓來,手機(jī)要被顛覆?
近年來手機(jī)產(chǎn)業(yè)發(fā)展進(jìn)入創(chuàng)新瓶頸期,手機(jī)廠商正試圖尋找新的差異化出路。特別今年以來,隨著ChatGPT的橫空出世和全民級應(yīng)用發(fā)展趨勢,眾多手機(jī)廠商紛紛入局AI大模

長按掃碼 閱讀全文