端側AI大模型紛至沓來,手機要被顛覆?

(高靖宇/文)近年來手機產(chǎn)業(yè)發(fā)展進入創(chuàng)新瓶頸期,手機廠商正試圖尋找新的差異化出路。特別今年以來,隨著ChatGPT的橫空出世和全民級應用發(fā)展趨勢,眾多手機廠商紛紛入局AI大模型賽道,其中不乏榮耀、OPPO、vivo、小米、華為等國產(chǎn)手機巨頭。

榮耀將把AI大模型引入端側,賦能YOYO智慧助手,打造更加個人化、人性化,隱私保護更周全的端側個人模型;小米將小愛同學升級大模型,小米手機端側大模型已初步跑通;OPPO、vivo 也計劃在系統(tǒng)中整合AI 大模型能力。

除了手機廠商外,高通、聯(lián)發(fā)科等芯片巨頭也在探索將AI大模型植入端側。這預示著,部署AI大模型的手機終端就要來了。

手機巨頭搶跑“AI 大模型”賽道

8月4日,華為對外發(fā)布HarmonyOS 4,將AI大模型能力內置在了系統(tǒng)底層。華為常務董事、終端BG CEO余承東介紹,HarmonyOS 4由華為盤古大模型提供底層支持,希望給用戶帶來智慧終端交互、高階生產(chǎn)力效率、個性化服務的全新AI體驗變革。

在8月14日晚舉辦的小米年度演講中,雷軍表示,小米AI大模型最新一個13億參數(shù)大模型已經(jīng)成功在手機本地跑通,部分場景可以媲美60億參數(shù)模型在云端運行結果。小米旗下人工智能助手小愛同學已開始升級AI大模型能力,在發(fā)布會當天開啟邀請測試。

榮耀是最早布局AI的手機廠商之一,根據(jù)趙明的描述,其AI能力的進階主要分為三個階段:第一階段是從0到1提出概念,將需求場景化,比如相機可以直接識別綠植、天空,AI能夠對圖像進行對應的優(yōu)化;第二階段,AI有了上下文理解與學習,基于位置、時間對消費者習慣進行整合式機器的決策;第三階段就是把AI引入端側。

“之所以提出端側大模型的概念,是因為網(wǎng)絡側大模型存在局限性?!痹谮w明看來,大模型的學習能力的確很強,但我們需要劃分個人隱私以及人類知識庫之間的邊界。每個人都有自己的獨立空間,它應該完全地被保護,這也是端側大模型的價值所在。

OPPO、vivo 也逐漸開始在大模型領域發(fā)力。OPPO推出了基于 AndesGPT 打造的全新小布助手即將開啟大型體驗活動。據(jù)介紹, AndesGPT 是 OPPO 安第斯智能云團隊打造的基于混合云架構的生成式大語言模型。升級后的小布助手將具備 AI 大模型能力,擁有更強的語義理解對話能力。此外,vivo將在今年10月左右推出新的OriginOS 4.0系統(tǒng),新系統(tǒng)將內置AI大模型。

端側運行AI大模型,手機芯片頂?shù)米幔?/STRONG>

作為推動手機物種進化的先進技術,與單純在云端部署生成式 AI 應用和服務相比,手機終端側部署生成式 AI 在節(jié)約服務器成本、保護用戶信息安全、提升實時性和實現(xiàn)個性化用戶體驗等方面帶來了更加廣闊的應用前景。

同時,在手機端部署AI大模型仍然面臨不小的挑戰(zhàn),手機芯片能否支撐龐大的算力消耗,是現(xiàn)有芯片性能所無法滿足的。以網(wǎng)絡側大模型ChatGPT為例,按其在今年1月的獨立訪客平均數(shù)1300萬計算,其對應芯片需求為3萬多片英偉達A100 GPU圖形處理器。

目前,高通等芯片廠商,正在針對AI大模型端側部署研發(fā)專用的芯片。目前,高通正在將AIGC嵌入下一代高端芯片驍龍8 Gen3中,該芯片將于今年10月底在夏威夷舉行的高通驍龍峰會上首次亮相。

在Asghar的實驗室中,高通芯片能夠處理70億個參數(shù)的AI模型,雖然遠遠低于OpenAI GPT-3模型的1750億個參數(shù),但應該適合移動搜索。

早在今年2月份,高通就已經(jīng)發(fā)布了全球首個運行在安卓手機上的圖片生成軟件Stable Diffusion的終端演示,該手機搭載了驍龍8 Gen2芯片。在設備上使用生成式AI有很多好處。比如,所搜索記錄和個人數(shù)據(jù)是保密的,不會通過遠程服務器中轉。本地AI也比云端更快,而且可以在飛機上等缺少手機服務的地區(qū)工作。

除了芯片端,為了在手機上高效運行大模型,研究人員和開發(fā)者致力于將模型進行壓縮和輕量化處理,通過剪枝、量化、分解等技術,以減小模型的大小和計算量,同時保持較高的性能。此外,、開發(fā)者也在針對手機場景設計專用的AI模型。這些模型通常在快速響應、低功耗和小尺寸等方面進行了優(yōu)化。

在業(yè)內看來,目前AI大模型在手機端側的應用還在起步階段,但卻是未來必爭的技術高地。根據(jù)IDC預測,到2026年,中國市場中近50%的終端設備的處理器將帶有AI引擎技術。這意味著,手機廠商擁有AI大模型的能力將變得越來越重要。對于用戶而言,在AI大模型的賦能下,未來手機演進將迎來更多體驗層的“質變”性創(chuàng)新。

免責聲明:本網(wǎng)站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性,但不保證有關資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏,概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內容可能涉嫌侵犯其知識產(chǎn)權或存在不實內容時,應及時向本網(wǎng)站提出書面權利通知或不實情況說明,并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關文章源頭核實,溝通刪除相關內容或斷開相關鏈接。

2023-08-28
端側AI大模型紛至沓來,手機要被顛覆?
近年來手機產(chǎn)業(yè)發(fā)展進入創(chuàng)新瓶頸期,手機廠商正試圖尋找新的差異化出路。特別今年以來,隨著ChatGPT的橫空出世和全民級應用發(fā)展趨勢,眾多手機廠商紛紛入局AI大模

長按掃碼 閱讀全文