自研大模型、打造“智能體”，vivo打開敘事新空間

（高靖宇/文）近年來手機產(chǎn)業(yè)發(fā)展進入創(chuàng)新期，手機廠商正試圖尋找新的差異化出路。特別今年以來，隨著ChatGPT的橫空出世和全民級應用發(fā)展趨勢，眾多手機廠商紛紛入局AI大模型賽道，成為當下最火熱的技術(shù)賽道。

而在這場大模型競賽中，vivo顯然走在了前列。11月1日，在2023 vivo開發(fā)者大會上，vivo正式發(fā)布自研藍心大模型BlueLM、OriginOS 4、自研藍河操作系統(tǒng)BlueOS。其中，藍心大模型是vivo自研通用大模型矩陣，從開源到完全自研歷時6年，包括十億、百億、千億三個不同參數(shù)量級的5款自研大模型，全面覆蓋核心應用場景，并將大模型矩陣能力全面融入到OriginOS 4。這意味著，vivo端側(cè)大模型已從前沿技術(shù)探索進入到應用和產(chǎn)業(yè)級落地新階段。

大模型與手機結(jié)合之后，智能手機又有了新敘事，為未來智能手機發(fā)展探索出新方向。vivo副總裁、OS產(chǎn)品副總裁周圍預判，未來手機的發(fā)展趨勢或?qū)⑦M化為“智能體”。

如何將大模型裝入手機？答案是：端云協(xié)同

通過類似ChatGPT、文心一言的APP就能使用大模型，為什么還要把大模型裝入到手機端側(cè)呢？這是因為，與單純在云端部署生成式 AI 應用和服務相比，手機終端側(cè)部署生成式 AI 可以實現(xiàn)在設備端運行復雜的AI算法，從而減少對云端服務的依賴，個人私密信息也不用上傳的云端，保障數(shù)據(jù)安全。此外，手機可以更好地理解和響應用戶的需求，從而滿足用戶對更加智能化手機的期待。

那么，大模型千億級的參數(shù)量如何在手機上流程運行，此時端云協(xié)同的混合架構(gòu)就成為關(guān)鍵。vivo的藍心大模型包含有10億、70億、700億、1300億、1750億五種參數(shù)規(guī)模，其中10億量級模型是主要面向端側(cè)場景打造的專業(yè)文本大模型，具備本地化的文本總結(jié)、摘要等能力。70億模型是面向手機打造的端云兩用模型，具有優(yōu)秀的語言理解、文本創(chuàng)作能力，同時，上述兩個量級的模型支持高通和MTK最新旗艦雙平臺端側(cè)化部署，在保證數(shù)據(jù)安全的同時，在出詞速度、響應時間、內(nèi)存占用等方面也非常優(yōu)秀，實現(xiàn)了安全與性能的雙重并舉。

vivo同時在做的有10億、70億、700億、1300億、1750億五種參數(shù)規(guī)模的藍心大模型，其中10億和70億已經(jīng)可以由本地算力支撐，而更大的數(shù)據(jù)仍然需要運行在云端。為此，vivo并不會強制用戶必須使用端側(cè)或者云端，而是交給用戶自己去選擇，比如隱私保密性不需要那么高的輸入法等功能，可以選擇在云端運行，而公司文件、相冊等，就可以利用手機本身的算力來完成。

700億模型是面向云端服務的主力模型，其綜合能力，在C-Eval、CMMLU、SuperCLUE（10月）等榜單中均處于中文大模型的第一梯隊。另外1300億、1750億模型也將在更復雜的場景中以更豐富的知識和推理能力為用戶帶來更專業(yè)的智能體驗。

除了與云端協(xié)作，手機大模型還面臨算法和算力的挑戰(zhàn)。vivo整個團隊花了六年多時間不斷解決問題，在算法方面，在預訓練階段，vivo利用最前沿的Transformer架構(gòu)，改良了注意力機制、位置編碼等關(guān)鍵模塊，并在包含了3.3萬億詞的大規(guī)模多語言數(shù)據(jù)集上進行訓練，最終使得藍心大模型具備了超強的基礎能力。算力上，vivo也在積極通過信息技術(shù)應用創(chuàng)新去解決算力問題，組建了一只150人的工程團隊，持續(xù)地提升集群的效率，目前vivo千億模型訓練周期低于2個月，百億模型不到2周。

目前，vivo構(gòu)建了超過100萬條高質(zhì)量的多語言多任務指令數(shù)據(jù)進行學習和訓練，從而讓藍心大模型更好地理解用戶的意圖，適應各種目標任務。并在安全部署中通過了中國信通院內(nèi)容審核服務系統(tǒng)評測，在文本、語音和視頻內(nèi)容識別需要檢測的15個大類中，14個大類獲得最高的5星等級，1個獲得4星等級。

生成海報

免責聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關(guān)資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。