移動(dòng)端生成式AI就用天璣!聯(lián)發(fā)科攜手全球主流大模型打造AI手機(jī)端側(cè)應(yīng)用!

近期,2024 世界移動(dòng)通信大會(huì)(MWC 2024)展出的一系列先進(jìn)通信技術(shù)引人矚目,炙手可熱的生成式AI技術(shù)更引發(fā)各界廣泛關(guān)注。展會(huì)上,聯(lián)發(fā)科重點(diǎn)展出了支持SDXL Turbo(Stable Diffusion XL Turbo)文本到圖像的生成引擎、Diffusion視頻生成技術(shù),以及端側(cè)生成式AI技能擴(kuò)充(LoRA Fusion)等創(chuàng)新AI技術(shù)。

聯(lián)發(fā)科還首次展示了優(yōu)化的Meta Llama 2生成式AI應(yīng)用,該演示充分發(fā)揮了天璣 9300和8300芯片的獨(dú)立AI處理器APU,在硬件加速引擎的加持下,可以在終端側(cè)生成文章和摘要。

生成式AI技術(shù)加速普及的大趨勢(shì)下,一大波端側(cè)AI技術(shù)正撲面而來(lái)。相較于云端AI,端側(cè)AI在保護(hù)用戶(hù)隱私安全、無(wú)需聯(lián)網(wǎng)、高速低延遲等方面具有顯著優(yōu)勢(shì),而手機(jī)所具備的移動(dòng)便攜性、個(gè)人專(zhuān)屬化、多模態(tài)感知、以及通信計(jì)算能力,讓它成為端側(cè)AI應(yīng)用普及的最佳載體。

端側(cè)AI手機(jī)應(yīng)用的發(fā)展離不開(kāi)聯(lián)發(fā)科等頭部芯片廠商帶來(lái)的先進(jìn)硬件和軟件技術(shù),移動(dòng)芯片的生成式AI能力決定了手機(jī)端側(cè)AI能力上限,作為邊緣端側(cè)AI技術(shù)的行業(yè)領(lǐng)軍者,聯(lián)發(fā)科很早就前瞻性地布局了端側(cè)生成式AI技術(shù),在尤為關(guān)鍵的端側(cè)AI芯片能力上下足了功夫。聯(lián)發(fā)科天璣9300旗艦移動(dòng)芯片的獨(dú)立AI處理器APU具有業(yè)界第一的移動(dòng)端AI算力,并通過(guò)AI開(kāi)發(fā)平臺(tái)NeuroPilot構(gòu)建了豐富的AI生態(tài),所以能在業(yè)界最早實(shí)現(xiàn)支持Android、Google Gemini Nano、Meta Llama 2、百度文心一言、百川、vivo藍(lán)心大模型BlueLM、OPPO AndesGPT等諸多全球先進(jìn)的AI大模型。

早在去年,聯(lián)發(fā)科就聯(lián)合百度發(fā)起飛槳和文心大模型硬件生態(tài)共創(chuàng)計(jì)劃,共同推進(jìn)聯(lián)發(fā)科硬件平臺(tái)與飛槳和文心大模型適配。

聯(lián)發(fā)科還利用Meta新一代開(kāi)源大語(yǔ)言模型Llama 2以及聯(lián)發(fā)科AI處理器APU、AI開(kāi)發(fā)平臺(tái)NeuroPilot建立完整的端側(cè)AI計(jì)算生態(tài),加速智能手機(jī)、物聯(lián)網(wǎng)、汽車(chē)、智能家居和其他邊緣設(shè)備的應(yīng)用開(kāi)發(fā)。經(jīng)過(guò)全面適配和優(yōu)化,目前天璣9300和天璣8300芯片已實(shí)現(xiàn)支持Meta Llama 2的70億參數(shù)大模型應(yīng)用。

近期,聯(lián)發(fā)科再次宣布:天璣9300和8300已針對(duì)Google Gemini Nano大語(yǔ)言模型進(jìn)行芯片和算法的適配優(yōu)化,聯(lián)發(fā)科與Google還計(jì)劃攜手推出可在天璣9300和8300上運(yùn)行的APK,以助力開(kāi)發(fā)者和OEM廠商部署Gemini Nano應(yīng)用,加速端側(cè)AI應(yīng)用落地。

不僅如此,聯(lián)發(fā)科還與手機(jī)廠商深度合作,推動(dòng)生成式AI在手機(jī)端側(cè)落地應(yīng)用。聯(lián)發(fā)科已攜手vivo在vivo X100系列手機(jī)上落地端側(cè)70億參數(shù)大語(yǔ)言模型,并在端側(cè)實(shí)驗(yàn)環(huán)境跑通130億參數(shù)模型。在天璣9300芯片強(qiáng)大的AI算力和軟件技術(shù)支持下,用戶(hù)可以體驗(yàn)到vivo AI藍(lán)心大模型諸多實(shí)用的生成式AI功能,包括超能語(yǔ)義搜索、超能問(wèn)答、超能寫(xiě)作、超能創(chuàng)圖、超能智慧交互等。

聯(lián)發(fā)科還攜手OPPO共建輕量化大模型端側(cè)部署方案,共同推動(dòng)大模型能力在端側(cè)落地,共同開(kāi)啟“AI手機(jī)”新時(shí)代。在天璣9300芯片的先進(jìn)生成式AI能力加持下,OPPO AndesGPT大語(yǔ)言模型實(shí)現(xiàn)了更優(yōu)的性能、更快的速度?;谔飙^9300芯片的出色AI算力,OPPO Find X7在AI-Benchmark排行榜上取得了業(yè)界第一的AI性能成績(jī),并為用戶(hù)帶來(lái)了AIGC消除、AI通話摘要等多種手機(jī)功能。

聯(lián)發(fā)科天璣9300和天璣8300芯片對(duì)全球主流大模型的支持,不僅將有力推動(dòng)端側(cè)AI生態(tài)完善和應(yīng)用創(chuàng)新,更可助力手機(jī)廠商的生成式AI技術(shù)出海,讓“AI手機(jī)”惠及全球更多用戶(hù)。

天璣9300集成聯(lián)發(fā)科第七代AI處理器APU 790,性能和能效顯著提升,生成式AI處理速度是上一代的8倍,可1秒內(nèi)生成圖片。在聯(lián)發(fā)科混合精度INT4量化技術(shù)和內(nèi)存硬件壓縮技術(shù)加持下,天璣9300最高支持終端運(yùn)行330億參數(shù)AI大語(yǔ)言模型。APU 790還支持生成式AI模型端側(cè)“技能擴(kuò)充”技術(shù)NeuroPilot Fusion,利用業(yè)界先進(jìn)的LoRA技術(shù)賦予基礎(chǔ)大模型更加全面的能力,滿(mǎn)足端側(cè)AI用戶(hù)個(gè)性化體驗(yàn)需求。天璣8300在同級(jí)產(chǎn)品中率先支持生成式AI,至高支持100億參數(shù)AI大語(yǔ)言模型,加速端側(cè)AI體驗(yàn)向主流市場(chǎng)普及。

生成式AI的魅力和魔力將被全球更多的手機(jī)用戶(hù)所體驗(yàn),這是聯(lián)發(fā)科全力推動(dòng)的端側(cè)AI能力演進(jìn)和普及的成果。AI手機(jī)時(shí)代的加速到來(lái)離不開(kāi)芯片架構(gòu)的革新、軟硬件協(xié)同和生態(tài)創(chuàng)新的持續(xù)努力。我們充滿(mǎn)信心,在全生態(tài)系統(tǒng)的共同努力下,一個(gè)全新的移動(dòng)“智能體”時(shí)代即將到來(lái),科幻電影般的全場(chǎng)景智慧生活將成為現(xiàn)實(shí)。

(免責(zé)聲明:本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。 )