11月4日,第二屆開放原子開源基金會(huì)OpenHarmony技術(shù)大會(huì)在北京圓滿舉辦。在下午舉辦的OS原生智能分論壇中,華為昇思MindSpore總架構(gòu)師金雪鋒擔(dān)任出品人,華為AI大模型應(yīng)用開發(fā)平臺(tái)架構(gòu)師王磊擔(dān)任主持人,與來自華為、中軟國際有限公司、深圳市若芯科技有限公司等企業(yè)界技術(shù)領(lǐng)袖和來自清華大學(xué)、上海交通大學(xué)等學(xué)術(shù)界專家學(xué)者分享了各自領(lǐng)域在OpenHarmony生態(tài)中結(jié)合AI大模型相關(guān)技術(shù)如何進(jìn)行技術(shù)創(chuàng)新、突破技術(shù)難題,并共同探討了未來AI大模型與終端操作系統(tǒng)相結(jié)合的技術(shù)發(fā)展趨勢(shì),為共建OpenHarmony繁榮生態(tài)貢獻(xiàn)力量。
出品人:華為昇思MindSpore總架構(gòu)師金雪鋒
主持人:華為AI大模型應(yīng)用開發(fā)平臺(tái)架構(gòu)師王磊
首先,來自清華大學(xué)的助理研究員李元春就《大模型驅(qū)動(dòng)的終端智能代理》課題進(jìn)行了報(bào)告分享,介紹了一種大模型驅(qū)動(dòng)的智能個(gè)人代理系統(tǒng)的設(shè)計(jì)與實(shí)現(xiàn),分享了如何通過對(duì)移動(dòng)應(yīng)用的自動(dòng)分析和大模型知識(shí)嵌入,將應(yīng)用內(nèi)部的領(lǐng)域知識(shí)與大模型的常識(shí)知識(shí)有機(jī)結(jié)合,實(shí)現(xiàn)更準(zhǔn)確高效的任務(wù)自動(dòng)化。李元春指出,智能個(gè)人代理一直是終端系統(tǒng)研究人員和開發(fā)者關(guān)注的關(guān)鍵技術(shù)之一,然而由于用戶意圖理解、任務(wù)規(guī)劃、工具使用等能力的不足,目前智能個(gè)人代理的智能程度和可擴(kuò)展性仍有較大缺陷。大語言模型的出現(xiàn)則解決了這些難點(diǎn),李元春表示:“以大語言模型為代表的大模型的出現(xiàn)為該領(lǐng)域的發(fā)展帶來了嶄新的機(jī)遇,有望通過強(qiáng)大的語義理解和常識(shí)推理能力大大提升智能個(gè)人代理支持功能的廣度和深度。”
清華大學(xué)助理研究員李元春主題分享
中軟國際有限公司智能物聯(lián)網(wǎng)軍團(tuán)產(chǎn)品研發(fā)管理部總經(jīng)理、OpenHarmony項(xiàng)目群技術(shù)指導(dǎo)委員會(huì)委員張兆生基于自身在大模型及端邊協(xié)同領(lǐng)域的深厚洞察,帶來了題為《視覺大模型在OpenHarmony的端邊云側(cè)應(yīng)用》的報(bào)告。他指出,智能化時(shí)代,隨著大模型和算力底層技術(shù)的不斷完善,大模型部署在邊緣側(cè)與終端側(cè)成為必然趨勢(shì)。他高度肯定了OpenHarmony擔(dān)當(dāng)數(shù)字底座的價(jià)值與意義,“OpenHarmony作為萬物互聯(lián)時(shí)代的技術(shù)底座,可以廣泛應(yīng)用于多種算力場(chǎng)景,滿足了多聯(lián)接、高實(shí)時(shí)和海量異構(gòu)數(shù)據(jù)的業(yè)務(wù)需求,起到了向下發(fā)揮硬件算力,向上使能海量應(yīng)用的作用。”在張兆生看來,以O(shè)penHarmony為根基融合邊端大模型能力,構(gòu)建端邊協(xié)同業(yè)務(wù)場(chǎng)景,可以為行業(yè)提供更有競(jìng)爭(zhēng)力的創(chuàng)新解決方案,加速拓展生態(tài)。
中軟國際有限公司智能物聯(lián)網(wǎng)軍團(tuán)產(chǎn)品研發(fā)管理部總經(jīng)理、OpenHarmony項(xiàng)目群技術(shù)指導(dǎo)委員會(huì)委員張兆生主題分享
華為小藝架構(gòu)師周劍輝基于華為小藝在終端產(chǎn)品的智能化服務(wù)技術(shù)思考,帶來了《基于意圖框架的端側(cè)原生智能大模型生態(tài)建設(shè)探索》主題報(bào)告。這篇報(bào)告中提到,意圖框架是系統(tǒng)級(jí)的意圖標(biāo)準(zhǔn)體系,通過多維系統(tǒng)感知、大模型等能力構(gòu)建全局意圖范式,實(shí)現(xiàn)對(duì)用戶顯性與潛在意圖的理解,并及時(shí)、準(zhǔn)確地將用戶需求傳遞給生態(tài)伙伴,匹配合時(shí)宜的服務(wù),為用戶提供多模態(tài)、個(gè)性化的進(jìn)階場(chǎng)景體驗(yàn)。
華為小藝架構(gòu)師周劍輝主題分享
上海交通大學(xué)計(jì)算機(jī)科學(xué)與工程系副教授鄭文立聚焦于機(jī)器學(xué)習(xí)方法,帶來《端邊云協(xié)同推理中的深度神經(jīng)網(wǎng)絡(luò)動(dòng)態(tài)分割》的報(bào)告。在端邊云環(huán)境下,為了匹配網(wǎng)絡(luò)負(fù)載與服務(wù)器負(fù)載的動(dòng)態(tài)變化,鄭文立教授提出了基于機(jī)器學(xué)習(xí)的DNN分割優(yōu)化算法,并將其實(shí)現(xiàn)在昇思MindSpore上,使之能在執(zhí)行多種常見的CNN、RNN時(shí)自動(dòng)調(diào)整它們跨端、邊/云兩側(cè)的分布,從而保持最低的推理延遲。同時(shí),他還指出,“資源限制是邊緣計(jì)算面臨的主要挑戰(zhàn),設(shè)法突破資源限制才能最大化邊緣優(yōu)勢(shì),使智能真正走進(jìn)每個(gè)人的生活。”
上海交通大學(xué)計(jì)算機(jī)科學(xué)與工程系副教授鄭文立主題分享
來自華為諾亞方舟實(shí)驗(yàn)室的研究員侯璐則在現(xiàn)場(chǎng)分享了《大語言模型的壓縮加速和高效部署》,這一報(bào)告從架構(gòu)設(shè)計(jì)、成本、吞吐、時(shí)延、長序列等方面介紹大語言模型在推理階段面臨的內(nèi)存、訪存和計(jì)算的挑戰(zhàn),以及模型和KVcache量化壓縮、融合大算子和投機(jī)式推理在大語言模型高效推理帶來的收益。
華為諾亞方舟實(shí)驗(yàn)室研究員侯璐主題分享
深圳市若芯科技有限公司CTO周芃帶來了《無處不在的智能:端側(cè)類腦大模型的應(yīng)用與解決方案》的演講,面向參會(huì)者介紹了面對(duì)大語言模型的算力開銷問題,以及如何采用類人腦處理信息的方式對(duì)Transformer架構(gòu)進(jìn)行改進(jìn)。通過使用第三代神經(jīng)網(wǎng)絡(luò)SNN搭建神經(jīng)網(wǎng)絡(luò),將網(wǎng)絡(luò)中的數(shù)據(jù)使用脈沖序列進(jìn)行存儲(chǔ)和傳輸,在不影響網(wǎng)絡(luò)智能程度的同時(shí),極大地降低了推理開銷。周芃表示,“使用該項(xiàng)技術(shù)訓(xùn)練的大模型,不僅做到同參數(shù)級(jí)別能耗、延時(shí)、算力要求最優(yōu),也成功具備了在消費(fèi)級(jí)設(shè)備本地部署運(yùn)行的能力。
深圳市若芯科技有限公司CTO周芃主題分享
華為昇思MindSpore架構(gòu)師李政結(jié)合MindSpore框架技術(shù)探索及實(shí)踐經(jīng)驗(yàn),分享了《MindSpore端側(cè)大模型部署助力OS智能化》的報(bào)告,講解如何解決AI大模型的部署與應(yīng)用挑戰(zhàn)。李政提到,“生成式AI大模型正悄然改變?nèi)藗児ぷ骱蜕?AI大模型與智能終端相結(jié)合勢(shì)必引發(fā)新的體驗(yàn)。然而受終端設(shè)備算力和存儲(chǔ)制約,AI大模型端側(cè)部署面臨諸多挑戰(zhàn)”。他在報(bào)告中介紹了MindSpore在大模型端側(cè)部署及推理加速已展開的探索和相關(guān)技術(shù)思路。作為云端邊全場(chǎng)景訓(xùn)推一體開源AI框架,MindSpore深度參與HarmonyOSAI智能業(yè)務(wù)場(chǎng)景的性能優(yōu)化,大量落地華為手機(jī)、平板、手表、筆記本、智慧屏、智能車等終端產(chǎn)品。
華為昇思MindSpore架構(gòu)師李政主題分享
在OS原生智能分論壇的最后環(huán)節(jié),由論壇主持人華為AI大模型應(yīng)用開發(fā)平臺(tái)架構(gòu)師王磊,出品人華為昇思MindSpore總架構(gòu)師金雪鋒及演講嘉賓進(jìn)行了主題為“端側(cè)大模型及應(yīng)用的技術(shù)前沿挑戰(zhàn)及解決方案思路”的圓桌討論,進(jìn)一步深入探討了OS原生智能下的AI應(yīng)用架構(gòu)和框架、模型訓(xùn)推框架、模型架構(gòu)及算法方面的技術(shù)構(gòu)想和思路。
“端側(cè)大模型及應(yīng)用的技術(shù)前沿挑戰(zhàn)及解決方案思路”圓桌討論
至此,第二屆OpenHarmony技術(shù)大會(huì)OS原生智能分論壇圓滿落幕。各位技術(shù)專家與業(yè)界大咖的分享,展示了OpenHarmony在原生智能領(lǐng)域的技術(shù)潛力與應(yīng)用實(shí)踐,也展望了AI大模型與操作終端深度結(jié)合后,必將帶來大模型擴(kuò)展能力邊界、終端設(shè)備更加智能的“雙贏”前景。而隨著越來越多原生智能領(lǐng)域的技術(shù)專家和行業(yè)精英加入OpenHarmony社區(qū),也必將推動(dòng)OpenHarmony生態(tài)枝繁葉茂。期待更多伙伴加入OpenHarmony技術(shù)和生態(tài)共建中,攜手以“技術(shù)筑生態(tài),智聯(lián)贏未來”。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
