7月5日,由中國信息通信研究院承辦的WAIC 2024“邁向AGI:大模型煥新與產(chǎn)業(yè)賦能”論壇在上海成功召開。論壇深度聚焦大模型行業(yè)應用落地、終端智能、大模型安全等前沿熱點話題。云天勵飛董事長兼CEO陳寧博士受邀發(fā)表主題演講,首次展示云天勵飛邊緣AI的戰(zhàn)略全貌。
大模型落地的多重挑戰(zhàn) 邊緣AI提供解法
今年WAIC上,“大模型+行業(yè)”的應用落地成為關(guān)注熱點。
當前,云端大模型落地行業(yè)面臨許多挑戰(zhàn):行業(yè)數(shù)據(jù)缺失,信息反饋緩慢,長尾場景無法覆蓋,模型幻覺等。大模型應用落地進入“深水區(qū)”,上述難點如何應對?云天勵飛的答案是:邊緣AI。
云天勵飛董事長兼CEO陳寧博士
邊緣AI具備三個特點:更低成本、更好的數(shù)據(jù)隱私保護以及更快的響應速度。
近年來,越來越多行業(yè)巨頭開始擁抱邊緣AI:一方面,谷歌、微軟、Meta包括云天勵飛都推出了輕量化大模型支撐邊緣AI的應用;另一方面,蘋果、英偉達等巨頭推出邊緣AI芯片,應用在AI 手機和機器人上,云天勵飛也在2022年底推出DeepEdge 10系列芯片,支撐邊緣端的大模型運行。
此外,邊緣AI讓物聯(lián)網(wǎng)升級成為AIoT,助力大模型落地。國泰君安證券研究所數(shù)據(jù)顯示,隨著AIOT的發(fā)展,未來3年邊緣智能硬件設備將保持50%以上的復合增長率。
從行業(yè)發(fā)展趨勢中可以看到,邊緣AI正在加速到來。
在應用落地層面,邊緣AI分為個人、家庭、城市三類場景:
在個人領(lǐng)域,搭載了邊緣AI的各種3C設備讓每個人都能擁有一個AI Copilot,AI服務隨手可得;
在家庭領(lǐng)域,邊緣AI讓以服務機器人為代表的各種智能終端主動完成家庭任務,成為每個家庭的生活助手;
在城市領(lǐng)域,邊緣AI賦能下的千行百業(yè)實現(xiàn)無數(shù)場景的價值閉環(huán),如公共安全從“被動治理”到“主動預防”,城市治理實現(xiàn)從發(fā)現(xiàn)、分撥到處置、上報的整體閉環(huán)等。
未來,邊緣AI將滲透至物理世界的各個角落
在演講中,陳寧博士提到,邊緣AI的發(fā)展可以分為四個階段:
第一個階段是在邊緣設備上搭載小模型算法,讓邊緣設備具有處理簡單任務的能力,比如在攝像頭中加入車輛識別、人臉識別等算法;
第二階段是視覺語義大模型走向邊緣,代表的產(chǎn)品有AI手機、AI PC等,這也是我們當前所處的階段;
第三階段是端到端行為大模型走向邊緣,在這一階段,各類機器人、智能可穿戴設備將變得隨處可見;
第四階段是通用人工智能時代,屆時我們將進入萬物皆智能的世界。
云天勵飛邊緣AI布局全景
基于當前邊緣AI的發(fā)展趨勢和多年的技術(shù)積累,云天勵飛制定了"2+3+3"邊緣AI的戰(zhàn)略布局全景,即2個技術(shù)平臺——多模態(tài)大模型、NPU加速計算平臺;3類主營業(yè)務——智能硬件、智算運營、智慧行業(yè);3個應用方向——個人Copilot、家庭Copilot、城市Copilot,助力邊緣AI滲透至物理世界的各個角落。
入選信通院2024大模型典型示范應用案例 數(shù)字政務大模型落地實踐
在本次論壇中,中國信息通信研究院發(fā)布了2024大模型示范應用案例,“云天天書”數(shù)字政務大模型榮列其中。
云天勵飛提出“E-MAGIC”政務大模型服務框架,集成數(shù)據(jù)交易平臺、AIGC內(nèi)容生成平臺、數(shù)據(jù)加工及分析平臺、GPT大模型訓練中心、輸入提示工程中心和算力支持六大核心組件,利用前沿的AI技術(shù)和大數(shù)據(jù)處理能力,為政府部門提供高效的數(shù)據(jù)服務和智能化解決方案,提升日常辦公的效率及服務質(zhì)量等。
云天勵飛“E-MAGIC”政府大模型平臺架構(gòu)
此外,云天勵飛在某區(qū)全面落地的數(shù)字政府大模型,實現(xiàn)了基層工作“大減負”:比如在12345系統(tǒng),過去人工根據(jù)權(quán)責清單進行點選和事件分撥最快也需要15秒,在應用大模型后3秒后即可實現(xiàn)智能分撥,無需人工參與,還能避免誤操作,效率提升達到80%。
在今年的WAIC上,“大模型+行業(yè)”成為趨勢,如何讓大模型作為新質(zhì)生產(chǎn)力賦能千行百業(yè)是政府部門和企業(yè)都關(guān)心的問題。在這個過程中,云天勵飛將持續(xù)深耕,不斷創(chuàng)新,推動邊緣AI與物理世界的融合,加速推動大模型行業(yè)落地。
（免責聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關(guān)資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負任何法律責任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
