面壁智能CEO李大海對(duì)話脈脈林凡:端側(cè)大模型中國(guó)與美國(guó)差距較小甚至領(lǐng)先

9月25日消息,由職場(chǎng)社區(qū)和社交平臺(tái)脈脈聯(lián)合騰訊新聞小滿工作室共同打造的原創(chuàng)直播節(jié)目《Fan談大模型》昨日晚間播放了第一期。期間,脈脈創(chuàng)始人兼CEO林凡對(duì)話面壁智能CEO李大海,以《iPhone 16來了,真正的AI手機(jī)離我們還有多遠(yuǎn)?》為主題進(jìn)行了暢談。

李大海認(rèn)為,新一代AI手機(jī)、新一代智能汽車都會(huì)變成“超級(jí)智能體”,基于端側(cè)模型的智能計(jì)算,貼身陪伴用戶、更懂用戶,并幫助用戶建立和世界的交互。但目前iPhone 16的AI功能遠(yuǎn)遠(yuǎn)沒有達(dá)到理想狀態(tài)。

同時(shí)李大海透露,手機(jī)內(nèi)存對(duì)端側(cè)模型的影響顯著。在今年7月,AI產(chǎn)品榜以面壁智能端側(cè)大模型產(chǎn)品MiniCPM為Benchmark 對(duì)國(guó)際主流品牌手機(jī)的大模型性能做了評(píng)測(cè),更小參數(shù)、更高知識(shí)密度的模型在端側(cè)優(yōu)勢(shì)盡顯,已成為行業(yè)共識(shí)。就像iPhone 16的內(nèi)存只有8G,能夠運(yùn)行的模型產(chǎn)品就不會(huì)太大,一定程度上會(huì)制約Apple Intelligence表現(xiàn)。綜合來看,端側(cè)AI對(duì)存儲(chǔ)、能耗、算力的平衡要求很高,需要同時(shí)考慮到手機(jī)等硬件在待機(jī)、續(xù)航、并行任務(wù)處理方面的表現(xiàn)。

林凡在談及端側(cè)大模型給用戶交互形式帶來的變化時(shí)說,端側(cè)大模型的落地,將成為重要的技術(shù)原點(diǎn),交互形式將發(fā)生本質(zhì)的變化。李大海同樣認(rèn)為,未來的AI硬件會(huì)像現(xiàn)在的大模型軟件一樣,分成Copilot(助手)和Agent(智能體)兩種類型,比起Copilot,Agent能夠自主與環(huán)境互動(dòng),做出更自主的決策。未來,會(huì)出現(xiàn)很多的Agent 類型的硬件。

此外,林凡和李大海均表示,在云端大模型領(lǐng)域,中國(guó)相對(duì)落后于美國(guó)1-2年,但在端側(cè)大模型領(lǐng)域,雙方差距不大,在部分技術(shù)方面,中國(guó)已經(jīng)處于國(guó)際領(lǐng)先水平。

李大海透露,端側(cè)大模型自2024年開始成為AI新趨勢(shì),面壁早在今年2月1日就已率先發(fā)布了第一代面壁小鋼炮MiniCPM旗艦端側(cè)模型,能力勝出Mistral-7b, 谷歌Gemma等國(guó)際性能標(biāo)桿模型,憑借以小博大、高效低成本的特點(diǎn)在國(guó)際舞臺(tái)驚艷亮相。前不久發(fā)布的MiniCPM 3.0還帶動(dòng)整個(gè)行業(yè),迎來端側(cè)ChatGPT時(shí)刻,以4B參數(shù)達(dá)到了龐然大物GPT3.5性能水平。在高效稀疏化架構(gòu)創(chuàng)新方面,面壁首創(chuàng)發(fā)布2.8倍推理提速的稀疏化端側(cè)模型。中國(guó)和美國(guó)的端側(cè)大模型技術(shù)起步時(shí)間相當(dāng),在過去的一年里,包括面壁智能在內(nèi)的很多國(guó)內(nèi)大模型公司在Agent方面亦做了很多探索。如今,在端側(cè)模型的多個(gè)領(lǐng)域差別不大,甚至在多模態(tài)技術(shù)等方面比較領(lǐng)先。

林凡認(rèn)為,中國(guó)的云端模型受到美國(guó)對(duì)硬件的限制,在算力上有較大的差距。而端側(cè)大模型主要受內(nèi)存等硬件配置的制約,目前中國(guó)的智能終端產(chǎn)品硬件配置相對(duì)較高,算力不存在瓶頸。加上中國(guó)在端側(cè)大模型的算法方面也有一些前沿的探索,因此,雙方在端側(cè)大模型領(lǐng)域沒有明顯的差距,甚至發(fā)生了美國(guó)斯坦福大學(xué)學(xué)生AI團(tuán)隊(duì)“抄襲”面壁智能大模型產(chǎn)品的事件。

據(jù)了解,《Fan談大模型》節(jié)目自9月24日首播,后續(xù)幾期將在今年10月陸續(xù)上線。

極客網(wǎng)企業(yè)會(huì)員

免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。

2024-09-25
面壁智能CEO李大海對(duì)話脈脈林凡:端側(cè)大模型中國(guó)與美國(guó)差距較小甚至領(lǐng)先
由職場(chǎng)社區(qū)和社交平臺(tái)脈脈聯(lián)合騰訊新聞小滿工作室共同打造的原創(chuàng)直播節(jié)目《Fan談大模型》昨日晚間播放了第一期。期間,脈脈創(chuàng)始人兼CEO林凡對(duì)話面壁智能CEO李大海,以《iPhone 16來了,真正的AI手機(jī)離我們還有多遠(yuǎn)?》為主題進(jìn)行了暢談。 李大海認(rèn)為,新一代AI手機(jī)、新一代智能汽車都會(huì)變成“超級(jí)智能體”,基于端側(cè)模型的智能計(jì)算,貼身陪伴用戶、更懂用戶,并幫助用戶建立和世界的交互。但目前iPhone 16的AI功能遠(yuǎn)遠(yuǎn)沒有達(dá)到理想狀態(tài)。

長(zhǎng)按掃碼 閱讀全文