TeleAI:人工智能的未來在智傳網(wǎng)AI FLow

1月3日,上海市“人工智能+”行動(dòng)推進(jìn)大會(huì)暨中國—金磚國家人工智能發(fā)展與合作中心基地啟用儀式舉辦。中國電信CTO、首席科學(xué)家、中國電信人工智能研究院(TeleAI)院長李學(xué)龍教授受邀參會(huì)并發(fā)表主旨演講,分享了人工智能領(lǐng)域的一項(xiàng)落地關(guān)鍵技術(shù)——智傳網(wǎng)(AI Flow)。

李學(xué)龍介紹,“連接”是人工智能發(fā)展的關(guān)鍵,落實(shí)“人工智能+”行動(dòng)正是要將技術(shù)創(chuàng)新與產(chǎn)業(yè)需求緊密連接。智傳網(wǎng)讓“智能”也可以連接起來,擺脫設(shè)備和平臺(tái)的限制,在端、邊、云之間自由流動(dòng),隨需響應(yīng),隨處而至。

在研發(fā)布局上,中國電信擁有云網(wǎng)融合、AI、量子與安全等技術(shù)優(yōu)勢,且在算力、數(shù)據(jù)方面構(gòu)建了“息壤”一體化智算平臺(tái)、“星海”數(shù)據(jù)智能中臺(tái)?;诖?,TeleAI重點(diǎn)進(jìn)行智能光電、智能體、智傳網(wǎng)、AI治理的研究,形成“三智”+“一治”的戰(zhàn)略布局。

智傳網(wǎng)是通過網(wǎng)絡(luò)分層架構(gòu),基于智能體間的連接,以及智能體和人的交互,實(shí)現(xiàn)智能傳遞和涌現(xiàn)。它可以打通由AI驅(qū)動(dòng)的“三大空間”,即賽博空間、臨地空間、廣域空間,是下一代人工智能發(fā)展的必經(jīng)之路。

智傳網(wǎng)提供了一種新的服務(wù)模式,能夠發(fā)揮中國電信網(wǎng)絡(luò)優(yōu)勢,解決數(shù)據(jù)傳輸延遲高、網(wǎng)絡(luò)帶寬占用大等問題。人們的未來生活將無不充滿智能的流動(dòng),所有指令都通過可穿戴設(shè)備交互完成,一切都是高效的、有序的、便捷的。

然而,智傳網(wǎng)面臨著一個(gè)非常重要的問題,就是在不同的應(yīng)用場景中,所需要的“智能”各不相同;在不同的計(jì)算平臺(tái)中,能提供的“智能”上限亦不同。那么,如何去量化這種“智能”,從而按需所取?

TeleAI在智傳網(wǎng)的研究中,引入了一系列基礎(chǔ)理論,這其中包含一個(gè)重要概念——“信容定律”。

信容是信息量與數(shù)據(jù)量的比值,即單位數(shù)據(jù)的信息表示能力。在信容定律中,信息量是數(shù)據(jù)集的平均熵與模型訓(xùn)練損失交叉熵的差,再乘以數(shù)據(jù)集 Token 的數(shù)量。如果以模型的參數(shù)量作為數(shù)據(jù)量,那么兩者之比,就是模型的信容。

信容定律為AI的發(fā)展指明了航向,智能是可以被度量的,是可以被連接的,是可以被傳遞的。當(dāng)拿到一個(gè)數(shù)據(jù)集的時(shí)候,不是只看它的大小,而是根據(jù)目標(biāo)訓(xùn)練的模型規(guī)模,為它匹配相應(yīng)大小的數(shù)據(jù)集,并評(píng)估數(shù)據(jù)質(zhì)量,從而去度量模型的智能水平。進(jìn)而可以根據(jù)不同任務(wù)、不同計(jì)算資源,去定制出一系列大小不等且同源的家族模型,從而提升模型的效率。這正是智傳網(wǎng)的第一個(gè)關(guān)鍵點(diǎn),即通過家族模型協(xié)同,實(shí)現(xiàn)向上或向下兼容,以多種方式進(jìn)行切換。

與普通的大小模型協(xié)同不同,在智傳網(wǎng)中家族模型的特征是對(duì)齊的,不需要額外的中間件(Middleware)就可以流暢地共享信息。當(dāng)把多個(gè)家族模型部署在網(wǎng)絡(luò)的不同層上,還能實(shí)現(xiàn)分布式計(jì)算,大幅提升模型的推理效率。

智傳網(wǎng)的第二個(gè)關(guān)鍵點(diǎn)是基于連接和交互的智能涌現(xiàn)。大模型的發(fā)展依賴于數(shù)據(jù)驅(qū)動(dòng)下的智能涌現(xiàn),根據(jù)行業(yè)預(yù)測,高質(zhì)量數(shù)據(jù)資源正在枯竭,不久的將來,新數(shù)據(jù)生成的速度會(huì)遠(yuǎn)遠(yuǎn)趕不上數(shù)據(jù)的消耗速度,這將限制AI能力的進(jìn)一步提升。為了突破這個(gè)瓶頸,智傳網(wǎng)實(shí)現(xiàn)了基于數(shù)據(jù)的智能涌現(xiàn)邁向基于連接和交互的智能涌現(xiàn)。通過模型間的連接協(xié)作、知識(shí)共享及與外部環(huán)境的交互,將表現(xiàn)出超越單個(gè)模型能力上限的智能涌現(xiàn)能力。

智傳網(wǎng)的第三個(gè)關(guān)鍵點(diǎn)是模型復(fù)刻和智能萃取,可以類比成將智能種植到一個(gè)新的大腦。這個(gè)過程不是簡單的知識(shí)蒸餾或遺忘學(xué)習(xí)(Unlearning),而是剔除老模型中的無效信息,萃取最精華的智能,從而得到更加精煉、與之同源且能不斷成長的模型,以適應(yīng)變化的環(huán)境、場景和需求。

據(jù)了解,專注于人工智能創(chuàng)新與應(yīng)用的中國電信人工智能研究院(TeleAI)2024年5月在上海落成,目標(biāo)是發(fā)展有場景、能落地,規(guī)?;腁I技術(shù),并打造可信任的國家人工智能基座,面向世界的舞臺(tái),讓AI既能創(chuàng)造科學(xué)價(jià)值,又能創(chuàng)造經(jīng)濟(jì)價(jià)值。

免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。

2025-01-10
TeleAI:人工智能的未來在智傳網(wǎng)AI FLow
TeleAI:人工智能的未來在智傳網(wǎng)AI FLow,1月3日,上海市“人工智能+”行動(dòng)推進(jìn)大會(huì)暨中國—金磚國家人工智能發(fā)展與合作中心基地啟用儀式舉辦。中

長按掃碼 閱讀全文