6月19日消息,今日,騰訊云首次披露行業(yè)大模型研發(fā)最新進展,依托騰訊云TI平臺打造行業(yè)大模型精選商店,為客戶提供MaaS(Model-as-a-Service)一站式服務(wù),助力客戶構(gòu)建專屬大模型及智能應(yīng)用。
據(jù)悉,當(dāng)前,通用大語言模型在應(yīng)對產(chǎn)業(yè)場景落地時存在一定的局限性。首先,通用大模型的訓(xùn)練數(shù)據(jù)主要來自公開數(shù)據(jù)集或網(wǎng)絡(luò)數(shù)據(jù),對于特定行業(yè)的專業(yè)領(lǐng)域知識了解有限。此外,通用大語言模型的訓(xùn)練需要大量計算資源和漫長的訓(xùn)練周期,這對企業(yè)來說可能昂貴且耗時。同時,安全和合規(guī)也是必要考量因素。
基于客戶實際痛點和需求,騰訊云全新公布MaaS全景圖,依托騰訊云TI平臺打造行業(yè)大模型精選商店,為企業(yè)客戶提供涵蓋模型預(yù)訓(xùn)練、模型精調(diào)、智能應(yīng)用開發(fā)等一站式行業(yè)大模型解決方案。
算力方面,今年4月,騰訊云發(fā)布了專為大模型訓(xùn)練設(shè)計的新一代HCC高性能計算集群,采用最新一代的騰訊云星星海自研服務(wù)器,具備業(yè)界最高的3.2Tbps互聯(lián)帶寬,算力性能提升了3倍。
此外,騰訊云即將推出向量數(shù)據(jù)庫(Tencent Cloud VectorDB),源自騰訊集團每日處理千億次檢索的向量引擎(OLAMA),單索引支持10億級向量規(guī)模,更適用于AI運算、檢索,數(shù)據(jù)接入AI的效率也比傳統(tǒng)方案提升10倍。
平臺層面,騰訊云TI平臺內(nèi)置多個高質(zhì)量行業(yè)大模型,涵蓋金融、傳媒、文旅、政務(wù)、工業(yè)等多個行業(yè)場景,企業(yè)可以結(jié)合自身場景數(shù)據(jù)可按需定制精調(diào),也可以根據(jù)自身需求開展多模型訓(xùn)練任務(wù),大幅降低大模型應(yīng)用門檻。
TI平臺提供完善的大模型工具鏈,包括數(shù)據(jù)標(biāo)注、訓(xùn)練、評估、測試和部署等全套工具。同時,由TI-ACC升級的”太極Angel"提供更優(yōu)的訓(xùn)練和推理加速能力。在傳統(tǒng)CV、NLP算法模型的基礎(chǔ)上,新增了對大模型的訓(xùn)練和推理加速能力,通過異步調(diào)度優(yōu)化、顯存優(yōu)化、計算優(yōu)化等方式,相比行業(yè)常用方案性能提升30%+。
此外,TI平臺沉淀了從“業(yè)務(wù)分析、數(shù)據(jù)處理、大模型選擇”到“模型評測”的一體化完整方法論,同時支持MLOps的體系及工具,保障客戶需求的順利交付。
在配套服務(wù)和安全保障方面,騰訊云提供本地化的訓(xùn)練、落地及陪跑優(yōu)化服務(wù),為客戶掃清落地障礙;依托二十余年的安全經(jīng)驗和風(fēng)控能力,提供AIGC全鏈路內(nèi)容合規(guī)解決方案;針對客戶對數(shù)據(jù)安全需求,提供私有化部署等多種靈活交付方案,加速企業(yè)快速創(chuàng)建和部署AI應(yīng)用。
據(jù)介紹,騰訊云行業(yè)大模型能力已經(jīng)在騰訊企點、騰訊會議、騰訊云AI代碼助手等多款頭部SaaS產(chǎn)品中率先應(yīng)用。其中,騰訊企點基于大模型能力研發(fā)探索全新一代智能客服和企點分析AI助手,旨在全面提升企業(yè)的客服和數(shù)據(jù)分析能力。
騰訊會議宣布即將推出覆蓋會議全流程場景的AI小助手,只需通過簡單自然的會議指令,基于對會議內(nèi)容的理解,就可以完成信息提取、內(nèi)容分析、會管會控等多種復(fù)雜任務(wù)。會后可以自動生成智能總結(jié)摘要,還能基于智能錄制的能力,幫助用戶高效回顧,提升用戶開會和信息流轉(zhuǎn)效率。目前,智能錄制已面向會員、商業(yè)版和企業(yè)版用戶全量開放,其他更多能力將陸續(xù)上線。
騰訊云將推出新一代AI代碼助手,用AI加持來重塑開發(fā)體驗和團隊能力,讓開發(fā)者通過全新的人機協(xié)作,達到高效創(chuàng)作。AI代碼助手支持多種編程語言和主流開發(fā)框架、以及常用開發(fā)環(huán)境;覆蓋開發(fā)關(guān)鍵流程,包括溝通、編碼、排錯、評審和調(diào)優(yōu),高效承接機械性工作,釋放開發(fā)者時間和精力來專注代碼創(chuàng)作,實現(xiàn)開發(fā)全面加速。同時也可以基于正負反饋,不斷訓(xùn)練調(diào)優(yōu)代碼生成過程,實現(xiàn)工具持續(xù)改進。
騰訊云方面披露,基于騰訊HCC高性能計算集群和大模型能力,騰訊云已經(jīng)為傳媒、文旅、政務(wù)、金融等10余個行業(yè)提供了超過50個大模型行業(yè)解決方案。
(免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負任何法律責(zé)任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時,應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明,并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實,溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 )