適配更多國產(chǎn)芯片 智譜AI推出第三代基座大模型ChatGLM3

10月27日消息,智譜AI于2023中國計算機大會(CNCC)上,推出了全自研的第三代基座大模型ChatGLM3及相關(guān)系列產(chǎn)品,這也是智譜AI繼推出千億基座的對話模型ChatGLM和ChatGLM2之后的又一次重大突破。

此次推出的ChatGLM3采用了獨創(chuàng)的多階段增強預訓練方法,使訓練更為充分。評測顯示,在44個中英文公開數(shù)據(jù)集測試中,ChatGLM3在國內(nèi)同尺寸模型中排名首位。智譜AI CEO張鵬在現(xiàn)場做了新品發(fā)布,并實時演示了最新上線的產(chǎn)品功能。

ChatGLM3全新技術(shù)升級 更高性能更低成本

通過更豐富的訓練數(shù)據(jù)和更優(yōu)的訓練方案,智譜AI推出的ChatGLM3性能更加強大。與ChatGLM2相比,MMLU提升36%、CEval提升33%、GSM8K提升179% 、BBH提升126%。

同時,ChatGLM3瞄向GPT-4V本次實現(xiàn)了若干全新功能的迭代升級,包括多模態(tài)理解能力的CogVLM-看圖識語義,在10余個國際標準圖文評測數(shù)據(jù)集上取得SOTA;代碼增強模塊Code Interpreter根據(jù)用戶需求生成代碼并執(zhí)行,自動完成數(shù)據(jù)分析、文件處理等復雜任務;網(wǎng)絡搜索增強WebGLM-接入搜索增強,能自動根據(jù)問題在互聯(lián)網(wǎng)上查找相關(guān)資料并在回答時提供參考相關(guān)文獻或文章鏈接。ChatGLM3的語義能力與邏輯能力得到了極大的增強。
ChatGLM3還集成了自研的AgentTuning技術(shù),激活了模型智能體能力,尤其在智能規(guī)劃和執(zhí)行方面,相比于ChatGLM2提升了1000% ;開啟了國產(chǎn)大模型原生支持工具調(diào)用、代碼執(zhí)行、游戲、數(shù)據(jù)庫操作、知識圖譜搜索與推理、操作系統(tǒng)等復雜場景。

此外,ChatGLM3本次推出可手機部署的端測模型ChatGLM3-1.5B和 ChatGLM3-3B,支持包括vivo、小米、三星在內(nèi)的多款手機以及車載平臺,甚至支持移動平臺上CPU芯片的推理,速度可達20 tokens/s。精度方面1.5B和3B模型在公開benchmark上與ChatGLM2-6B模型性能接近。

基于最新的高效動態(tài)推理和顯存優(yōu)化技術(shù),ChatGLM3當前的推理框架在相同硬件、模型條件下,相較于目前最佳的開源實現(xiàn),包括伯克利大學推出的 vLLM 以及Hugging Face TGI的最新版本,推理速度提升了2-3倍,推理成本降低一倍,每千tokens僅0.5分,成本最低。

新一代“智譜清言”上線 國內(nèi)首推代碼交互能力

在全新升級的ChatGLM3賦能下,生成式AI助手智譜清言已成為國內(nèi)首個具備代碼交互能力的大模型產(chǎn)品(Code Interpreter)。

“代碼”功能目前已支持圖像處理、數(shù)學計算、數(shù)據(jù)分析等使用場景。以下分別為:

處理數(shù)據(jù)生成圖表

代碼繪制圖形

上傳SQL代碼分析

隨著WebGLM大模型能力的加入,智譜清言也具有了搜索增強能力,可以幫助用戶整理出相關(guān)問題的網(wǎng)上文獻或文章鏈接,并直接給出答案。

此前已發(fā)布的CogVLM 模型則提高了智譜清言的中文圖文理解能力,取得了接近GPT-4V的圖片理解能力,它可以回答各種類型的視覺問題,并且可以完成復雜的目標檢測,并打上標簽,完成自動數(shù)據(jù)標注。

自2022年初,智譜AI推出的GLM系列模型已支持在昇騰、神威超算、海光DCU架構(gòu)上進行大規(guī)模預訓練和推理。截至目前,智譜AI的產(chǎn)品已支持10余種國產(chǎn)硬件生態(tài),包括昇騰、神威超算、海光DCU、海飛科、沐曦曦云、算能科技、天數(shù)智芯、寒武紀、摩爾線程、百度昆侖芯、靈汐科技、長城超云等。通過與國產(chǎn)芯片企業(yè)的聯(lián)合創(chuàng)新,性能不斷優(yōu)化,將有助于國產(chǎn)原生大模型與國產(chǎn)芯片早日登上國際舞臺。

智譜AI此次推出的ChatGLM3及相關(guān)系列產(chǎn)品,全面提升了自身的模型性能,為業(yè)界打造了更開放的開源生態(tài),并進一步降低了普通用戶使用AIGC產(chǎn)品的門檻。AI正在引領我們進入一個新的時代,大模型必將加速這一時刻的到來。

極客網(wǎng)企業(yè)會員

免責聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性,但不保證有關(guān)資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時,應及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明,并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實,溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。

2023-10-27
適配更多國產(chǎn)芯片 智譜AI推出第三代基座大模型ChatGLM3
10月27日消息,智譜AI于2023中國計算機大會(CNCC)上,推出了全自研的第三代基座大模型ChatGLM3及相關(guān)系列產(chǎn)品。

長按掃碼 閱讀全文