大模型“百團(tuán)大戰(zhàn)”,容聯(lián)云的機(jī)會在哪里?

科技云報(bào)道原創(chuàng)。

“大模型的迭代是一場‘暴力’填數(shù)據(jù)、拔規(guī)模而造就的‘美學(xué)盛宴’”,中金公司研究團(tuán)隊(duì)在“AI浪潮之巔”系列報(bào)告中如是說。

在大模型發(fā)展初期,大模型或許還稱得上是“大廠的游戲”,但半年之后的今天,國內(nèi)10億參數(shù)規(guī)模以上的大模型已發(fā)布79個(gè),大模型賽道迅速完成了從概念到落地的進(jìn)程。

業(yè)內(nèi)開始關(guān)注能夠真正扎進(jìn)行業(yè)、給企業(yè)帶來生產(chǎn)力躍升的大模型產(chǎn)品。

而智能客服和營銷領(lǐng)域,正是大模型改造落地的核心場景之一。

在近日舉辦的2023世界人工智能大會(WAIC 2023)上,容聯(lián)云正式發(fā)布面向企業(yè)應(yīng)用的垂直行業(yè)多層次大語言模型“赤兔大模型”,并發(fā)布了“生成式智能營銷服一體化工作空間——機(jī)器貓”和“生成式一體化智能客服平臺”,旨在推動(dòng)企業(yè)營銷和服務(wù)數(shù)智化轉(zhuǎn)型。

當(dāng)大模型競爭的重點(diǎn)從通用大模型轉(zhuǎn)向行業(yè)大模型,將為產(chǎn)業(yè)帶來什么樣的變化?

行業(yè)大模型?帶來“溝通智能”

當(dāng)下行業(yè)內(nèi)達(dá)成的一個(gè)基本共識是,以ChatGPT為代表的大模型出現(xiàn),標(biāo)志著通用AI的起點(diǎn)和強(qiáng)AI的拐點(diǎn),正在成為新時(shí)代數(shù)字化的“發(fā)電廠”。

利用大模型,以云服務(wù)的方式接入到干行百業(yè),所有數(shù)字化系統(tǒng)和各個(gè)行業(yè)都值得重做一遍,更多人期望大模型能使企業(yè)數(shù)字化業(yè)務(wù)流程更快、更高效、更智能。

因此,作為大模型率先落地的智能客服和營銷領(lǐng)域,正在迎來多方入局。

無論是互聯(lián)網(wǎng)巨頭、運(yùn)營商,還是云、大數(shù)據(jù)、AI等技術(shù)公司,都紛紛發(fā)布大模型試圖進(jìn)軍智能客服領(lǐng)域。然而聚焦到具體的行業(yè)應(yīng)用,通用大模型卻逐漸顯出短板。

比如,內(nèi)容的不可控性。在企業(yè)服務(wù)場景下,很多回答要求正確、嚴(yán)謹(jǐn)、合規(guī),既希望大模型能夠靈活的回答問題,又能夠在專業(yè)內(nèi)容上符合行業(yè)預(yù)期,但通用大模型開放式的生成內(nèi)容,還不能實(shí)現(xiàn)行業(yè)化、場景化的適配。

隨之而來的還有規(guī)模和落地的挑戰(zhàn)。通用大模型的能力來源于規(guī)模大,但正是因?yàn)榇?,限制了企業(yè)應(yīng)用中很多場景的落地,不僅對企業(yè)IT基礎(chǔ)設(shè)施建設(shè)提出了更高的要求,同時(shí)也帶來了更多的成本支出。

如何在通用與行業(yè)兩個(gè)方向平衡,給企業(yè)客戶帶來實(shí)際的“降本增效”,成為了大模型廠商關(guān)注的問題。

很顯然,大模型之路已經(jīng)進(jìn)入一個(gè)新階段,即實(shí)打?qū)嵉亍霸边M(jìn)行業(yè),針對性地給出行業(yè)所獨(dú)有的大模型解決方案。

發(fā)力行業(yè)模型,已成為各家共識。而在這一點(diǎn)上,在國內(nèi)系統(tǒng)化公布行業(yè)大模型解決方案的容聯(lián)云,率先為業(yè)界打了樣。

在容聯(lián)云AI研究院院長劉杰看來,過去的十年里,AI技術(shù)在賦能企業(yè)溝通智能上取得了一系列的成績,但在復(fù)雜的溝通場景中仍會產(chǎn)生策略的缺位。

隨著AI大模型的演進(jìn),展現(xiàn)出在語言能力、多任務(wù)處理和內(nèi)容生成方面的高水平,使人們對AI能力的上限抱有更高的期望,溝通智能也邁向了從1.0到2.0的新時(shí)代。

但如何做出一個(gè)更精準(zhǔn)、更能夠滿足企業(yè)多樣化、靈活化的溝通場景的大模型,不僅僅是在AI基礎(chǔ)能力上進(jìn)行提升,還需圍繞對話、溝通、交流,在會話洞察分析、對話能力提升、人機(jī)協(xié)同等方面都提供更好的能力,從而幫助企業(yè)重構(gòu)智能客服和營銷價(jià)值,完成從“降本增效”到“價(jià)值創(chuàng)造”的進(jìn)化。

對此,劉杰表示,溝通智能2.0應(yīng)具備“四大能力”:懂語言、有知識、會分析、能執(zhí)行。

首先,懂語言。滿足溝通智能2.0的大模型,要能夠在交流層面對對話進(jìn)行多維度、細(xì)粒度的理解和分析,同時(shí)做更好內(nèi)容上的生成和生產(chǎn)。

因此,容聯(lián)云在赤兔大模型上非常關(guān)注會話洞察和業(yè)務(wù)話術(shù)生成兩個(gè)層面。

會話洞察并不是特別新的概念,但有了赤兔大模型后,智能客服和營銷場景在意見挖掘、情感分析、情緒分析、立場檢測、主題檢測等方面都具備了更好的能力。

借助這種洞察,企業(yè)可以在歷史的會話當(dāng)中更深刻、更動(dòng)態(tài)化的理解用戶,給用戶生成動(dòng)態(tài)化的畫像,更好的動(dòng)態(tài)匹配銷售SOP,挖掘金牌話術(shù)以及做一些事后診斷。

在業(yè)務(wù)話術(shù)生成方面,赤兔大模型會在不同場景下對對話進(jìn)行風(fēng)格、內(nèi)容的匹配,并保證業(yè)務(wù)話術(shù)的準(zhǔn)確性、嚴(yán)謹(jǐn)性。

同時(shí),還會通過赤兔大模型能力,以生成的方式分析文檔,抽取標(biāo)準(zhǔn)化的問答,并自動(dòng)生成知識庫,從而降低人工的投入。

其次,有知識。雖然大模型通過大量語料的預(yù)訓(xùn)練已經(jīng)嵌入了豐富的知識,但對于溝通智能2.0而言還不夠。

模型還應(yīng)當(dāng)能夠具備運(yùn)用外部知識的能力,在模型內(nèi)部的通用知識之外,還需要快速、靈活地運(yùn)用外部信息進(jìn)行復(fù)雜操作。

因此,容聯(lián)云圍繞文檔向量庫,用大模型檢索非結(jié)構(gòu)化的文檔,回答專業(yè)的知識。

不僅搭建了一套流水線,還在文檔的切片上以及問答的生成上,都做了垂直領(lǐng)域精準(zhǔn)化、定制化模型具體場景的微調(diào)。這使得赤兔大模型在問題的回答上更加精準(zhǔn),在行業(yè)應(yīng)用中已超越了大部分的大模型。

其次,容聯(lián)云將大模型和結(jié)構(gòu)化數(shù)據(jù)、數(shù)據(jù)庫、知識圖譜進(jìn)行了更深度的融合,進(jìn)一步提升了赤兔大模型對于業(yè)務(wù)數(shù)據(jù)的理解和分析。

尤其是將精準(zhǔn)的行業(yè)知識圖譜與大模型技術(shù)作為互補(bǔ),使得大模型能夠更好地構(gòu)建行業(yè)知識。最終,通過赤兔大模型作為語言接口,企業(yè)能夠快速地分析和獲取結(jié)構(gòu)化數(shù)據(jù)里的知識。

第三,會分析。在溝通過程中,溝通智能2.0的模型應(yīng)該能夠根據(jù)上下文和涉及的信息,對文本、圖像、數(shù)值等數(shù)據(jù)進(jìn)行合理分析和有效推理,并給出合理的決策。這對于智能營銷和特定服務(wù)流程非常重要。

在大模型產(chǎn)生之前,容聯(lián)云已有多年的技術(shù)探索,對結(jié)構(gòu)化的分析和問答有著深刻的技術(shù)積累。

如今赤兔大模型基于這些場景進(jìn)行深度的微調(diào)和預(yù)訓(xùn)練,從而得到了更好交互式的數(shù)值、數(shù)據(jù)的分析和理解能力。

比如,用戶可以通過自然語言的交互生成一些數(shù)據(jù)分析代碼,再通過這些代碼的執(zhí)行,得到可視化的分析,甚至是數(shù)據(jù)的自然語言查詢;同時(shí),還可以為這些數(shù)據(jù)提供文字性、專業(yè)性的解讀和描述,從業(yè)務(wù)的角度給出更垂直化的展示和理解。

最后,能執(zhí)行。溝通智能2.0不僅停留在理解和傳遞信息的層面,還具備像人類服務(wù)模式一樣的執(zhí)行能力。

在對話過程中,它能夠根據(jù)客戶需求連接外部系統(tǒng),執(zhí)行特定動(dòng)作,以完成特定任務(wù),滿足客戶的實(shí)際業(yè)務(wù)的辦理需求。

基于赤兔大模型,容聯(lián)云進(jìn)一步重構(gòu)了智能對話的技術(shù)框架。通過大模型的多輪對話管理,能夠更靈活地完成對話應(yīng)答,并根據(jù)交互內(nèi)容完成業(yè)務(wù)的推薦、查詢和辦理等一系列操作。

與傳統(tǒng)對話機(jī)器人不同的是,企業(yè)不再需要投入大量的時(shí)間和人力構(gòu)建對話話術(shù)的流程圖,赤兔大模型可以在歷史數(shù)據(jù)中自動(dòng)學(xué)習(xí)合理的話術(shù)流程。

同時(shí)基于大模型少樣本的學(xué)習(xí)能力,赤兔大模型構(gòu)建對話流程的能力,可以快速在不同的對話場景和業(yè)務(wù)中進(jìn)行遷移。

企業(yè)只需通過一些指令,對任務(wù)的描述和信息的輸入,就可以靈活的設(shè)置和修改對話流程的管理。

正如劉杰所說,赤兔大模型的應(yīng)用帶來了“單點(diǎn)能力升級、單點(diǎn)能力新增、流程邏輯革新”,這些能力將促成一個(gè)全面發(fā)展的溝通智能系統(tǒng),為企業(yè)和用戶提供更高水平的溝通和服務(wù)體驗(yàn)。

行業(yè)落地需要“務(wù)實(shí)”大模型

盡管大模型很火,但從入局到真正落地并推向市場,其間難度不小。

當(dāng)廠商試圖用大模型解決實(shí)際問題時(shí),往往難以得到滿意的答案。此次容聯(lián)云基于赤兔大模型的產(chǎn)品發(fā)布,則真正在應(yīng)用層面“秀出了肌肉”。

一是容聯(lián)云“生成式智能營銷服一體化工作空間——機(jī)器貓”,基于赤兔大模型重構(gòu)了過去智能客服和營銷里的各種服務(wù)功能,通過統(tǒng)一的平臺/工作空間來設(shè)計(jì)新一代智能客服和營銷產(chǎn)品,首批落地四大應(yīng)用場景,包括客戶聯(lián)絡(luò)、業(yè)務(wù)協(xié)作、AI輔助、智能洞察。

比如,在客戶聯(lián)絡(luò)場景,借助大模型機(jī)器人,“機(jī)器貓”可以解決大部分服務(wù)場景,同時(shí)進(jìn)一步降低機(jī)器人維護(hù)成本和客服數(shù)量,用戶體驗(yàn)提升60%。

在業(yè)務(wù)協(xié)作方面,“機(jī)器貓”可以提供靈活集成、生成式策略推薦、智能填單、智能分配、智能標(biāo)簽提取等能力,進(jìn)一步降低AI運(yùn)營成本,降低客服服務(wù)時(shí)長和客訴數(shù)量,提升坐席效率。

在AI輔助方面,生成式智能應(yīng)用賦能下的AI輔助,不再是CC的附加工具,而真正高效幫助企業(yè)解決管理難題,實(shí)現(xiàn)銷售業(yè)績提升。

在智能洞察方面,基于諸葛智能,“機(jī)器貓”平臺可為用戶提供各種分析模型、行業(yè)指標(biāo)體系問詢,也可以提供實(shí)踐、經(jīng)驗(yàn)分析,幫助企業(yè)快速成長為分析專家,對于數(shù)據(jù)報(bào)表與指標(biāo)、用戶標(biāo)簽與畫像等分析結(jié)果,用戶可以通過語音、文字等多種方式進(jìn)行問答,并得到快速反饋,還可通過語音等驅(qū)動(dòng)進(jìn)行報(bào)表定制。

二是容聯(lián)云“生成式一體化智能客服平臺”,可以將知識生產(chǎn)效率提升70%,對話構(gòu)建成本下降80%,100%提升客戶服務(wù)效率,并為客服人員提供文檔智能問答和抽取,用戶語料、業(yè)務(wù)話術(shù)、流程類方案建議自動(dòng)生成,銷售優(yōu)秀話術(shù)自動(dòng)提煉等能力。

事實(shí)上,容聯(lián)云充分考慮到業(yè)務(wù)場景中的營銷和服務(wù)需求的多元化,在赤兔大模型底座上使用了APaaS平臺,以提升功能模塊的靈活性生成。

比如在以營銷為主的場景里,企業(yè)可以通過拖拉拽的方式,迅速在營銷場景中接入服務(wù)相關(guān)的功能模塊;同樣,在以服務(wù)為主的場景里,企業(yè)也可以快速引入營銷的功能模塊。這樣企業(yè)就可以快速搭建自己的智能客服和數(shù)智化營銷平臺,擁有了一個(gè)能提供生成式智能應(yīng)用的“萬能口袋”。

在容聯(lián)云COO熊謝剛看來,隨著行業(yè)大模型應(yīng)用精準(zhǔn)性的提升,AIGC將完全替代40%傳統(tǒng)客服的工作量,人工主導(dǎo)的客服工作量占比不超過30%,電話語音客服工作量占比不超過20%。

“對于呼叫中心這個(gè)發(fā)展了近60年的領(lǐng)域來說,大模型會帶來一個(gè)很大的技術(shù)變革,很多東西會消亡掉,原有的產(chǎn)品都將被重構(gòu)”,熊謝剛表示。

行業(yè)大模型的落地推進(jìn),除了更智能的表現(xiàn),大模型的訓(xùn)練和運(yùn)營成本、服務(wù)的邊界等問題浮上水面,如何平衡多方面的要求進(jìn)一步成為大模型落地行業(yè)的必考題。

目前,大模型在訓(xùn)練和使用過程中仍面臨高昂的成本投入。對此劉杰表示,在實(shí)際的行業(yè)應(yīng)用中,應(yīng)提倡“務(wù)實(shí)”的大模型。在考慮模型規(guī)模時(shí),不必執(zhí)著于一個(gè)模型解決所有問題。

容聯(lián)云的解法,是將模型劃分為三個(gè)層次,并且讓這三個(gè)層次互相形成閉環(huán):首先有一個(gè)通用知識構(gòu)造的模型底座,進(jìn)而以它為基礎(chǔ),通過積累的領(lǐng)域數(shù)據(jù)做行業(yè)化、領(lǐng)域化的領(lǐng)域模型。

在領(lǐng)域模型的基礎(chǔ)上進(jìn)一步精進(jìn),具體到客戶的業(yè)務(wù)當(dāng)中,基于業(yè)務(wù)的邏輯和數(shù)據(jù)更精準(zhǔn)的垂直化構(gòu)建業(yè)務(wù)模型,指向業(yè)務(wù)明確的大模型應(yīng)用。

這就好比人類在各種公司、各個(gè)組織中,會有專業(yè)領(lǐng)域的劃分和層次的劃分,所以模型也應(yīng)該合理有效的進(jìn)行大、中、小模型的層次劃分,從而達(dá)到更好的配合,比較務(wù)實(shí)的完成行業(yè)服務(wù)和行業(yè)需求。

而在各行業(yè)普遍關(guān)心的數(shù)據(jù)安全合規(guī)方面,容聯(lián)云則設(shè)定了服務(wù)的邊界,通過合理的模型尺度,在企業(yè)客戶內(nèi)部私有化部署,內(nèi)置相應(yīng)的安全機(jī)制和規(guī)范等方式,以滿足行業(yè)對于數(shù)據(jù)安全性的要求。

“要讓行業(yè)客戶通過大模型來認(rèn)同你做的事情,除了前期的投入門檻,還有你做的大模型是不是足夠完整全面,以及你的邊界在哪里。

特別是服務(wù)這種注重體驗(yàn)的場景,或者一些交易類業(yè)務(wù)場景,大模型之下提供的服務(wù)精準(zhǔn)性就變得很重要”,熊謝剛表示。

“行業(yè)認(rèn)知”將拉開競爭差距

事實(shí)上,智能客服和營銷領(lǐng)域作為一個(gè)百億級的潛力市場,一直以來都是兵家必爭之地。

但隨著AI大模型的出現(xiàn),為智能客服的升級提供了新的突破口,越來越多不同類型的廠商開始涌入這片熱土,進(jìn)一步加劇了賽道的競爭。

特別是一些通用大模型的開源,使得過去沒有對話交互技術(shù)的廠商,也能夠很快具備對話的通用能力,這給了容聯(lián)云這類在智能客服領(lǐng)域深耕了十余年的廠商一場迎頭痛擊。

熊謝剛坦言,第一次接觸ChatGPT以后,對智能客服這個(gè)領(lǐng)域的前景感到擔(dān)憂。但隨著容聯(lián)云快速跟進(jìn)大模型的研發(fā),從通用基礎(chǔ)模型進(jìn)一步轉(zhuǎn)向?qū)W⑿袠I(yè)大模型,容聯(lián)云內(nèi)部的信心很快就回來了。

劉杰表示,大模型技術(shù)的確淘汰了過去的技術(shù),這一刻所有廠商都站在了新的起點(diǎn)去賽跑,但各家在技術(shù)的理解、應(yīng)用場景連接和對齊上仍存在差距。

在智能客服領(lǐng)域,企業(yè)客戶要求的不僅僅是快速搭建應(yīng)用,而是模型能力的行業(yè)垂直化,這就要求廠商要有技術(shù)積累和行業(yè)認(rèn)知,才知道用什么樣的數(shù)據(jù),能夠讓模型具備什么樣的能力,解決什么樣的問題。

劉杰舉例道,大模型體量的增大,對于數(shù)據(jù)樣本的量和質(zhì)都有了新的要求,如何收集高質(zhì)量數(shù)據(jù),如何用技術(shù)的手段去擴(kuò)充數(shù)據(jù),得到規(guī)模更大、質(zhì)量更高的數(shù)據(jù)去訓(xùn)練大模型,對所有廠商的技術(shù)都是考驗(yàn)。

同時(shí),大模型必須懂行業(yè),在數(shù)據(jù)規(guī)模沒有那么大的情況下,如何訓(xùn)練出行業(yè)需要的回答?比如有的行業(yè)回答要求精確度,有的要求合規(guī),有的要求上下文保持答復(fù)的一致性,這就需要提供不同大模型的解決方案,對行業(yè)答復(fù)進(jìn)行優(yōu)化。

正因如此,劉杰認(rèn)為,“在一般場景上,大家在通用能力上可能會拉平,初始差距并不大,但前行一段后,就會有相應(yīng)差距出來”。

對于容聯(lián)云而言,其AI團(tuán)隊(duì)早在ChatGPT出現(xiàn)之前就投入了AIGC關(guān)鍵技術(shù)的研發(fā),在對話回復(fù)生成、問題自動(dòng)生成、SQL語句生成方面都取得了突破,核心技術(shù)在權(quán)威競賽和評測榜單中取得多個(gè)第一和Top名次。

在技術(shù)層面,容聯(lián)云很快就適應(yīng)了大模型的技術(shù)變革,并將過往的AI算法研發(fā)經(jīng)驗(yàn)應(yīng)用到大模型技術(shù)調(diào)優(yōu)中。

而專注行業(yè)大模型,尤其是聚焦在金融行業(yè),使得容聯(lián)云能夠充分發(fā)揮自身在金融行業(yè)的認(rèn)知優(yōu)勢。

結(jié)合行業(yè)認(rèn)知和知識積累,容聯(lián)云進(jìn)一步將大模型領(lǐng)域化、垂直化,這將極大拉開與同行的競爭差距。

不僅如此,熊謝剛還認(rèn)為,基于大模型做好業(yè)務(wù)應(yīng)用的創(chuàng)新,也將成為容聯(lián)云未來的競爭力。

“回想iPhone作為劃時(shí)代的產(chǎn)品,并不是淘汰、消滅了傳統(tǒng)手機(jī),而是它真正帶來了移動(dòng)互聯(lián)網(wǎng)層出不窮的應(yīng)用。

所以今天做大模型不是看改變了過去什么東西,而是用大模型能夠創(chuàng)造什么新的應(yīng)用,包括在細(xì)分的客服和營銷場景,有什么新的應(yīng)用出來”。

熊謝剛表示,“我們不怕大模型會對智能客服整個(gè)賽道做任何的改變,只要抓住了應(yīng)用創(chuàng)新這個(gè)點(diǎn),就可以擁抱這個(gè)改變”。

這種對于未來競爭的信心,也充分體現(xiàn)在容聯(lián)云對大模型的命名中。赤兔作為“日行千里,夜走八百”的戰(zhàn)馬,一方面擔(dān)負(fù)著信息加急傳遞的任務(wù),另一方面更是實(shí)力強(qiáng)勁、能打勝仗的好馬。

赤兔的寓意,代表著容聯(lián)云對于大模型的定位和期望,希望能夠在垂直領(lǐng)域上賦能溝通智能2.0,為整個(gè)行業(yè)的服務(wù)提供助力和支持,并在這場大模型的“百團(tuán)大戰(zhàn)”中沖出重圍。

免責(zé)聲明:此文內(nèi)容為第三方自媒體作者發(fā)布的觀察或評論性文章,所有文字和圖片版權(quán)歸作者所有,且僅代表作者個(gè)人觀點(diǎn),與極客網(wǎng)無關(guān)。文章僅供讀者參考,并請自行核實(shí)相關(guān)內(nèi)容。投訴郵箱:editor@fromgeek.com。

極客網(wǎng)企業(yè)會員

免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請進(jìn)一步核實(shí),并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。

2023-07-19
大模型“百團(tuán)大戰(zhàn)”,容聯(lián)云的機(jī)會在哪里?
大模型“百團(tuán)大戰(zhàn)”,容聯(lián)云的機(jī)會在哪里?

長按掃碼 閱讀全文