服務(wù)大型金融機(jī)構(gòu),經(jīng)受上萬坐席考驗,聊一聊AI工程化落地最佳實踐!

服務(wù)大型金融機(jī)構(gòu),經(jīng)受上萬坐席考驗,聊一聊AI工程化落地最佳實踐!

當(dāng)前,AI在金融行業(yè)的應(yīng)用落地上,智能客服與聯(lián)絡(luò)中心是最為成熟的,容聯(lián)云AI服務(wù)眾多大型金融機(jī)構(gòu)的營銷與運營體系,經(jīng)受上萬坐席考驗,近日,內(nèi)部訪談了容聯(lián)AI實驗室及工程化團(tuán)隊,聊一聊AI工程化落地最佳實踐。

本次對話干貨滿滿,揭秘AI在大型金融機(jī)構(gòu)落地的過程、效果與未來趨勢。

主要探討問題:

1、未來金融機(jī)構(gòu)的AI圖景

2、AI如何在技術(shù)側(cè)服務(wù)金融機(jī)構(gòu)?

3、AI的投入分別解決金融機(jī)構(gòu)哪些痛點?產(chǎn)生什么效果?

4、除了算法算力的工程化,AI的運營有沒有可復(fù)制的方法論?

5、AI賦能下的企業(yè)數(shù)字化是什么樣子的?

未來金融機(jī)構(gòu)的AI圖景

未來趨勢一:橫向拓寬,從單一應(yīng)用切入,做智能化矩陣

服務(wù)大型金融機(jī)構(gòu),經(jīng)受上萬坐席考驗,聊一聊AI工程化落地最佳實踐!

過去大部分金融機(jī)構(gòu)布局智能化從一個單點——外呼機(jī)器人作為抓手切入整個智能化市場。

隨著金融機(jī)構(gòu)數(shù)字化的不斷深入,單一應(yīng)用不能完全滿足營銷與運營體系建設(shè),也催生了從過去做單一應(yīng)用,開始向智能應(yīng)用矩陣發(fā)展。

除了外呼機(jī)器人,還有導(dǎo)航機(jī)器人、坐席助手機(jī)器人,陪練機(jī)器人等,還有多渠道接入的客服性機(jī)器人等,這都是從不同的場景出發(fā),來滿足客服中心橫向發(fā)展的一些應(yīng)用化的產(chǎn)品。

總結(jié):金融機(jī)構(gòu)無論是對CC還是AICC的采購或選型不是為了做單一應(yīng)用,做單一應(yīng)用稱之為煙囪式的做法,未來會基于平臺會做出更多符合自己業(yè)務(wù)場景的應(yīng)用性產(chǎn)品。

未來趨勢二:產(chǎn)品頂層設(shè)計——從應(yīng)用到垂直化平臺

服務(wù)大型金融機(jī)構(gòu),經(jīng)受上萬坐席考驗,聊一聊AI工程化落地最佳實踐!

這幾年金融科技口的人員,對AI的理解、AI的落地場景的探索也越來越深,企業(yè)考慮的不單單是能否解決問題,也要考慮技術(shù)架構(gòu)的前瞻性,拓展性和合理性。

一套系統(tǒng)的建設(shè)在企業(yè)通常是要花很大的人力,財力去建設(shè)的,一旦運行之后,必然要求穩(wěn)定和靈活兼具,但是可靠性和靈活性是在架構(gòu)設(shè)計之初就決定了的,在生產(chǎn)和測試階段再考慮就非常困難了,這個是基石,做不好的話,再往上走,做的越多犯錯的風(fēng)險就越大。

另外,大型的行業(yè)客戶IT技術(shù)架構(gòu)跟互聯(lián)網(wǎng)的IT架構(gòu)風(fēng)格還是有所不同的,核心的幾個點,比如:安全、災(zāi)備、容錯等有較大的區(qū)別,所以,設(shè)計的時候也不能一概而論,還要結(jié)合產(chǎn)品的市場定位來考慮。

過去完全依賴售前去做咨詢服務(wù),再去做應(yīng)用落地,未來這種方式在真正落地AI的時候?qū)⒎浅M纯唷?/p>

在這種大的背景下,我們建議可以做兩個布局:

第一:可以把通訊/呼叫等聯(lián)絡(luò)層和AI能力做一個整體分離,通訊解決溝通、連接的問題,AI解決智能化、能力輸出的問題。

第二:對于產(chǎn)品頂層設(shè)計,我們建議做框架性的設(shè)計,一平臺+N中心的架構(gòu)。

AI其實有一些非常共性的技術(shù),還有一些數(shù)據(jù)運營的方法,每一個應(yīng)用如果從0~1做工程搭建是極其耗時耗力的過程,創(chuàng)新的成本也是極高的。

服務(wù)大型金融機(jī)構(gòu),經(jīng)受上萬坐席考驗,聊一聊AI工程化落地最佳實踐!

可以打造一個完整AI的中臺,同時還附帶多個中心,比如應(yīng)用中心、知識中心、數(shù)據(jù)中心。在這些中心里,提供比較完整的運營方法論,以及將運營方法的落地所需要的一系列的工具,包括數(shù)據(jù)爬取,數(shù)據(jù)清洗,還有數(shù)據(jù)標(biāo)注、標(biāo)簽分類等。

搭建AI中臺,可以考慮跟AI相關(guān)的能力組件、應(yīng)用支撐性的運營工具,做能力性的下沉,放進(jìn)中臺,同時也將一些數(shù)據(jù)標(biāo)注、數(shù)據(jù)清洗放進(jìn)中臺,從自下而上形成整個AI平臺化的架構(gòu)。機(jī)構(gòu)可以借助這個平臺化的工具,快速實現(xiàn)應(yīng)用場景的落地,避免了完全從零開始的重復(fù)工作。

這也是容聯(lián)云AI kernel誕生的初衷,我們稱之為AI kernel云梯平臺,助力企業(yè)向平臺化建設(shè)轉(zhuǎn)型。

搭完AI中臺之后,可以快速沉淀一套算法能力,一套數(shù)據(jù)運營方法以及一套訓(xùn)練發(fā)布平臺。對前臺的應(yīng)用來講,可以快速和底層本地進(jìn)行集成,無須關(guān)注各種算法調(diào)參和模型評測,同時,通過應(yīng)用來結(jié)合企業(yè)業(yè)務(wù)場景來做快速的落地。

總結(jié):通過構(gòu)建一個AI中臺來沉淀一些共享式的服務(wù),然后提升服務(wù)的復(fù)用率,打破這種煙囪、項目制之間的集成或協(xié)作壁壘。能快速降低潛在業(yè)務(wù)的一些試錯成本,賦予業(yè)務(wù)快速創(chuàng)新的能力,然后能最終提升企業(yè)的效率。

技術(shù)與實踐Q&A

Q:除了應(yīng)用和平臺,AI如何在技術(shù)側(cè)服務(wù)金融機(jī)構(gòu)?

第一,構(gòu)建從應(yīng)用到對話引擎,到NLP引擎這種算力算法的一體化解決方案。

我們要再做垂直領(lǐng)域更深層算法的拓展,實際上除了NLP常規(guī)的包括分類,聚類,知識推薦,文本摘要,長句壓縮,分詞詞性,詞向量等這一系列單項任務(wù)之外,容聯(lián)也一直在探索知識圖譜的落地。

但我們并不像業(yè)界的二維表格來做,我們是真正基于知識圖譜,三元組的實體提取,實體之間的關(guān)系建立,然后再到圖庫的展示,我們會做一整套的技術(shù)底層的實踐和落地。有了這些技術(shù)之后,再考慮把這些技術(shù)應(yīng)用到對話系統(tǒng)里面去,形成一個完整的KBQA的應(yīng)用,讓它們能完成包括多維度,多渠道支持的輸出,這樣能豐富整個應(yīng)用場景,同時也能帶來更好的體驗。

第二,提供機(jī)器標(biāo)注和反向推薦的一些算法。

服務(wù)大型金融機(jī)構(gòu),經(jīng)受上萬坐席考驗,聊一聊AI工程化落地最佳實踐!

在去做數(shù)據(jù)標(biāo)注的過程中,可以通過機(jī)器初標(biāo)和知識反向推薦算法來輔助人工,快速的進(jìn)行標(biāo)注,不需要完全的從頭到尾的去做標(biāo)注,同時,在算法這一側(cè),我們一直在解決一個什么問題呢?過去,我們一直在說AI是離不開大數(shù)據(jù)的,但其本質(zhì)原因就在于AI現(xiàn)在的深度學(xué)習(xí)需要大量的數(shù)據(jù)。自從Google推出transformer這種模型之后,它有了預(yù)訓(xùn)練模型之后,所需的數(shù)據(jù)量大大在減少,每一個標(biāo)簽僅需要少量樣本就可以搭建初版模型進(jìn)行系統(tǒng)冷啟。

我們現(xiàn)在還有一個思路來完善語料積累,就是通過文本生成的算法來輔助數(shù)據(jù)標(biāo)注人員。在人工少量標(biāo)注的情況下,進(jìn)行標(biāo)簽的擴(kuò)充,再通過聚類算法整合發(fā)散語料,不斷反復(fù)這個過程,能快速適應(yīng)新場景,同時保證維持模型的效果。當(dāng)然我們還提供了數(shù)據(jù)增強(qiáng)方法,結(jié)合我們自己的詞庫、相似問庫不斷擴(kuò)充語料的多樣性和豐富性,通過機(jī)器做了大量前期工作,人工的工作量自然就降低了。

Q:很多機(jī)構(gòu)的痛點是投入很多人維護(hù)話術(shù),能否用技術(shù)手段來解決?

我們的AI實驗室在這個方向的一些探索給出了答復(fù)。技術(shù)上可以通過情感分析SPO三元組細(xì)粒度情感標(biāo)簽建模,對歷史話術(shù)做篩選,前期需要少量做標(biāo)注,然后訓(xùn)練,重復(fù)這個過程,模型會越來越好。使用模型對話術(shù)進(jìn)行分類,評分,聚類,聚類之后話術(shù)多樣性也出來了,但是優(yōu)秀話術(shù)不等于成單話術(shù),關(guān)鍵是對成單話術(shù)做關(guān)聯(lián)關(guān)系的挖掘,得到不同情況下的優(yōu)秀話術(shù),推薦系統(tǒng)也依賴模型評分做排序,在通過顯式采納和隱式采納不斷反饋給模型做訓(xùn)練。

Q:什么情況下該上AI?什么情況下不該上?有沒有一個邊界指標(biāo)?

絕不貿(mào)然上AI,充分了解當(dāng)前技術(shù)的上限,做出完美匹配方能成功落地

從NLP應(yīng)用角度看,對話是目前最為流行也是相對成熟的領(lǐng)域,市場上有很多服務(wù)商做對話,但真正要做好是非常困難的。除了搭建好對話系統(tǒng)經(jīng)典架構(gòu),比如:NLU,DST,DPL,DM,NLG等獨立子系統(tǒng),特別是對話策略模塊要花特別長時間打磨,同時,還要考慮結(jié)合當(dāng)前技術(shù)上限以及用戶的使用下限。

比如說,外呼機(jī)器人,機(jī)器人跟用戶對話的意圖理解準(zhǔn)確率和整通電話所能達(dá)到的通過率有個最低要求的,比如:單輪理解要求大于95%,整通對話通過率不能低于85%。如果單獨講在技術(shù)上做到98%,實際落地卻無法達(dá)到用戶要求的最低指標(biāo),這個無法落地的,或者說落地也是毫無價值的。

當(dāng)然還有坐席輔助場景和智能陪練場景下,話術(shù)推薦和思路導(dǎo)航的準(zhǔn)確率也是有個最低要求的,甚至還要跟過去人工業(yè)務(wù)指標(biāo)對比,如果人工比AI強(qiáng)出太多,都不足以彌補(bǔ)減少人工帶來的成本節(jié)約,或者在營銷場景下AI對業(yè)務(wù)實際轉(zhuǎn)化率跟人工差距太大,這個時候是不能貿(mào)然上AI。

所以對話目前一定是在限定領(lǐng)域限定場景的任務(wù)型對話系統(tǒng),背后依賴場景數(shù)據(jù)和VUI收斂問法、業(yè)務(wù)話術(shù)庫的支撐才能達(dá)到用戶的要求。

Q:這些技術(shù)在實際應(yīng)用中產(chǎn)生了什么樣的效果?

AI已經(jīng)真正成為銀行催收部門一個生產(chǎn)系統(tǒng)

比如說催收場景的催回率,人工過去的催回率是多少呢?業(yè)界有一個標(biāo)準(zhǔn),在M1一M2階段大概在70%左右,這是一個相對比較合理的,因為前期人工提醒居多,大概維持在這個水平,那現(xiàn)在AI的催收,已經(jīng)基本快逼近這樣的數(shù)字了,這樣對比下,AI的價值就非常大了。

拿我們在服務(wù)某大型銀行舉例,整個AI的座席人員,技術(shù)上稱之為并發(fā)數(shù),已經(jīng)突破了2000席,AI已經(jīng)真正的成為銀行催收部門一個生產(chǎn)系統(tǒng),用它來進(jìn)行生產(chǎn),會帶來極大效率的提升,替代了過去銀行在M0一M1這個階段2000席BPO外包,帶來極大的提升。

營銷線索路徑標(biāo)簽化后推廣成功率大幅提升

具體到某個環(huán)節(jié)的改善,比如說營銷線索的路徑標(biāo)簽化。簡單來講,在營銷環(huán)節(jié),為客戶去做用戶畫像的標(biāo)簽,對二輪篩選就會有很大的提升。

比如說我們在某大型保險公司實施百萬醫(yī)療險營銷場景的外呼任務(wù),目前的并發(fā)路數(shù)已經(jīng)到了600多路,過去百萬醫(yī)療險人工座席的推廣成功率在7%,現(xiàn)在AI已經(jīng)可以做到5%,這就是用AI篩選出來的,再用人工去跟進(jìn),基本也能跟人工去持平,但是會節(jié)省了大量的第一次篩選的工作。第一次篩選的工作反復(fù)的高掛機(jī)率會極大打擊人工坐席的信心和情緒,因此,人機(jī)協(xié)同模式在保險營銷場景得到了極大的推廣。

有了AI指標(biāo),再結(jié)合業(yè)務(wù)指標(biāo),兩個指標(biāo)一旦做了平衡,比如AI指標(biāo)準(zhǔn)確召回已經(jīng)達(dá)到了雙85或者雙90,這個時候AI在生產(chǎn)方面就能帶來極大的效率提升,這也是企業(yè)會為此買單的一個重要的原因,也是AI落地的最佳實踐。

Q:除了算法算力的工程化,AI的運營有沒有可復(fù)制的方法論?

AI不運營,效果=0,有章可循,有跡可查

我們一直在強(qiáng)調(diào)AI和運營目前這個階段其實是密不可分的。因為我們處的這個時代,雖然說趕上了AI的第五次浪潮,但是AI技術(shù)本身,還是有比較明顯的短板,背后其實離不開大量數(shù)據(jù)的支撐。

如果我們做一個測試,在現(xiàn)在的預(yù)訓(xùn)練模型之下,大概在50~100條或200條這樣一個數(shù)據(jù)的測試下,會發(fā)現(xiàn)在算法基本保持一致的情況下,50條數(shù)據(jù)大概有一個初版模型,沒有經(jīng)過任何優(yōu)化,就能達(dá)到接近80%。放100條語料之后,馬上就越過了85%,當(dāng)放到200條的時候,躍升到90%。

AI在運營過程中要有數(shù)據(jù)的支持,用高質(zhì)量數(shù)據(jù)提升算法指標(biāo)來的最為簡單和直接,甚至好過了算法調(diào)參的各種詭異表現(xiàn)。因此要不斷的去做數(shù)據(jù)的回流。所以運營工作在AI智能化趨勢上是極其重要的,甚至說比算法可能還要重要。這部分可以形成一套AI落地的方法論。

這樣特別像一個咨詢公司做的事情,他們可能會輸出一套咨詢理論,其實運營方法就是AI的咨詢理論。這套理論是有章可循,有跡可查的,不是憑空來的,也不是包裝出來的,是可以輸出也是可以賦能,輔助現(xiàn)在的AI算法,形成一套相對比較完整的數(shù)據(jù)運營方式,這是從算法之外,工程之外,做智能化產(chǎn)品最大的一個收獲。

Q:現(xiàn)在都在談企業(yè)數(shù)字化,AI賦能下的企業(yè)數(shù)字化是什么樣子的?

企業(yè)數(shù)字化到底在數(shù)字化什么?企業(yè)本身在經(jīng)營過程中以及流程制度執(zhí)行過程中就會會生產(chǎn)有很多的數(shù)據(jù),比如:企業(yè)的人事管理,名冊,客戶資料,知識庫,wiki等很多知識和數(shù)據(jù),但這些知識都沒有有效利用起來,都是割離的。但如果圍繞NLP技術(shù)進(jìn)行語義的理解與挖掘,就可以幫企業(yè)去整理構(gòu)建結(jié)構(gòu)化知識,有了結(jié)構(gòu)化知識,就可以落地很多有價值的應(yīng)用場景,甚至說可以直接基于企業(yè)文檔閱讀理解,做檢索和查詢,然后再對接到對話機(jī)器人,以它為窗口可以去橫跨企業(yè)的很多業(yè)務(wù)。

(免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請進(jìn)一步核實,并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負(fù)任何法律責(zé)任。
任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時,應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實,溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 )