目前,大模型在金融領(lǐng)域的應(yīng)用已初具規(guī)模。當(dāng)下,積極創(chuàng)新大模型技術(shù),加快推動(dòng)大模型與與金融行業(yè)整合發(fā)展,是助力大模型落地金融各大場(chǎng)景的主要研究方向。度小滿一直以來不斷創(chuàng)新大模型技術(shù),提升自身在大模型等前沿技術(shù)領(lǐng)域的技術(shù)實(shí)力。在百度世界·度小滿金融大模型前沿發(fā)展論壇上,度小滿CEO朱光表示:未來五年,生成式AI將成為度小滿在金融領(lǐng)域的主攻方向。
度小滿不斷加大金融垂類大模型及應(yīng)用布局
10月17日下午,百度世界·度小滿金融大模型前沿發(fā)展論壇在北京召開,中國(guó)工程院院士鄔賀銓在大會(huì)上表示“金融大模型改變了金融科技的范式,重塑金融行業(yè)的工作方式,改變了金融服務(wù)生態(tài)。”
中國(guó)工程院院士鄔賀銓發(fā)表主題演講
鄔賀銓指出,金融大模型的發(fā)展需要全行業(yè)共同參與,合作開發(fā),“基礎(chǔ)大模型多數(shù)從通用語料訓(xùn)練生成,通識(shí)能力強(qiáng),可作聊天對(duì)話,但缺少行業(yè)專業(yè)知識(shí),需要大模型提供方與垂直行業(yè)合作開發(fā)行業(yè)大模型”。
以度小滿的開源金融大模型“軒轅”為例,它是將預(yù)訓(xùn)練數(shù)據(jù)(一般預(yù)訓(xùn)練、金融預(yù)訓(xùn)練)和指令數(shù)據(jù)(一般指令、金融指令)隨機(jī)混洗到一個(gè)訓(xùn)練數(shù)據(jù)中進(jìn)行混合微調(diào),通過多階段逐漸訓(xùn)練緩解預(yù)訓(xùn)練和微調(diào)間數(shù)據(jù)不匹配問題,提高模型的表達(dá)、理解、遷移和泛化能力。
度小滿CEO朱光表示,“未來五年,生成式AI在金融領(lǐng)域的應(yīng)用,將成為度小滿最重要的戰(zhàn)略方向。度小滿將不斷加大金融垂類大模型及應(yīng)用的布局和投入,和業(yè)界一起把握機(jī)遇,推動(dòng)新一輪金融科技發(fā)展浪潮。”
金融大模型的發(fā)展仍面臨三方面挑戰(zhàn)
鄔賀銓認(rèn)為,金融大模型的發(fā)展目前仍面臨著三方面挑戰(zhàn)。首先是金融行業(yè)對(duì)數(shù)據(jù)安全性、隱私合規(guī)性都有著嚴(yán)格的要求。尤其是在風(fēng)控方面,對(duì)時(shí)效性與精準(zhǔn)性要求嚴(yán)格,而一般的基礎(chǔ)大模型透明性、可信性、專業(yè)性不足,很難直接遷移為金融大模型。
第二點(diǎn)是金融大數(shù)據(jù)在成本與質(zhì)量上的平衡問題。由于金融行業(yè)內(nèi)的數(shù)據(jù)難以共享,因此金融大模型的數(shù)據(jù)規(guī)模遠(yuǎn)遠(yuǎn)不及通用語料,導(dǎo)致金融大模型難以產(chǎn)生“智能涌現(xiàn)”的效果。
第三則是本地私有部署需要自建算力設(shè)施,對(duì)軟硬件產(chǎn)品有嚴(yán)格的信創(chuàng)要求,而且參數(shù)規(guī)模大則算力成本高。
對(duì)于金融大模型的落地應(yīng)用途徑,鄔賀銓院士建議:一是從可控入手開發(fā)應(yīng)用,例如智能客服、智能運(yùn)營(yíng)、寫文章、寫郵件等安全的領(lǐng)域出發(fā)。二是從人機(jī)混合智能切入,例如在初期階段先讓金融大模型與傳統(tǒng)模型共存,經(jīng)應(yīng)用考驗(yàn)后再將金融大模型逐步替代傳統(tǒng)模型。同時(shí)還可以通過變換場(chǎng)景,豐富大模型的場(chǎng)景遷移學(xué)習(xí)能力,或加入反事實(shí)的數(shù)據(jù)來測(cè)試,改進(jìn)AI的學(xué)習(xí)本質(zhì),提高模型的泛化能力。也可以在金融大模型訓(xùn)練或微調(diào)時(shí)通過有監(jiān)督學(xué)習(xí)思維鏈的模式,通過專家介入引導(dǎo)它一步一步地進(jìn)行思維推理。
中國(guó)工程院院士鄔賀銓(左)與度小滿CEO朱光(右)交流
從開源金融大模型“軒轅”開始,度小滿持續(xù)加強(qiáng)對(duì)前沿技術(shù)的研究力度,積極攻克技術(shù)難題,推動(dòng)生成式AI在金融領(lǐng)域落地。未來,度小滿將繼續(xù)聚焦金融大模型,不斷創(chuàng)新大模型在金融領(lǐng)域的應(yīng)用與落地途徑,借助前沿科技提高對(duì)金融數(shù)據(jù)的理解與應(yīng)用能力。
(免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 )