前言
2023 年是當之無愧的“大模型之年”,據(jù)瑞銀集團的一份報告顯示,ChatGPT 推出僅僅兩個月后,月活用戶已經(jīng)突破了 1 億,成為史上用戶增長速度最快的消費級應用程序。
在炙熱的大模型賽道里,基于中文大模型的發(fā)布也是層出不窮,相較于通用大模型的“大而全”,冪律聯(lián)合智譜 AI 此次聯(lián)合發(fā)布基于中文千億大模型的法律垂直大模型 ——PowerLawGLM,聚焦于法律細分領(lǐng)域,針對中文法律場景的應用效果具有獨特優(yōu)勢,具備豐富的法律知識和法律語言理解能力。
一、“法律垂直大模型”的誕生
通用大模型是具有強大語言理解能力和生成能力的人工智能模型,但由于專業(yè)知識及數(shù)據(jù)的欠缺,將通用大模型直接應用在法律領(lǐng)域,往往存在著嚴重的效果問題,例如法律知識錯誤、專業(yè)引用偏差、法律體系差異等問題。比如前段時間美國律師使用 ChatGPT 來提交法庭簡報,結(jié)果引用的 6 個案例都是 ChatGPT 編造的虛假案例,這種“人工智能幻覺”現(xiàn)象在法律場景屢見不鮮,也說明了目前通用大模型難以保證法律專業(yè)層面的真實性、正確性。
冪律智能自 2017 年成立以來即深耕于法律 + AI 領(lǐng)域,基于領(lǐng)先的法律 AI 能力,向企業(yè)提供智能合同產(chǎn)品,并且深度參與了清華大學自然語言處理實驗室的 OpenCLaP、LawFormer 等法律大模型的研發(fā)及應用。而智譜 AI 作為領(lǐng)先的通用大模型廠商,法律領(lǐng)域是其大模型迭代及布局的重要方向,基于雙方達成的戰(zhàn)略合作,在法律大模型上展開深度合作,來加快推動大模型在法律行業(yè)應用落地及商業(yè)化。
自 2023 年初雙方成立聯(lián)合項目組,啟動法律大模型研發(fā)以來,經(jīng)過千億規(guī)模的基座模型增量訓練、對話層監(jiān)督微調(diào)、應用層工程優(yōu)化,推出了基于中文千億大模型的法律垂直大模型 ——PowerLawGLM。
二、“PowerLawGLM”的打造
PowerLawGLM 法律大模型,基于智譜目前效果最好的 ChatGLM 130B 通用千億對話大模型進行聯(lián)合研發(fā)。在 2022 年 11 月斯坦福大學基礎模型中心對全球 30 個大模型的評測結(jié)果中,GLM-130B 是亞洲唯一入選的 Top10 大模型。
訓練法律垂直大模型第一步 —— 基座層:閱讀大量法律文本。
通用大模型在法律場景的應用效果問題,最基礎的原因在于基座大模型沒有經(jīng)過大量高質(zhì)量專業(yè)法律文本數(shù)據(jù)的訓練。雙方基于 ChatGLM130B 的基座大模型 GLM 130B,經(jīng)過了多輪多次高質(zhì)量法律文本數(shù)據(jù)(裁判文書、法律法規(guī)、法律知識問答等)清洗及模型增量訓練,得到法律版基座大模型 LawGLM 130B。
訓練法律垂直大模型第二步 —— 對話層:與法律對話場景對齊,具備法律場景的對話能力。
LawGLM 130B 基座模型具備了文本生成能力,但在法律對話能力上存在欠缺,因此需要利用大量的法律領(lǐng)域?qū)υ挃?shù)據(jù)進行監(jiān)督微調(diào)。雙方利用了近百萬對高質(zhì)量法律知識問題數(shù)據(jù),來訓練得到 PowerLawGLM beta 版,此時,它已經(jīng)初步具備了法律場景的端到端生成式對話能力以及獨特的回答習慣。
訓練法律垂直大模型第三步 —— 應用層:保證輸出結(jié)果質(zhì)量和可靠性。
法律問答的很多場景都有其特殊性,對于結(jié)果準確性的要求、可解釋性的要求較高,直接大模型來端到端生成回答,會面臨很多效果問題,例如引用失效法律、杜撰法條案例、與法律人處理邏輯不一致等等。因此冪律設計了一系列通用型及場景特定型的工程化優(yōu)化方案,來提升法律問答的有法可依和引用法條內(nèi)容的準確性,最終提升法律問答的專業(yè)性和可靠性。
通過以上三層結(jié)構(gòu),在基座層、對話層、應用層上提升了大模型對法律專業(yè)文本的理解、推理與生成能力:
﹒理解能力:理解復雜的法律文本,包括各種法律條款、判例、合同和其他法律文件。
﹒推理能力:從法律文本中推斷出潛在的問題,提供可能的解決方案,或者預測出可能的法律后果。
﹒生成能力:回答法律問題,為用戶提供咨詢,甚至幫助起草法律文件。它還可以進行法律對話,幫助用戶理解復雜的法律問題。
三、“PowerLawGLM”的實際能力
為了測試 PowerLawGLM 與通用大模型之間的效果對比,冪律的法律團隊收集了互聯(lián)網(wǎng)上法律相關(guān)的 Top100 高頻問題,進行了不同模型的效果人工評測,并且從法律專業(yè)人員的角度,與 ChatGPT 等典型的通用大模型進行的效果對比。評測的維度包括:對問題點的把握是否準確、對問題所含信息的分析是否全面準確、答案的操作可行性強弱、答案的法律專業(yè)性程度、法律依據(jù)有無,以及準確性全面性程度。最終的評測結(jié)果顯示,100 個問題的最優(yōu)答案中,PowerLawGLM 接近 70% 是最優(yōu)答案,并且在操作可行性、法律專業(yè)性等方面差異顯著。
如圖所示,以下是部分 ChatGPT 和 PowerLawGLM 的回答:
1.針對某一法律問題的咨詢:
ChatGPT 對于彩禮問題的回答
PowerLawGLM 對同一問題給出的回答
在此法律問題上,ChatGPT 沒有對能否請求對方返還彩禮進行正面解答,也沒有對彩禮問題從法律角度進行分析并給出相關(guān)法律依據(jù);而 PowerLawGLM 則對此問題進行了明確回答,對題目進行分析并給出了相關(guān)法律依據(jù)。
2.關(guān)于買賣合同的起草:
ChatGPT 對于合同起草的回答
PowerLawGLM 關(guān)于合同起草的回答
如圖所示,ChatGPT 起草的合同較為簡略,整體合同格式及條款表述與一份真實可用的合同差距較大,經(jīng)常出現(xiàn)引用失效法律、條款缺失、信息不完備等問題;而 PowerLawGLM 將用戶提問中的主體、標的物、單價、訴訟法院等信息準確無誤的體現(xiàn)在合同正文中,并且合同條款的完整性、專業(yè)性差異顯著。
四、基于 PowerLawGLM 大模型的對話產(chǎn)品 ChatMe 正式上線
基于 PowerLawGLM 大模型的能力,冪律打造了法律對話產(chǎn)品 ChatMe,現(xiàn)已正式上線,首批開放 50 個內(nèi)測名額,掃碼文末二維碼即可直接預約報名體驗。
ChatMe 的功能和特點:
﹒合同咨詢:ChatMe 擁有豐富的合同知識數(shù)據(jù),能夠回答諸如“合同租期期限”等合同知識問題。
﹒合同起草:貼近中文合同起草場景,模版起草、條款組合起草、端對端生成起草等多種解決方案,讓生成的合同質(zhì)量更高。
﹒合同信息抽?。耗軌蜃R別合同中的關(guān)鍵信息進行提取,如主體信息,合同總金額等等。
﹒合同審查:能夠針對合同條款的風險點給出相關(guān)建議,提示風險。
﹒通用法律咨詢:提供具有專業(yè)法律依據(jù)的法律咨詢服務。
未來,冪律智能將持續(xù)專注法律垂直大模型的技術(shù)提升和落地應用,將法律大模型能力深度融入智能合同管理產(chǎn)品 MeFlow 及智能合同審查產(chǎn)品 MeCheck 中。同時,冪律將面向企業(yè)客戶開放能力接口,企業(yè)可以將法律大模型能力快速接入現(xiàn)有業(yè)務流與系統(tǒng)中,帶來顯著效率提升。
冪律也會不斷更新和改進模型,面向不斷變化的法律知識和應用進行針對性的效果優(yōu)化,進一步提升 PowerLawGLM 大模型的進化能力。
(免責聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性,但不保證有關(guān)資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負任何法律責任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時,應及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明,并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實,溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 )