瀾舟科技周明:大模型ToB應用落地“九字訣”

3月18日消息,在瀾舟科技大模型技術和產(chǎn)品發(fā)布會上,瀾舟科技創(chuàng)始人&CEO周明博士發(fā)表了《大模型技術和應用雙輪驅動加速創(chuàng)新》主題演講。他回顧了瀾舟科技的發(fā)展歷程,總結出大模型創(chuàng)業(yè)在企業(yè)級客戶中落地的“九字訣”,并展望了瀾舟科技未來的發(fā)展方向。

瀾舟科技創(chuàng)始人&CEO周明博士

瀾舟科技于2021年6月正式成立, 致力于自主研發(fā)大模型技術和行業(yè)應用,在去年3月發(fā)布了孟子GPT V1(MChat)大模型,今年1月孟子大模型GPT V2(含孟子大模型-標準、孟子大模型-輕量、孟子大模型-金融、孟子大模型-編碼)對公眾開放。

公開資料顯示,瀾舟科技創(chuàng)始人&CEO周明是世界頂級的AI科學家,自然語言處理領域的代表性人物。曾任微軟亞洲研究院副院長、國際計算語言學協(xié)會(ACL)主席?,F(xiàn)任中國計算機學會副理事長、中國中文信息學會常務理事。

2024年是大模型落地元年

周明回顧了過去一年來大模型在六個領域的迅速發(fā)展:

? 大模型的能力得到快速提升:在更長的上下文處理能力、數(shù)學能力和推理能力、安全對齊等方面得到大幅度增強。

? RAG(檢索增強生成):通過結合搜索相關數(shù)據(jù)庫的結果與用戶指令進行生成,可有效改善模型幻象、實時性、數(shù)據(jù)安全等問題。

? GPTs:用戶基于大模型的超強能力方便地搭建自定義的GPT。

? 多模態(tài)大模型:SORA突破了4秒鐘限制,可以生成60秒的視頻,而且生成的視頻質量大幅度提升。

? 大模型原生應用方面略現(xiàn)端倪:譬如,利用大模型構建AI搜索、角色扮演聊天、數(shù)字人等。

? 大模型開源:LLaMA等開源模型有力地推動大模型的普及和發(fā)展,也顯著地改變了大模型的競爭格局。

周明強調2024年將是大模型落地元年,如何利用大模型技術助力企業(yè)成長已成為業(yè)界關注的焦點。政府工作報告新鮮出爐,特別強調以人工智能+,驅動各行各業(yè)的轉型升級。周明認為要把握好這個歷史契機,通過落地,創(chuàng)造價值,拉動創(chuàng)新。

周明強調,瀾舟科技注重“技術創(chuàng)新和落地應用”雙輪驅動。在積極研究和掌握前沿技術的同時,公司也致力于確保這些技術的有效應用。

大模型落地九字法則

而談及如何做好大模型落地應用,周明表示,雷軍所說的互聯(lián)網(wǎng)的七字法則“專注、極致、口碑和快”仍然適用,還要再加上“成本”,大模型創(chuàng)業(yè)不能不在意成本,一定要有造血的能力,形成大模型落地九字法則:“專注、極致、口碑、快、成本”。

周明稱,這“九字訣”融會貫通在瀾舟的一切行動之中:

首先,瀾舟科技定位非常清楚,就是做大模型技術+企業(yè)場景應用的一個綜合公司。

企業(yè)定位做2B、做技術和服務,需要明白克服什么挑戰(zhàn),不能盲目地天天練大模型,發(fā)布了、開源了就可以了,不是這樣的。

通過過去兩年多的積攢調研客戶,瀾舟科技發(fā)現(xiàn)了四大問題,如果解決不好,大模型基本上就是泡影。

這四大問題:一是訓練和部署的成本問題。動輒上千萬的模型銷售,用戶是不能接受的;二是行業(yè)的適配,很多人說大模型做出來之后千行百業(yè)隨便用,肯定好使,沒有這種好事;三是幻象問題,很多大模型生成的解決內行人看起來像外行,外行的人看起來像內行,這樣似是而非的東西企業(yè)不敢用;四是數(shù)據(jù)安全的問題,企業(yè)的數(shù)據(jù)不愿意拿出來,怎么樣解決企業(yè)的擔心。

針對大模型訓練和部署的成本高的問題,瀾舟科技專注把ToB場景使用最多的LLM模型(參數(shù)量7B、13B、40B最高到100B)做到最佳并大幅度提升大模型的推理效率。

針對大模型的行業(yè)落地適配問題,瀾舟科技提出了L1-L2-L3-L4的層次化分級服務體系, 基于L1-通用大模型,在此基礎上加入行業(yè)數(shù)據(jù)訓練出L2-行業(yè)/垂直大模型,如金融、編程大模型。

針對大模型的幻象問題和用戶數(shù)據(jù)安全問題,孟子大模型提出了改進的RAG能力。通過孟子大模型理解用戶意圖,可分別經(jīng)過大模型自身,或者通過RAG查找用戶知識庫,甚至通過Web搜索,最后多路召回搜索結果,經(jīng)過排序輸出最可信結果。

目前,瀾舟科技已經(jīng)形成了從預訓練,到SFT,到強化學習,安全,降低幻覺的完備的孟子大模型訓練體系,并提出了“一橫N縱”的發(fā)展體系。

其中“一橫”即為孟子大模型技術,而“N縱”是基于孟子大模型的面向ToB應用最重要的技術和產(chǎn)品?!癗縱”的應用能力型產(chǎn)品,包括AI文檔理解、文檔問答、文檔輔助寫作、機器翻譯、瀾舟智會、AI搜索等。

希望通過“一橫N縱”,徹底貫徹大模型落地九字法則:專注、極致、口碑、快、成本。

周明強調,瀾舟一方面聚焦自己擅長的能力和場景,另外一方面會注重與開源社區(qū)、與客戶和合作伙伴攜手共進,共同拓展更廣闊的市場空間,實現(xiàn)互惠共贏的局面。

據(jù)悉,瀾舟科技已經(jīng)攜手客戶及合作伙伴,如傳神、數(shù)說故事、華為云、華夏基金、同花順、中金公司等,共同開展深入合作。(宜月)

極客網(wǎng)企業(yè)會員

免責聲明:本網(wǎng)站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性,但不保證有關資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏,概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內容可能涉嫌侵犯其知識產(chǎn)權或存在不實內容時,應及時向本網(wǎng)站提出書面權利通知或不實情況說明,并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關文章源頭核實,溝通刪除相關內容或斷開相關鏈接。

2024-03-19
瀾舟科技周明:大模型ToB應用落地“九字訣”
3月18日消息,在瀾舟科技大模型技術和產(chǎn)品發(fā)布會上,瀾舟科技創(chuàng)始人&CEO周明博士發(fā)表了《大模型技術和應用雙輪驅動加速創(chuàng)新》主題演講。

長按掃碼 閱讀全文