浩鯨科技鐘健松：大模型落地遠(yuǎn)不止最后“一公里”

6月26日消息（焦焦）ChatGPT橫空出世，掀起了AI行業(yè)的發(fā)展熱潮。大模型從嶄露頭角到現(xiàn)在的如日中天，全行業(yè)已然在AI的新時代中全速前進(jìn)，大模型成為驅(qū)動創(chuàng)新的焦點(diǎn)之一。在AI帶來生產(chǎn)力革新與商業(yè)模式升級浪潮下，作為向科技公司轉(zhuǎn)型的領(lǐng)軍央企，運(yùn)營商在AI領(lǐng)域不斷加碼布局，為通信產(chǎn)業(yè)邁入大模型時代積極領(lǐng)路，構(gòu)建數(shù)智生產(chǎn)力也被被賦予前所未有的重要使命。

在2024年MWC上海展上，作為運(yùn)營商的重要合作伙伴，浩鯨科技圍繞“智能時代，構(gòu)建數(shù)智生產(chǎn)力”為主題，分享在大模型的驅(qū)動下，如何賦能運(yùn)營商業(yè)務(wù)和運(yùn)營管理快速實(shí)現(xiàn)深度智能化，并展示在加速智能化進(jìn)程中的技術(shù)突破和創(chuàng)新應(yīng)用，為運(yùn)營商構(gòu)建從智能基礎(chǔ)設(shè)施、大模型平臺、到創(chuàng)新數(shù)智應(yīng)用落地的全方位支持，攜手運(yùn)營商共筑智能化未來宏圖，加速數(shù)智躍升。

運(yùn)營商數(shù)字化建設(shè)成果仍存挑戰(zhàn)，亟待解決

在智能化浪潮下，運(yùn)營商在推進(jìn)自身轉(zhuǎn)型的同時積極發(fā)力產(chǎn)業(yè)數(shù)字化建設(shè)，據(jù)C114觀察，目前運(yùn)營商數(shù)字化轉(zhuǎn)型取得顯著成效。在為用戶提供更快速、更穩(wěn)定的通信網(wǎng)絡(luò)連接的同時，推出更豐富的數(shù)字化服務(wù)和增值服務(wù)，并通過數(shù)據(jù)驅(qū)動的運(yùn)營，更加精準(zhǔn)地滿足最終用戶的個性化需求，提高數(shù)據(jù)資產(chǎn)的管理利用效率。

浩鯨科技中國CTO鐘健松在接受C114專訪時指出，運(yùn)營商的數(shù)字化建設(shè)走過三十年，已取得卓越成效，成為推動國家數(shù)字經(jīng)濟(jì)建設(shè)的領(lǐng)頭羊。但以發(fā)展的視角審視當(dāng)前的數(shù)字化建設(shè)成果，依舊存在一些挑戰(zhàn)，亟待智能化手段去解決。

1、生產(chǎn)要素已被大量累積，但價值發(fā)揮有限

鐘健松認(rèn)為，經(jīng)過數(shù)十年的的數(shù)字化發(fā)展與積累，運(yùn)營商沉淀了海量的數(shù)據(jù)，包括資源、網(wǎng)絡(luò)、服務(wù)、客戶、渠道等立體多維數(shù)據(jù)資產(chǎn)，堪稱為“寶藏?cái)?shù)據(jù)礦場”?；谶@些數(shù)據(jù)，運(yùn)營商內(nèi)部構(gòu)建了諸多報(bào)表系統(tǒng)、數(shù)據(jù)分析系統(tǒng)，但對數(shù)據(jù)的提取和分析仍存在諸多動態(tài)變化，導(dǎo)致當(dāng)前各下屬公司依然要配備大量取數(shù)人員，以響應(yīng)每月不同維度的看數(shù)要求。

此外，隨著中臺的建設(shè)，運(yùn)營商的重點(diǎn)已從功能建設(shè)逐漸轉(zhuǎn)向能力構(gòu)建，能力不斷累積和豐富，并逐步沉淀為企業(yè)的能力資產(chǎn)。盡管能力資產(chǎn)在助力數(shù)字化應(yīng)用建設(shè)過程中發(fā)揮了一定價值，但由于能力的可視化、非完全的集約、從能力到應(yīng)用的轉(zhuǎn)化難度等問題，制約了能力資產(chǎn)的價值發(fā)揮。

鐘健松表示，相比數(shù)據(jù)資產(chǎn)和能力資產(chǎn)，企業(yè)的知識資產(chǎn)受重視程度不夠，少量的知識庫僅存儲了某些關(guān)于產(chǎn)品營銷方面的內(nèi)容，而更需要傳承的例如網(wǎng)絡(luò)運(yùn)維、故障處理、施工操作、方案配置等方面的知識，要么作為規(guī)則被整合到系統(tǒng)中，缺乏迭代更新；要么沉淀在少數(shù)專家的頭腦中，難以復(fù)制和傳承。

2、生產(chǎn)效率盡管在不斷提高，但仍有很大提升空間

當(dāng)前，流程驅(qū)動已成為數(shù)字化系統(tǒng)的一個典型特征，但流程驅(qū)動有其受限之處。首先，流程為異步處理，非實(shí)時，可能會因?yàn)榄h(huán)節(jié)之間的來回回退導(dǎo)致處理時間拉長，而企業(yè)的生產(chǎn)運(yùn)營則有大量需要實(shí)時解決問題的場景，比如涉及到多方參與的網(wǎng)絡(luò)疑難故障診斷分析，基于流程驅(qū)動的派單式的解決方式就不太適用。

其次，在新技術(shù)的推動下，自動化、智能化的述求在企業(yè)運(yùn)營中越來越強(qiáng)烈，雖然通過規(guī)則、AI算法、RPA等的引入能夠解決不少問題，但目前采取“散點(diǎn)注智”的開發(fā)模式，派生出多種類型的規(guī)則引擎、推薦引擎、調(diào)度引擎等多個系統(tǒng)，開發(fā)周期長、應(yīng)用面狹窄，管理分散，從而導(dǎo)致需求難以即時響應(yīng)，自智成熟度等級難以產(chǎn)生質(zhì)的飛躍。

3、數(shù)字化系統(tǒng)林立，使用者陷入系統(tǒng)和功能的海洋

盡管在ITSP的規(guī)劃下，運(yùn)營商數(shù)字化系統(tǒng)縱向集約橫向整合，系統(tǒng)數(shù)量已做了大幅收斂，但當(dāng)前系統(tǒng)規(guī)模依然龐大，不同崗位人員需要面對諸多系統(tǒng)以及功能模塊，在龐雜的系統(tǒng)中尋找對應(yīng)的功能，費(fèi)時費(fèi)力，以至于大量已開發(fā)出的功能模塊因不被認(rèn)知而使用率極低。

與此同時，為了應(yīng)對復(fù)雜場景，數(shù)字化系統(tǒng)往往配備繁瑣的使用界面，使用者需要在各種彈出的窗口、頁簽中切換，使用門檻高，工作負(fù)荷大。

大模型，助推運(yùn)營商向理想藍(lán)圖平滑演進(jìn)

據(jù)C114了解，強(qiáng)大的通用智能能力，催生AI創(chuàng)新應(yīng)用多點(diǎn)開花。國內(nèi)外均積極、迅速地推進(jìn)大模型訓(xùn)練，千億參數(shù)模型層出不窮，大模型驅(qū)動的場景也在逐步落地，但大模型的價值發(fā)揮并不是想象中的一蹴而就。大模型應(yīng)用在落地過程需要多方參與，且對算力、平臺、算法的要求較高，因此盡管大模型的訓(xùn)練量不斷擴(kuò)大，在不同行業(yè)不同領(lǐng)域也多有應(yīng)用，但應(yīng)用的發(fā)展水平與速度參差不齊，部分領(lǐng)域尚且很難將模型價值發(fā)揮實(shí)效，推動行業(yè)大模型“真正落地”的機(jī)遇與挑戰(zhàn)并存。

鐘健松認(rèn)為，整體而言，大模型依然處于成熟過程中，技術(shù)演進(jìn)日新月異，還需要克服其在行業(yè)實(shí)際應(yīng)用中的各類技術(shù)缺陷，比如幻覺、算力成本高、知識實(shí)時更新差等問題。如若貿(mào)然利用大模型重構(gòu)IT系統(tǒng)來替換現(xiàn)有IT，會因?yàn)榉磸?fù)折騰消耗巨大的人力物力，帶來的價值效果可能也不盡如人意。面對以上難點(diǎn)，需要選擇一條穩(wěn)步、平滑演進(jìn)的路線，通過先引入大模型增強(qiáng)現(xiàn)有數(shù)字化系統(tǒng)架構(gòu)和能力，再逐步升級替代到理想藍(lán)圖。

在這條演進(jìn)路線上，一方面需要從系統(tǒng)工程的角度來提升通用人工智能的準(zhǔn)確性、適應(yīng)性、創(chuàng)造性和效率，另一方面需要結(jié)合運(yùn)營商數(shù)字化場景及當(dāng)期架構(gòu)模式，構(gòu)建出增強(qiáng)演進(jìn)的架構(gòu)體系?？傮w看來，整個增強(qiáng)體系可分為2+3+N+1來分層演進(jìn)。

“2”通過2個核心平臺的引入，增強(qiáng)企業(yè)IT整體架構(gòu)

MAAS平臺，將大模型能力更絲滑地嵌入到企業(yè)數(shù)字化系統(tǒng)中。未來的頭部企業(yè)，很有可能采用1+N的大模型構(gòu)建方式，即在一個主力大模型的基礎(chǔ)上，還會根據(jù)不同場景需要，應(yīng)用N個各有擅長以及尺寸不同的其它模型。MAAS平臺將對接各類不同的大模型，以更安全和更高性價比的方式向上統(tǒng)一提供模型服務(wù)。同時為解決大模型生成幻覺問題和知識滯后性問題，引入RAG，將非參數(shù)化預(yù)料庫和參數(shù)模型結(jié)合，解決純參數(shù)化大模型的局限。并對原始RAG架構(gòu)優(yōu)化，通過增加意圖識別、問題改寫、查詢擴(kuò)展、結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)動態(tài)路由、多路召回、降噪去重等工程化手段大幅提升實(shí)際場景下的知識服務(wù)能力。

mmRTC平臺，在原有頁面集成、流程集成、數(shù)據(jù)集成、企業(yè)集成架構(gòu)的基礎(chǔ)上，搭建多模態(tài)的實(shí)時通信交互平臺，實(shí)現(xiàn)人-人、人-智能體、人-智能體-人、多智能體等多種方式的即時協(xié)同，充分發(fā)揮智能體在感知、規(guī)劃、記憶、執(zhí)行等方面的能力，面對復(fù)雜場景，改變傳統(tǒng)異步派單的模式，在人腦和智腦的多維加持下，實(shí)現(xiàn)實(shí)時分析、精準(zhǔn)診斷、即時處理，推進(jìn)效率的大幅提升。該平臺與運(yùn)營商的網(wǎng)絡(luò)故障診斷、裝維疑難問題處理、復(fù)雜方案營銷等場景非常適配。

“3”通過3個工廠的建設(shè)，提升數(shù)字化生產(chǎn)效率

知識工廠：在知識工廠中訓(xùn)練兩類知識，一類是經(jīng)營領(lǐng)域的專業(yè)知識，包括前端營銷涉及的產(chǎn)品、渠道、客戶等以及后端運(yùn)維涉及的的網(wǎng)絡(luò)、故障分析等；另一類是數(shù)字化領(lǐng)域的專業(yè)知識，包括IT系統(tǒng)數(shù)據(jù)模型、功能頁面、集成關(guān)系等。知識工廠提供高效工具幫助企業(yè)通過多種形式建立專屬知識庫，解決知識分散、信息損失等問題，實(shí)現(xiàn)知識可運(yùn)營、可迭代優(yōu)化，基于知識標(biāo)簽，最終實(shí)現(xiàn)一問多答，更好的滿足跨地域、多產(chǎn)品、多客戶類型的豐富的經(jīng)營形態(tài)。

智能體工廠：未來Agent as a Service 或許將逐步取代目前IT架構(gòu)的微服務(wù)模式。在智能體工廠中，將整合目前已形成的海量插件，以低代碼的方式，通過工作流的可視化開發(fā)形態(tài)，將模型、知識庫、提示詞、插件工具進(jìn)行鏈?zhǔn)秸?，?gòu)建出面向不同領(lǐng)域、解決不同場景問題的智能體。

數(shù)字應(yīng)用工廠：更高效更低門檻構(gòu)建數(shù)字化應(yīng)用是IT工作者的追求。可以預(yù)見，以大模型來驅(qū)動，識別需求意圖，搭載低代碼組裝式開發(fā)，數(shù)字應(yīng)用生產(chǎn)效率將倍增。應(yīng)用開發(fā)的同時數(shù)字資產(chǎn)不斷豐富，又進(jìn)一步提升數(shù)字應(yīng)用的開發(fā)效率。運(yùn)營商推進(jìn)政企市場，智能數(shù)字工廠將為其如虎添翼。

“N”通過N個場景的智慧化，推進(jìn)全面智能的落地

將大模型的理解、生成、邏輯、記憶四大能力結(jié)合運(yùn)營商的場景，浩鯨科技已實(shí)現(xiàn)如下諸多大類智慧化應(yīng)用，全面大幅提升數(shù)字化智能水平。

生成類場景：包括營銷方案、禮包策劃、營銷海報(bào)等應(yīng)用；

診斷類場景：包括家寬綜調(diào)助手、資費(fèi)爭議診斷等應(yīng)用；其中家寬綜調(diào)助手面向裝維和綜調(diào)人員，提供自然語言順暢交互、問題智能精準(zhǔn)診斷以及即時處理等智能化支撐；

助理類場景：包括CRM營業(yè)助手、資源助手等應(yīng)用；

分析類場景：推出chatBI分析助手，提供海量報(bào)表一問直達(dá)、智能按需問數(shù)、隨心深度探索數(shù)據(jù)等智能能力

稽核類場景：包括資費(fèi)稽核、合同稽核等應(yīng)用；

問答類場景：基于統(tǒng)一框架快速高效搭建各類場景的問答機(jī)器人，基于浩鯨特有技術(shù)既保障答案的精準(zhǔn)度，又保證完整度，同時還支持一問多答的跨地域跨產(chǎn)品的特有場景應(yīng)用。

代碼類場景：通過代碼大模型幫助軟件工程師編碼時實(shí)現(xiàn)代碼理解、自動補(bǔ)全，提升軟件開發(fā)人員的編碼效率和代碼質(zhì)量。

“1”通過1個“無系統(tǒng)”的打造，實(shí)現(xiàn)嶄新的交互形態(tài)

“無系統(tǒng)”一方面將企業(yè)數(shù)字化系統(tǒng)的數(shù)據(jù)、功能界面、使用操作、業(yè)務(wù)知識等訓(xùn)練給大模型，另一方面構(gòu)建統(tǒng)一入口，在該入口以自然語言的方式調(diào)用功能模塊、完成功能模塊的操作（包括跨系統(tǒng)的鏈?zhǔn)讲僮鳎⒉榭礄?quán)限內(nèi)的數(shù)據(jù)（包括跨系統(tǒng)的整合數(shù)據(jù)）等。

對于使用者而言，不再需要關(guān)注端到端的流程穿越具體在哪個系統(tǒng)和菜單定位，只需要表達(dá)自己的意圖，通過統(tǒng)一入口，由智能助手實(shí)現(xiàn)一步直達(dá)。此入口可掛載在現(xiàn)有任一數(shù)字化系統(tǒng)上，即時呼出，隨地調(diào)用。

運(yùn)營商深入大模型應(yīng)用腹地，浩鯨科技將做大模型價值釋放者

從整個電信行業(yè)來看，2023年以來，三大運(yùn)營商相繼推出自己的基礎(chǔ)大模型、行業(yè)大模型和大模型應(yīng)用工具，如今運(yùn)營商更是深入大模型應(yīng)用腹地，不斷落子。

據(jù)C114了解，中國移動推出APP的AI智能助理“靈犀”，深度嵌入到最新升級的中國移動APP V10版本中，從用戶使用需求出發(fā)，依托大模型的內(nèi)容生成能力改善用戶體驗(yàn)。而中國電信，前不久一口氣發(fā)布了12個垂類行業(yè)大模型，加強(qiáng)在各個領(lǐng)域的深度應(yīng)用。中國聯(lián)通也發(fā)布了元景“1+1+M”大模型體系，更在5月進(jìn)一步發(fā)布中國聯(lián)通元景大模型MaaS平臺，為企業(yè)行業(yè)向MaaS服務(wù)。

總體來看，三大運(yùn)營商對大模型，無論是反應(yīng)速度、研發(fā)深度，還是覆蓋廣度，都格外突出。對運(yùn)營商而言，大模型提供了一個契機(jī)，讓運(yùn)營商不僅僅作為通信網(wǎng)絡(luò)的基礎(chǔ)設(shè)施提供商，還可以整合自身在全國一體化算力網(wǎng)絡(luò)、云資源等技術(shù)方面和政企市場、消費(fèi)者市場等客戶方面的多種優(yōu)勢，更深度地參與到產(chǎn)業(yè)智能化升級與數(shù)字化轉(zhuǎn)型中，重構(gòu)自身在數(shù)字化業(yè)務(wù)中的競爭優(yōu)勢。

正如采訪的最后，鐘健松表示，大模型企業(yè)落地遠(yuǎn)不止“一公里”， 涉及端到端全程各環(huán)節(jié)配套，包括算力資源、大模型切換、私域知識高效導(dǎo)入、智能體構(gòu)建、copilot與現(xiàn)有系統(tǒng)融合，以及每個層面特有的推進(jìn)方法。在智能時代，未來的IT系統(tǒng)將有著新的架構(gòu)、運(yùn)營模式、研發(fā)范式以及交互形態(tài)，而作為運(yùn)營商的重要且長期合作伙伴，浩鯨科技不做大模型的生產(chǎn)者，但會基于自身對行業(yè)的深度理解，以及通過體系化的工程手段，致力做大模型真實(shí)價值釋放者和使能者，助力運(yùn)營商全面推進(jìn)AI+戰(zhàn)略落地，加速AI融入百業(yè)，加速數(shù)智新增長。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實(shí)，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實(shí)內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。