9月26日至28日，數(shù)禾科技亮相世界級(jí)盛會(huì)KubeCon+CloudNativeCon+OpenSourceSummitChina2023。在這場(chǎng)技術(shù)盛會(huì)上，數(shù)禾科技團(tuán)隊(duì)成員就“數(shù)禾使用Knative加速AI模型服務(wù)部署實(shí)踐”主題展開(kāi)了分享。
使用Knative加速AI模型服務(wù)
Knative是基于Kubernetes之上提供的一款開(kāi)源Serverless應(yīng)用框架，目標(biāo)打造企業(yè)級(jí)Serverless應(yīng)用平臺(tái)。根據(jù)2020CNCF云原生調(diào)查報(bào)告，Knative已成為開(kāi)源自建Serverless平臺(tái)首選。隨著2022年3月2日加入到CNCF，越來(lái)越多的開(kāi)發(fā)者擁抱Knative。阿里云容器服務(wù)從Knative早期版本開(kāi)始產(chǎn)品化集成，持續(xù)跟進(jìn)Knative社區(qū)功能迭代，并與容器服務(wù)ACK、消息、存儲(chǔ)、網(wǎng)絡(luò)等云產(chǎn)品進(jìn)行了全方位的融合，提供了生產(chǎn)級(jí)別的Knative能力。
數(shù)禾科技是業(yè)界最早使用阿里云容器服務(wù)的專(zhuān)業(yè)機(jī)構(gòu)之一，數(shù)禾科技使用阿里云容器服務(wù)Knative和彈性節(jié)點(diǎn)配合部署，在保證線(xiàn)上模型應(yīng)對(duì)突發(fā)流量的穩(wěn)定性大幅提升的同時(shí)，又使資源利用效率獲得了顯著的提高，極大的節(jié)約了資源成本。
基于Knative驅(qū)動(dòng)開(kāi)展實(shí)踐
基于Knative的Serverless服務(wù)方案，具備有根據(jù)請(qǐng)求的擴(kuò)縮容能力、允許pod縮容到0的冷啟動(dòng)能力以及多版本的管理能力。通過(guò)對(duì)內(nèi)部模型部署的pipeline進(jìn)行改造后，目前數(shù)禾的所有新增模型均已通過(guò)ACK+Knative方式部署在線(xiàn)上提供服務(wù)。得益于Knative的多版本管理能力，數(shù)禾快速解決了模型的灰度發(fā)布和多版本并存的問(wèn)題。同時(shí)加之基于請(qǐng)求的自動(dòng)擴(kuò)縮容能力，在多個(gè)版本并存的情況下，并沒(méi)有對(duì)資源產(chǎn)生額外的消耗，也節(jié)約了晚上的谷時(shí)資源。
在實(shí)際應(yīng)用中，以數(shù)禾AI模型服務(wù)系統(tǒng)為基礎(chǔ)的線(xiàn)上AI模型為業(yè)務(wù)決策人員提升決策效率，減輕人工操作的負(fù)擔(dān)，同時(shí)也可以大幅降低客戶(hù)流失率和風(fēng)險(xiǎn)損失。例如，在營(yíng)銷(xiāo)獲客方面，數(shù)禾AI模型可以通過(guò)數(shù)據(jù)分析技術(shù)，實(shí)現(xiàn)客戶(hù)畫(huà)像，提升精準(zhǔn)營(yíng)銷(xiāo)能力;在風(fēng)險(xiǎn)管理方面，數(shù)禾AI模型可以快速檢測(cè)風(fēng)險(xiǎn)預(yù)警信號(hào)，提供實(shí)時(shí)決策支持。截至目前，數(shù)禾AI模型服務(wù)平臺(tái)已上線(xiàn)部署500+AI模型服務(wù)，每天能夠提供上億次查詢(xún)決策服務(wù)，具備無(wú)限橫向擴(kuò)展的能力。ASK的實(shí)時(shí)彈性擴(kuò)展能力幫助數(shù)禾節(jié)約資源成本約60%，同時(shí)平穩(wěn)地應(yīng)對(duì)了諸多運(yùn)營(yíng)活動(dòng)等突發(fā)峰值場(chǎng)景，整個(gè)云原生部署和發(fā)布系統(tǒng)將公司平均部署周期由之前的1天縮短至0.5天，有效加速了商業(yè)化應(yīng)用的迭代進(jìn)程，為業(yè)務(wù)的拓展增長(zhǎng)提供了強(qiáng)有力的支撐。
持續(xù)深耕攻堅(jiān)克難收獲行業(yè)認(rèn)可
技術(shù)是科技企業(yè)持續(xù)發(fā)展生命力的根本。作為高新技術(shù)企業(yè)的代表，在堅(jiān)定不移地深耕數(shù)字化創(chuàng)新的發(fā)展道路上，數(shù)禾科技取得的一系列金融科技成果。前不久，數(shù)禾科技基于阿里云云原生應(yīng)用構(gòu)架打造的“數(shù)禾AI模型服務(wù)”，榮獲了由云原生產(chǎn)業(yè)聯(lián)盟頒發(fā)的“2023年度云原生應(yīng)用實(shí)踐先鋒-云原生應(yīng)用優(yōu)秀案例”獎(jiǎng)項(xiàng)。云原生是基于分布部署和統(tǒng)一運(yùn)管的分布式云，以容器、微服務(wù)、DevOps等技術(shù)為基礎(chǔ)建立的一套云技術(shù)產(chǎn)品體系。它可以幫助企業(yè)快速構(gòu)建和部署應(yīng)用程序，提高應(yīng)用的可靠性、彈性和可擴(kuò)展性，讓企業(yè)可以更加敏捷地響應(yīng)市場(chǎng)需求，快速上線(xiàn)新產(chǎn)品和服務(wù)，提高數(shù)字化轉(zhuǎn)型的效率和速度。
數(shù)禾科技在人工智能、云計(jì)算、大數(shù)據(jù)等前沿技術(shù)領(lǐng)域已積極開(kāi)展研究和應(yīng)用，截至目前，數(shù)禾科技已申請(qǐng)近230項(xiàng)技術(shù)等相關(guān)專(zhuān)利，已授權(quán)發(fā)明專(zhuān)利11個(gè)，其中技術(shù)專(zhuān)利覆蓋人工智能、人機(jī)交互、數(shù)據(jù)治理、系統(tǒng)設(shè)計(jì)、架構(gòu)設(shè)計(jì)、云計(jì)算和智能識(shí)別等數(shù)字經(jīng)濟(jì)的核心領(lǐng)域，體現(xiàn)出強(qiáng)大的自主科技研發(fā)實(shí)力。
技術(shù)終將造福于人民，在科技驅(qū)動(dòng)普惠金融發(fā)展的道路上，數(shù)禾科技以科技創(chuàng)新為手段，持續(xù)推動(dòng)普惠金融服務(wù)更加數(shù)字化、智能化。數(shù)禾科技以大數(shù)據(jù)和技術(shù)為驅(qū)動(dòng)，為金融機(jī)構(gòu)提供智能零售金融解決方案，服務(wù)銀行、信托、消費(fèi)金融公司、保險(xiǎn)、小貸公司等持牌金融機(jī)構(gòu)，業(yè)務(wù)涵蓋消費(fèi)信貸、小微企業(yè)信貸、場(chǎng)景分期等多個(gè)領(lǐng)域，提供營(yíng)銷(xiāo)獲客、風(fēng)險(xiǎn)防控、運(yùn)營(yíng)管理等服務(wù)。
作為金融科技創(chuàng)新先鋒，數(shù)禾科技擁抱Knative技術(shù)，并與容器服務(wù)ACK、消息、存儲(chǔ)、網(wǎng)絡(luò)等云產(chǎn)品進(jìn)行了全方位的融合，為技術(shù)普惠和行業(yè)蓬勃發(fā)展做出了巨大貢獻(xiàn)。數(shù)禾科技將繼續(xù)開(kāi)拓創(chuàng)新、擔(dān)當(dāng)作為，助力行業(yè)匯聚起推動(dòng)云原生領(lǐng)域技術(shù)發(fā)展的強(qiáng)大力量。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。 ）
