8月21日至23日，由Linux基金會、云原生計(jì)算基金會(CNCF)聯(lián)合主辦的全球頂級開源盛會KubeCon+Cloud NativeCon+OpenSourceSummit+AI_dev China 2024, 在中國中國香港隆重舉辦。
作為全球云原生企業(yè)和全球開源生態(tài)建設(shè)的先鋒，華為以開源攜手共建智能世界底座，帶來多領(lǐng)域開源成果，共探技術(shù)與方案，推動原生和AI加速全球智能化。
大會上，華為首席開源聯(lián)絡(luò)官任旭東帶來“Cloud-Native X AI : 開源加速全球智能化”主題演講，探討云原生和AI發(fā)展趨勢、分享華為應(yīng)用實(shí)踐及社區(qū)建設(shè)等成果。
云原生和AI加速深度融合
人工智能從1956年達(dá)特茅斯會議誕生之后，歷經(jīng)三次產(chǎn)業(yè)浪潮。任旭東表示，人工智能已經(jīng)從分析數(shù)據(jù)、給出建議的產(chǎn)業(yè)輔助工具，發(fā)展到如今可合成數(shù)據(jù)、創(chuàng)造結(jié)果，逐步走向AGI時代，AI發(fā)展重點(diǎn)也逐步從訓(xùn)練走向推理。
任旭東指出，云原生發(fā)展經(jīng)歷服務(wù)器、云化資源、云原生等不同階段：
服務(wù)器階段，以硬件設(shè)備為中心，業(yè)務(wù)應(yīng)用隨設(shè)備、OS、虛擬化軟件進(jìn)行差異化定制，但虛擬化軟件并未從根本上解決基礎(chǔ)設(shè)施與軟件割裂、運(yùn)維復(fù)雜的難題;
云化階段實(shí)現(xiàn)了各類資源如計(jì)算、存儲、網(wǎng)絡(luò)的池化，通過統(tǒng)一的虛擬化軟件平臺，使得應(yīng)用的通用性增強(qiáng)，但因?yàn)樘摂M化軟件平臺差異化較大，應(yīng)用還是無法以完全標(biāo)準(zhǔn)化的模式構(gòu)建，應(yīng)用部署還是以資源為中心，追求資源自動化;
在云原生階段，企業(yè)開始考慮如何將基礎(chǔ)設(shè)施與業(yè)務(wù)平臺融合，為業(yè)務(wù)應(yīng)用提供標(biāo)準(zhǔn)的運(yùn)行、監(jiān)控、治理平臺，并將業(yè)務(wù)的通用能力下沉到平臺側(cè)，更好地幫助企業(yè)實(shí)現(xiàn)應(yīng)用的自動化。
“從2023年開始，AI再次爆發(fā)，云原生進(jìn)入AI算力階段，CNCF基金會推出了Cloud native AI 工作組，開始給出了云原生AI的參考架構(gòu)。”任旭東表示，開放正讓云原生和AI兩大技術(shù)方向逐漸走向融合，從Cloud Native for AI和AI for Cloud Native 兩個方向雙向演進(jìn)。
華為 Cloud Native for AI 實(shí)踐
近年來，華為云陸續(xù)開源了KubeEdge、Volcano、Karmada等項(xiàng)目，受到業(yè)界的廣泛關(guān)注支持及落地使用。
彭博社的旗艦產(chǎn)品彭博終端，為全球超過350萬金融專業(yè)人士提供實(shí)時市場數(shù)據(jù)，為投資策略提供數(shù)據(jù)支持。為進(jìn)一步提升服務(wù)質(zhì)量，彭博社采用機(jī)器學(xué)習(xí)平臺強(qiáng)化終端的數(shù)據(jù)分析能力，有助實(shí)現(xiàn)訓(xùn)練任務(wù)的自動化調(diào)度、提高執(zhí)行效率，支持多維度調(diào)度策略，確保服務(wù)高可用性和連續(xù)性等多方面訴求。
“彭博社采用了Karmada來管理多個數(shù)據(jù)中心的計(jì)算資源，并構(gòu)建了一個統(tǒng)一的作業(yè)編排入口，從而隱藏了底層基礎(chǔ)設(shè)施的復(fù)雜性。”任旭東介紹道，這一解決方案帶來了提高計(jì)算資源的利用率、增強(qiáng)業(yè)務(wù)敏捷性、對業(yè)務(wù)精細(xì)化管控等顯著價值。
Bilibili擁有上億月活用戶，圍繞視頻業(yè)務(wù)有搜索推薦、圖像處理、視頻編解碼等多種業(yè)務(wù)， 針對AI訓(xùn)練任務(wù)有較高的效率需求，針對視頻編解碼任務(wù)有著極高的性能需求。
任旭東表示，B站使用了Volcano作為AI/Big Data/編解碼任務(wù)的調(diào)度器進(jìn)行作業(yè)和資源管理，使用Gang、task-topology等豐富的調(diào)度策略避免任務(wù)死鎖，提升AI訓(xùn)練任務(wù)效率;通過優(yōu)化Volcano性能，大幅降低了Job的更新頻率，提高了視頻編解碼任務(wù)的吞吐量。
華為AI for Cloud Native 領(lǐng)域?qū)嵺`
華為持續(xù)開源創(chuàng)新，與全球云原生社區(qū)共同發(fā)展。作為中國生態(tài)領(lǐng)先的開源AI框架MindSpore，基于MindSpore的LLMOps為云原生帶來更多創(chuàng)新。
“隨著MindSpore 2.3全新版本的發(fā)布，為LLMOps帶來了可落地的解決方案，包括由統(tǒng)一的訓(xùn)練和推理提供的在線高性能推理、配備了MindSpore Data, MindChute, MindCompiler以及MindFormer等多種大模型套件的端到端MindSpore流水線，基于Volcano和ms-operator的共同部署能力。”任旭東表示。
同時，作為目前中國領(lǐng)先的開源服務(wù)器操作系統(tǒng)，openEuler帶來了與AI結(jié)合的全新智能方案升級，大模型智能體EulerCopilot為操作系統(tǒng)開發(fā)運(yùn)維帶來全新智能體驗(yàn)，而智能操作系統(tǒng)進(jìn)一步使能云原生的全面創(chuàng)新。
在現(xiàn)場，任旭東宣布o(jì)penEuler開源社區(qū)與CNCF基礎(chǔ)設(shè)施團(tuán)隊(duì)合作、基于openEuler的CNCF CI/CD已經(jīng)正式上線，將為CNCF開發(fā)者帶來更多的OS選擇及更多算力資源，為CNCF社區(qū)帶來更加智能的基礎(chǔ)設(shè)施，并鼓勵CNCF社區(qū)項(xiàng)目體驗(yàn)。
未來無法預(yù)測，但可以被創(chuàng)造
最后，任旭東表示：“一方面，CloudNative For AI ，從訓(xùn)練走向推理，我們堅(jiān)信云原生是AI的最佳底座，必將加速AI的應(yīng)用創(chuàng)新。另一方面，AI For CloudNative，AI將從Devops到LLMOPS，使能云原生開發(fā)新范式，加速云原生行業(yè)落地。”
華為將攜手企業(yè)和開發(fā)者積極投身于AI和云原生領(lǐng)域，雙向奔赴，共同應(yīng)對當(dāng)前的挑戰(zhàn)，構(gòu)建全球智能化。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實(shí)，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實(shí)內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
