近日,專注IaaS的產品化云廠商ZStack與領先的AI算力資源池化軟件公司趨動科技(VirtAITech.com)宣布,推出提供AI算力資源池化功能的聯合解決方案,該方案融合了ZStack Cloud云平臺與趨動科技OrionX,雙方產品優(yōu)勢互補,共同推動GPU資源池在私有云平臺落地,將新一代的算力云平臺推向更廣泛的市場!新基建浪潮下,AI、5G、大數據中心、工業(yè)互聯網等一起構成了新基建的核心領域。AI將逐步滲透到各行業(yè),變得越來越“基礎設施化”,AI加速器市場及GPU服務器市場規(guī)模相應水漲船高,以GPU、FPGA 等為主的AI加速器市場將迅猛發(fā)展。IDC發(fā)布的《人工智能基礎架構市場(2019下半年)跟蹤》報告數據顯示:到2024年,中國GPU 服務器市場規(guī)模將達到64億美元。
GPU資源池化技術難點
AI產業(yè)的快速發(fā)展對GPU資源池化技術提出了更高要求,用戶希望獲得靈活調度GPU資源的能力,希望AI應用與GPU服務器解耦,并且能夠遠程調用GPU的資源,通過資源池優(yōu)化GPU的調度使用等。然而現階段大部分用戶使用GPU的方式仍然停留在簡單的虛擬化階段:將GPU卡做固定切分,按照2的N次方切分為多個vGPU。在此情況下,傳統(tǒng)云平臺上使用GPU將面臨諸多技術問題,比如無法遠程調用GPU卡、僅能整卡透傳給虛機、多虛機無法共用單張GPU卡、GPU資源釋放必須重啟虛機等問題。
提供AI算力資源池化功能的解決方案
OrionX提供GPU資源池化功能,是ZStack Cloud在GPU調度上的功能補充,可以靈活調用虛擬GPU資源,使得用戶可以在私有云和混合云的環(huán)境中靈活使用GPU資源,幫助用戶數據中心中的所有硬件資源實現云化管理。
典型應用場景
大模型如訓練場景,對算力資源需求量大,通常會使用一張或者多張GPU卡資源,構建AI算力資源池,提供AI算力資源池化功能的解決方案既可以支持單臺服務器上的單卡,多卡訓練,也可以支持跨設備的多卡訓練。
小模型如推理、開發(fā)和教學實訓等場景,對算力資源需求量小,通常不能占滿一張GPU卡資源。提供AI算力資源池化功能的解決方案可以從算力和顯存兩個維度切分GPU,支持將多個小模型任務調度到一張卡,有效提高資源利用率。
具體表現為:通過“化零為整”功能支持訓練等大模型場景,為用戶的 AI 應用提供數據中心級的海量算力。通過“隔空取物”功能,支持推理、開發(fā)和教學實訓等小模型場景。通過“隨需應變”功能支持訓練/推理等多場景實現 GPU 資源動態(tài)伸縮,極大提升了GPU 資源調度的靈活度。
提供AI算力資源池化功能的解決方案發(fā)布后,基于ZStack Cloud構建企業(yè)私有云的用戶,可以暢享快速按需獲取GPU、靈活彈性調度等功能,有效提高了GPU利用率并降低用戶整體擁有成本。
ZStack創(chuàng)始人&CEO張鑫表示:“GPU虛擬化是推動私有云落地AI場景的關鍵舉措,未來雙方將緊密合作,實現算力的平民化,推動AI計算無處不在。“
趨動科技創(chuàng)始人&CEO王鯤博士稱贊道:“ZStack與OrionX的聯合解決方案為用戶提供了更大的價值和更加靈動的任務處理能力,加速推動AI計算在私有云領域落地,助力行業(yè)客戶聚焦自身業(yè)務發(fā)展與創(chuàng)新。”
關于ZStack
ZStack(云軸科技)由阿里云、中國電信戰(zhàn)略投資并戰(zhàn)略合作,是一家自主創(chuàng)新、專注產品化的云計算公司,以“降低企業(yè)上云門檻”為使命、“讓每一家企業(yè)都擁有自己的云”為愿景,具備自主知識產權、自主開源云代碼、自主云平臺三大優(yōu)勢。憑借自研的ZStack Cloud、ZStack Mini、ZStack CMP、ZStack Cube、ZStack Ceph等產品,積極支持信創(chuàng)發(fā)展,全面適配信創(chuàng)生態(tài),并最早提出云計算的4S特性,注重產品化,普惠云計算。歷經多年發(fā)展,ZStack客戶數和銷售額逐年倍數增長,服務全球30多個國家和地區(qū)、100個行業(yè)場景、1200家客戶。面向新基建和信創(chuàng)發(fā)展契機,ZStack聚焦IaaS,攜手阿里云、天翼云、飛騰、龍芯、華為、曙光、長城、安恒、麒麟軟件、統(tǒng)信軟件等200多家合作伙伴,共同為政府、電信、能源、交通、教育、制造業(yè)、醫(yī)療、金融、廣電、互聯網等眾多行業(yè)客戶提供安全可信的云產品和服務。
關于趨動科技
趨動科技于2019年成立于北京中關村高新技術園區(qū),擁有專業(yè)的研發(fā)、運營和服務團隊。趨動科技榮登WISE2020「新基建創(chuàng)業(yè)榜」最具成長性創(chuàng)業(yè)公司TOP20,趨動科技的OrionX獵戶座AI算力資源池化解決方案榮獲“2020新基建與行業(yè)創(chuàng)新應用優(yōu)秀解決方案”、“2020智慧高校解決方案卓越獎”和“2020金麒杯年度金融行業(yè)最佳解決方案服務商”。趨動科技致力于幫助客戶構建高效的AI算力資源池,提升客戶AI運維管理的效率和AI業(yè)務應用的效率。根據客戶測算,OrionX獵戶座軟件可以每年提升50%的AI算法工程師人效、提升AI資源利用率3到8倍更適合、讓客戶總體擁有成本下降80%。憑借標準化、可復制的產品架構,OrionX獵戶座軟件得到了包括互聯網、金融、電信運營商和高校等大量行業(yè)頭部客戶的認可。
(免責聲明:本網站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網站出現的信息,均僅供參考。本網站將盡力確保所提供信息的準確性及可靠性,但不保證有關資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網站對有關資料所引致的錯誤、不確或遺漏,概不負任何法律責任。
任何單位或個人認為本網站中的網頁或鏈接內容可能涉嫌侵犯其知識產權或存在不實內容時,應及時向本網站提出書面權利通知或不實情況說明,并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網站在收到上述法律文件后,將會依法盡快聯系相關文章源頭核實,溝通刪除相關內容或斷開相關鏈接。 )