日前，華為云·云容器實例(CCI)全球首發(fā)基于K8S的serverless GPU加速型容器實例。這是繼華為云在全球首發(fā)基于K8S的容器實例后，為容器實例服務(wù)提供更豐富的計算選擇，給關(guān)注AI、視頻處理等高性能計算的企業(yè)和開發(fā)者帶來更多的玩法。
AI算力需求迎來爆發(fā)式增長
以AI場景為例，OpenAI發(fā)布研究報告，透露2012年到2018年6年間單次AI訓(xùn)練的計算量增加30萬倍，這意味著訓(xùn)練計算量每3.5個月翻倍，是摩爾定律的5倍。同時，AI正在向各行各業(yè)普及，因此AI算力的需求會出現(xiàn)爆炸式增長。公有云因為低成本的硬件、無需關(guān)注基礎(chǔ)設(shè)施、0交付周期的優(yōu)勢，是客戶在有AI算力需求時是更好的選擇。
隨著容器技術(shù)逐漸被各個領(lǐng)域開發(fā)者接受，大家發(fā)現(xiàn)容器技術(shù)可以提供標(biāo)準(zhǔn)化的容器打包，解決AI場景中不同工具對環(huán)境的依賴。用戶在搭建深度學(xué)習(xí)訓(xùn)練環(huán)境，需要準(zhǔn)備帶GPU的機(jī)器，安裝python，tensorflow，GPU驅(qū)動等，如果要從開發(fā)環(huán)境到測試環(huán)境，再從測試環(huán)境到生成環(huán)境，涉及環(huán)境遷移過程中如何保證環(huán)境的一致性。然而容器帶來的標(biāo)準(zhǔn)化打包能力可以提供了絕佳的解決方案，可以極大降低AI平臺的復(fù)雜度，做到多訓(xùn)練框架并存、大幅簡化生產(chǎn)環(huán)境部署。
目前K8S已經(jīng)成為業(yè)界最主流的容器管理平臺，它提供靈活的編排調(diào)度系統(tǒng)，可以滿足大規(guī)模、高并發(fā)的AI分布式訓(xùn)練，大幅提高訓(xùn)練速度。因此，公有云GPU容器實例對AI用戶的吸引力越來越高。
華為云·GPU加速型云容器實例
華為云·云容器實例本次發(fā)布的GPU加速型容器實例本質(zhì)是在Serverless K8S的基礎(chǔ)上提供GPU算力，這兩個技術(shù)的結(jié)合給AI、基因、視頻處理等場景帶來不一樣的體驗。
免運(yùn)維。相比傳統(tǒng)租用云服務(wù)器、甚至自建IDC，GPU加速型容器實例無需客戶維護(hù)集群、考慮集群的升級、社區(qū)bug修復(fù)、集群資源利用率等問題，直接購買和管理GPU容器實例。同時，CCI提供了可視化的pod CPU/MEM/GPU監(jiān)控功能，可以實時監(jiān)控處理過程，極大的簡化運(yùn)維成本。
高性能。華為云GPU加速型云容器實例支持秒級伸縮和高并發(fā)，kata容器啟動速度實測600ms，集群規(guī)模高達(dá)上十萬容器實例，讓客戶快速利用GPU實例實現(xiàn)分布式計算。例如，華為云EI使用該GPU容器實例，在斯坦福大學(xué)DAWNBench測試中取得前兩名的好成績，并達(dá)到0.8+的GPU線性加速比。
低成本。很多高性能計算時長非常靈活，以AI訓(xùn)練為例，很多場景下，客戶需要快速、多次計算進(jìn)行迭代。華為云GPU加速型云容器實例提供按需按秒計費(fèi)，讓客戶真正按業(yè)務(wù)計算市場進(jìn)行消費(fèi)，避免包年包月帶來的高成本。
華為云·GPU加速型云容器實例在Serverless K8S上展現(xiàn)了免運(yùn)維、高性能、低成本算力的優(yōu)勢，逐步成為解決AI場景中各種環(huán)境問題的利器。未來也將在AI、基因、視頻處理等行業(yè)，為高性能計算的企業(yè)和開發(fā)者提供更加高效，安全、低成本的公有云服務(wù)。
- 蜜度索驥：以跨模態(tài)檢索技術(shù)助力“企宣”向上生長
- 新能源車技術(shù)升級搶先看，ChatGPT崩了引熱議：未來科技如何破局？
- 自動駕駛行業(yè)大洗牌即將結(jié)束，小馬智行引領(lǐng)千臺車隊新篇章
- 微軟反壟斷風(fēng)暴：Office捆綁銷售引質(zhì)疑，云服務(wù)策略遭調(diào)查，巨頭陷困境
- 顯卡漲價風(fēng)暴來襲！NVIDIA/AMD緊急應(yīng)對，全力加速生產(chǎn)運(yùn)回本土
- 微軟新目標(biāo)：用1000億美元打造實用通用AI，未來可期但需謹(jǐn)慎
- 亞馬遜云科技陳曉建預(yù)測：未來三年內(nèi)，生成式AI將引發(fā)云市場新革命
- 林肯中國辟謠：財務(wù)調(diào)整非合并，業(yè)務(wù)不變穩(wěn)如泰山
- 字節(jié)跳動研發(fā)大手筆：2024年投入接近BAT之和，能否引領(lǐng)中國OpenAI新潮流？
- 跨境匯款平臺新舉措：螞蟻集團(tuán)開發(fā)者服務(wù)限每日10萬美元，助力全球交易更便捷
- 我國充電樁建設(shè)提速，50%增長背后的高速服務(wù)區(qū)充電新篇章
免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。
