服務(wù)云原生 Graviton2處理器帶來40%性價(jià)比提升 AWS中國高管詳解背后關(guān)鍵技術(shù)

[an error occurred while processing the directive]

2月5日消息,日前,亞馬遜云服務(wù)(AWS)正式宣布,由 AWS Graviton2 處理器提供支持的 Amazon Elastic Compute Cloud (Amazon EC2) M6g、C6g 和 R6g 實(shí)例(注1)已在由光環(huán)新網(wǎng)運(yùn)營的 AWS 中國(北京)地區(qū)和由西云數(shù)據(jù)運(yùn)營的 AWS 中國(寧夏)區(qū)域推出。這是AWS自研處理器首次落地中國區(qū)域。

截至2021年1月,AWS推出了近400種Amazon EC2實(shí)例,被全球幾百萬客戶廣泛使用。

作為一款A(yù)WS自研、基于Arm架構(gòu)、原生為云而設(shè)計(jì)開發(fā)的芯片,AWS Graviton2 處理器于2019年12月在AWS re:Invent大會(huì)上正式發(fā)布。歷時(shí)1年多正式落地中國,AWS大中華區(qū)云服務(wù)產(chǎn)品管理總經(jīng)理顧凡表示,Graviton2 處理器將給客戶帶來很多驚喜,Graviton2的使用場景會(huì)打破大家對于ARM在企業(yè)級(jí)應(yīng)用適用范圍的原有認(rèn)知。

事實(shí)上,因?yàn)楹M鈽I(yè)務(wù)需求增長,國內(nèi)企業(yè)涂鴉智能和大觥科技均已率先采用Graviton2 處理器支持的Amazon EC2實(shí)例來賦能公司業(yè)務(wù)發(fā)展。

據(jù)涂鴉云端開發(fā)部首席架構(gòu)師陳亞焱介紹,涂鴉提供全球化AI+IoT平臺(tái),每天處理設(shè)備請求840億次,請求高峰達(dá)150萬次/秒,日處理1.2億次AI語音交互。去年的黑五、圣誕、元旦,涂鴉均迎來一波流量增長高峰,這就要求平臺(tái)必須做到非常實(shí)時(shí)的擴(kuò)容。目前涂鴉已經(jīng)將公司約40%的實(shí)例切換至Graviton2架構(gòu)的實(shí)例上?;贕raviton2實(shí)例,涂鴉CPU性能提升100%,CPU占用率從之前的27%降到12%;服務(wù)器單價(jià)降低20%,整體性價(jià)比提升2.5倍。

大觥科技有限公司是一家專注AI影像處理領(lǐng)域科研和應(yīng)用的公司,該公司服務(wù)多家電影廠、電視臺(tái)、影視后期等企業(yè)級(jí)客戶,同時(shí)針對個(gè)人用戶,推出了國內(nèi)app“你我當(dāng)年”,以及海外app“Remini”。大觥科技副總裁袁泉介紹,2020年2月,海外Remini業(yè)務(wù)量出現(xiàn)猛烈增長,使得公司算力支持遇到瓶頸,于是開始跟AWS合作。通過對比Graviton系列的C6g和傳統(tǒng)架構(gòu)的C5.large兩款機(jī)型,發(fā)現(xiàn)C6g在性能上提升了30%,在成本上節(jié)約了38%。

根據(jù)AWS官方提供的更全面的對比測試數(shù)據(jù)顯示,與同配置X86實(shí)例相比,由AWS Graviton2處理器提供支持的Amazon EC2 M6g、C6g和R6g實(shí)例的性價(jià)比提高了40%。

Graviton2處理器何以有如此高的性能提升,近日AWS大中華區(qū)云服務(wù)產(chǎn)品管理總經(jīng)理顧凡和AWS大中華區(qū)產(chǎn)品部計(jì)算與存儲(chǔ)總監(jiān)周舸接受了TechWeb等的采訪,對Graviton2處理器及其支持的EC2實(shí)例背后的關(guān)鍵技術(shù)及產(chǎn)品服務(wù)發(fā)展戰(zhàn)略進(jìn)行了解讀。

AWS自研芯片

談及Graviton2處理器就不得不談AWS的自研芯片戰(zhàn)略。

2013年AWS開始跟Annapurna labs合作研發(fā)第一代Nitro。此后,Amazon收購了Annapurna labs,將其變成自己的半導(dǎo)體設(shè)計(jì)公司,由此揭開了自研半導(dǎo)體芯片的發(fā)展歷程。

目前,AWS的自研芯片有3條主線。

第一條是AWS Nitro。2017年AWS第一次公開介紹Nitro,Nitro的研發(fā)升級(jí)旨在為用戶提供更高的網(wǎng)絡(luò)訪問性能。到2020年,Nitro已經(jīng)發(fā)展到了第四代。Nitro架構(gòu)及Nitro卡的升級(jí)迭代,讓AWS網(wǎng)絡(luò)能力從最初10G的時(shí)代跨入到100G再到2020年的400G,存儲(chǔ)帶寬能力提升好幾倍。

第二條,針對機(jī)器學(xué)習(xí),AWS在2019年推出了AWS Inferentia專門用于推理的芯片;另外,AWS計(jì)劃在2021年推出自研的專門為訓(xùn)練工作負(fù)載設(shè)計(jì)的AWS Trainium芯片。

第三條,就是在CPU部分的投入和研究。2018年的時(shí)候,AWS首次推出基于ARM架構(gòu)的Graviton第一代CPU芯片。2019年re:Invent,AWS推出第二代產(chǎn)品Graviton2。此后的2020年開始有很多客戶遷移至Graviton2。

Graviton2的設(shè)計(jì)關(guān)鍵

周舸強(qiáng)調(diào),Graviton2是最新的基于ARM架構(gòu)自研的芯片,也是第一個(gè)真正的以云為原生設(shè)計(jì)的,適合運(yùn)營現(xiàn)代化應(yīng)用負(fù)載提供云服務(wù)的芯片。

AWS究竟是如何思考和設(shè)計(jì)ARM架構(gòu)的CPU?Graviton2到底跟傳統(tǒng)的X86有什么不一樣?對此周舸進(jìn)行了解讀。

周舸介紹,設(shè)計(jì)Graviton2的目標(biāo)很簡單,希望每一個(gè)核在Graviton2里面,都能夠達(dá)到最好的真實(shí)性能,滿足客戶現(xiàn)代化應(yīng)用的需要。同時(shí),我們希望在一個(gè)CPU里,放盡量多獨(dú)立的核,以便最大程度的讓它充分發(fā)揮平行擴(kuò)展的能力。

通過比較基于Graviton2的實(shí)例C6g.large和基于X86架構(gòu)英特爾CPU的實(shí)例C5.large,這種差異化設(shè)計(jì)更能一目了然。

C5.large是AWS基于Intel內(nèi)核的計(jì)算密集型實(shí)例。C6g.large實(shí)例基于Graviton2內(nèi)核實(shí)現(xiàn)。

周舸介紹,這兩個(gè)實(shí)例最明顯的區(qū)別是,C5.large一個(gè)核里可以跑兩個(gè)線程,每一個(gè)線程相當(dāng)于一個(gè)獨(dú)立的任務(wù)在運(yùn)行,通過SMT去控制和協(xié)調(diào)。兩個(gè)線程共享一級(jí)和二級(jí)緩存。這是標(biāo)準(zhǔn)的Intel的內(nèi)核設(shè)計(jì)特色。Graviton2采用兩個(gè)物理核,每一個(gè)核只跑一個(gè)線程,只完成一個(gè)任務(wù),獨(dú)享L1和L2緩存,互相不受干擾。

周舸強(qiáng)調(diào), 基于Graviton2的C6g.large實(shí)例一級(jí)緩存多了4倍,二級(jí)緩存增大2倍。這些都充分讓Graviton2內(nèi)核的CPU能夠最大程度的適應(yīng)云原生可平行擴(kuò)展的微服務(wù)化應(yīng)用,能夠充分發(fā)揮它的能力。這是我們設(shè)計(jì)Graviton2的最關(guān)鍵的一些特點(diǎn)。

與第一代AWS Graviton處理器相比,AWS Graviton2處理器性能達(dá)到前者7倍、計(jì)算核心數(shù)量達(dá)到4倍、緩存達(dá)到2倍、內(nèi)存速度達(dá)到5倍。AWS Graviton2處理器具有全天候運(yùn)行的256位內(nèi)存加密功能,每個(gè)核心的加密性能速度比第一代AWS Graviton處理器提高50%。

目前,AWS Graviton2 處理器提供支持的 Amazon EC2 M6g、C6g 和 R6g 實(shí)例已經(jīng)正式落地中國。

其中,Amazon EC2 M6g為通用型實(shí)例,為工作負(fù)載提供均衡的計(jì)算、內(nèi)存和網(wǎng)絡(luò)資源,可用于開源軟件應(yīng)用程序,例如微服務(wù)、游戲服務(wù)器和消息隊(duì)列等;C6g為計(jì)算優(yōu)化型實(shí)例,計(jì)算資源配比較高,適用于計(jì)算密集型應(yīng)用程序,例如高性能計(jì)算、批處理、廣告服務(wù)、視頻編碼、游戲、科學(xué)建模、分布式分析和基于CPU的機(jī)器學(xué)習(xí)推理等工作負(fù)載;R6g為內(nèi)存優(yōu)化型實(shí)例,內(nèi)存資源配比較高,適用于內(nèi)存密集型應(yīng)用程序,例如開源數(shù)據(jù)庫、內(nèi)存數(shù)據(jù)庫和實(shí)時(shí)大數(shù)據(jù)分析。三類實(shí)例都分別有8種資源大小可供選擇,分別為1個(gè)、2個(gè)、4個(gè)、8個(gè)、16個(gè)、32個(gè)、48個(gè)和64個(gè)vCPU,并且可以作為按需實(shí)例、預(yù)留實(shí)例或Spot實(shí)例購買,充分體現(xiàn)了云計(jì)算資源配置的靈活性。

AWS大中華區(qū)云服務(wù)產(chǎn)品管理總經(jīng)理顧凡表示,云計(jì)算的創(chuàng)新始終沒有停止,客戶的需求始終是AWS創(chuàng)新的動(dòng)力源泉。AWS與英特爾、AMD、英偉達(dá)、賽靈思等芯片廠商都有著深入的合作,我們推出自研處理器,旨在為客戶提供更多樣化的計(jì)算實(shí)例選擇,在提供出色性能的同時(shí)節(jié)省大量成本,滿足客戶不同應(yīng)用場景的需求。

顧凡也向TechWeb強(qiáng)調(diào),我們把選擇權(quán)交給客戶,讓客戶根據(jù)自己的需求去選擇合適的產(chǎn)品。我們會(huì)在客戶充分地體會(huì)到Graviton2帶來的性價(jià)比提升的情況下,幫助他們在中國區(qū)域用起來。 (文/寧萌)

(注1:實(shí)例是AWS提出的一個(gè)云計(jì)算基本概念,它是指在一段時(shí)間內(nèi)分配的一組計(jì)算資源。用通俗的叫法,實(shí)例也被稱作云服務(wù)器、虛擬服務(wù)器、云主機(jī)、虛擬機(jī)等等。)

極客網(wǎng)企業(yè)會(huì)員

免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請進(jìn)一步核實(shí),并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。

2021-02-05
服務(wù)云原生 Graviton2處理器帶來40%性價(jià)比提升 AWS中國高管詳解背后關(guān)鍵技術(shù)
[an error occurred while processing the directive]2月5日消息,日前,亞馬遜云服務(wù)(AWS)正式宣布,由 AWS Graviton2 處理器...

長按掃碼 閱讀全文