亞馬遜自研CPU和AI云芯片曝光,為什么大型云服務(wù)商都在搞芯片?

原標(biāo)題:亞馬遜自研CPU和AI云芯片曝光,為什么大型云服務(wù)商都在搞芯片?

亞馬遜出手了,一出手就是兩顆炸彈!

本周一,亞馬遜推出首款自研Arm架構(gòu)云服務(wù)器CPU Graviton,目標(biāo)直指英特爾;

昨天,亞馬遜又推出了首款云端AI推理芯片AWS Inferentia,目標(biāo)是殺傷微軟Azure、谷歌云等一批對手,并讓中小玩家無牌可打。

亞馬遜力圖走一條自己的云端芯一體化路線,似乎沒有給其他人留出可趁之機(jī)。

未來云計算的市場,將迎來巨變!

亞馬遜自研Arm架構(gòu)數(shù)據(jù)中心CPU,成本最低降45%

據(jù)The Register報道,本周公布的亞馬遜AWS定制版Graviton——支持AWS的A1EC2實(shí)例的多核Arm處理器,處理器性能幾乎與AMD的基于Arm的芯片相當(dāng),這些虛擬機(jī)現(xiàn)在可在美國和歐洲使用。

Graviton:亞馬遜基于Arm架構(gòu)的CPU

關(guān)于Graviton的性能參數(shù),目前能了解到的是:CPU內(nèi)核基于Arm 2015年的Cortex-A72設(shè)計,主頻為2.3GHz,為64位Armv8-A、非NUMA處理器,具備浮點(diǎn)數(shù)學(xué)計算、SIMD、AES,SHA-1、SHA-256、GCM和CRC-32算法的硬件加速功能。

片上系統(tǒng)使用Arm的數(shù)據(jù)中心優(yōu)化型Neoverse技術(shù)和Annapurna的內(nèi)部設(shè)計。 16個vCPU實(shí)例排列在4個四核集群中,每個集群有2MB的共享L2緩存,每個核有32KB的L1數(shù)據(jù)緩存和48KB的L1指令緩存。一個vCPU對應(yīng)一個物理核心。

亞馬遜一位發(fā)言人表示:“AWS Graviton處理器是由AWS定制設(shè)計的新處理器系列,設(shè)計中融入了亞馬遜為大規(guī)模云應(yīng)用程序構(gòu)建平臺方案上的廣泛專業(yè)知識。”

據(jù)亞馬遜全球基礎(chǔ)設(shè)施和客戶服務(wù)VP Peter DeSantis所說,使用新的芯片能讓AWS虛擬機(jī)特定工作負(fù)載的價格再降低45%。

亞馬遜云首款AI芯片問世,降低推理成本75%

在亞馬遜美國拉斯維加斯大會上,昨天還放出另一個炸彈——首款云端AI芯片AWS Inferentia。

AWS Inferentia是一款機(jī)器學(xué)習(xí)推理芯片,支持TensorFlow、Apache MXNet和PyTorch深度學(xué)習(xí)框架,以及使用ONNX格式的模型。

使用經(jīng)過訓(xùn)練的機(jī)器學(xué)習(xí)模型進(jìn)行預(yù)測可以驅(qū)動應(yīng)用程序高達(dá)90%的計算成本。開發(fā)人員可以將GPU支持的推理加速附加到Amazon EC2和Amazon SageMaker實(shí)例中,從而將推理成本降低75%

根據(jù)官網(wǎng)介紹,每個Inferentia芯片提供高達(dá)幾百TOPS的算力,使復(fù)雜的模型能夠做出快速的預(yù)測。多個AWS Inferentia芯片可以一起使用來驅(qū)動,形成成千上萬的TOPS算力。

這款芯片將于2019年底上市,AWS用戶可以通過Amazon SageMaker、Amazon EC2等一起使用 Inferentia的算力。

云計算巨頭自己造芯:擺脫束縛、降低成本、打擊對手

Graviton的問世顯示出亞馬遜AWS擺脫英特爾的決心。

目前,英特爾擁有全球數(shù)據(jù)中心計算幾乎全部市場份額,英特爾的服務(wù)器芯片價格居高不下,而且有供應(yīng)短缺的風(fēng)險。

為了擺脫這種束縛,越來越多互聯(lián)網(wǎng)巨頭們正考慮使用Arm,OpenPower,RISC-V和AMD Epyc產(chǎn)品,定制自己的芯片,全球云計算巨頭(包括微軟,谷歌,F(xiàn)acebook,亞馬遜,百度等) 都在尋找替代芯片供應(yīng)商。

早在2015年左右,亞馬遜與AMD合作開發(fā)64位Arm服務(wù)器處理器,用于亞馬遜的數(shù)據(jù)中心。AMD還在2016年就推出了與亞馬遜合作的Arm芯片,代號“西雅圖”的Opteron A1100處理器。

不過,AMD未能達(dá)到亞馬遜的性能標(biāo)準(zhǔn),于是亞馬遜退出了與AMD的合作,收購了Arm授權(quán)許可持有者和片上系統(tǒng)設(shè)計企業(yè)Annapurna Labs,讓收購后的團(tuán)隊開始設(shè)計物聯(lián)網(wǎng)網(wǎng)關(guān)及其Nitro芯片組,負(fù)責(zé)處理托管EC2虛擬機(jī)的亞馬遜服務(wù)器的網(wǎng)絡(luò)和存儲任務(wù)。

今天的高端Arm CPU的應(yīng)用范圍,遠(yuǎn)遠(yuǎn)超出了智能手機(jī),還能夠運(yùn)行桌面端和輕型服務(wù)器上的應(yīng)用程序。Graviton的問世就是Annapurna Labs的成果。

而AWS Inferentia的問世則是打擊對手的思路。

第三季度,亞馬遜有一半利潤來自AWS云服務(wù),AWS業(yè)務(wù)在第三季度的營業(yè)利潤率為31%,這是四年多以來的最高水平。

市場份額也印證了AWS的業(yè)績。根據(jù)Synergy Research的數(shù)據(jù),亞馬遜的AWS控制著34%的云基礎(chǔ)設(shè)施服務(wù)市場。微軟以15%的市場份額位居第二,其次是IBM(第三)和谷歌(第四),市場份額均為個位數(shù)。

形勢一片大好。

但是,AWS的對手也突飛猛進(jìn)。微軟Azure云計算同比增長76%,而Alphabet早在今年2月就宣稱,基于2017年的公開數(shù)據(jù),谷歌云平臺是“全球增長最快的主要公有云提供商”。

谷歌云也在最近迎來大調(diào)整:現(xiàn)任CEO將在明年1月離職,接替她的是在甲骨文有20年工作經(jīng)驗的云計算市場老手,緊緊盯住AWS的份額。

Inferentia芯片的推出,就是AWS應(yīng)對這種局面的殺手級武器,主要能夠降低成本。

至此,主要云計算公司中,AWS、谷歌云、阿里云、華為云都布局了AI芯片。

5000億美元市場廝殺:智能云市場重量級玩家全部整裝待發(fā)

亞馬遜的Inferentia芯片和Graviton讓人想起了華為發(fā)布昇騰系列,這是科技巨頭要走一條自己的云端芯一體化路線。

亞馬遜要做的跟華為類似,所不同的是,亞馬遜的芯片已經(jīng)做出來了。亞馬遜也將成為首個在數(shù)據(jù)中心基礎(chǔ)設(shè)施采用基于Arm架構(gòu)CPU的大廠。

回頭再看亞馬遜全球基礎(chǔ)設(shè)施和客戶服務(wù)VP Peter DeSantis所說的“使用新的芯片能讓AWS虛擬機(jī)特定工作負(fù)載的價格再降低45%”。

這個數(shù)字不可小覷。

亞馬遜AWS本已經(jīng)是云計算市場毋庸置疑的王者,現(xiàn)今低價格加上客戶層鋪開,或?qū)⒅ㄆ鹆钇渌偁帉κ终唠y以逾越的高墻——眾所皆知,低成本與大規(guī)模形成飛輪效應(yīng),智能云計算是一個贏者通吃的市場。

發(fā)布會上還有一點(diǎn)值得注意,那就是亞馬遜云的完全托管端到端機(jī)器學(xué)習(xí)服務(wù)AWS SageMaker,將采用陳天奇團(tuán)隊的TVM 作為自動優(yōu)化深度學(xué)習(xí)模型的框架編譯器,后端支持ARM、英特爾和英偉達(dá)的硬件。

還記得英特爾的野心嗎?隨著各種框架(前端)和各種硬件(后端)的興起,大家想做更多的優(yōu)化,業(yè)界出現(xiàn)了框架編譯器這個“中間表示”(IR)之爭。英特爾想把自家的框架編譯器 nGRAPH 打造成 IR 的標(biāo)準(zhǔn)。現(xiàn)在亞馬遜直接支持 TVM,對即將于2019年年底發(fā)布新品的英特爾來說,無疑構(gòu)成了另一個層面上的打擊。

國內(nèi)云計算市場的No.1阿里云日前升級為阿里云智能平臺,由阿里CTO 張建鋒兼任阿里云智能事業(yè)群總裁,目標(biāo)是構(gòu)建數(shù)字經(jīng)濟(jì)時代面向全社會基于云計算的智能化技術(shù)基礎(chǔ)設(shè)施。這一舉措,呼應(yīng)騰訊新成立的云與智慧產(chǎn)業(yè)事業(yè)群,以及更早些時候從二級部門升級為一級部門的華為云。

至此,全球云計算市場的幾大主要玩家已經(jīng)全部整裝待發(fā),誰將主宰價值5000億美元的智能云計算市場?

廝殺時間已到,請開始表演。

本文轉(zhuǎn)自新智元

極客網(wǎng)企業(yè)會員

免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請進(jìn)一步核實(shí),并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負(fù)任何法律責(zé)任。任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實(shí)內(nèi)容時,應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。

2018-11-30
亞馬遜自研CPU和AI云芯片曝光,為什么大型云服務(wù)商都在搞芯片?
據(jù)The Register報道,本周公布的亞馬遜AWS定制版Graviton——支持AWS的A1EC2實(shí)例的多核Arm處理器,處理器性能幾乎與AMD的基于Arm的芯片相當(dāng),這些虛擬機(jī)現(xiàn)在可在美國和歐洲

長按掃碼 閱讀全文