服務(wù)全球百萬用戶的最佳實(shí)踐：硬件創(chuàng)新經(jīng)驗(yàn)沒有壓縮算法！

硬件創(chuàng)新有沒有經(jīng)驗(yàn)可循？從亞馬遜云科技服務(wù)全球百萬用戶的最佳實(shí)踐來看，硬件創(chuàng)新經(jīng)驗(yàn)沒有壓縮算法，只有從用戶中來到用戶中去。

作為特別接地氣的技術(shù)實(shí)用主義公司，亞馬遜云科技在云計(jì)算方面的創(chuàng)新一直沒有停止，而創(chuàng)新的動(dòng)力源泉就是客戶的需求，其 90% 以上的創(chuàng)新都來自于客戶的需求反饋，剩下 10% 是和用戶交流過程中亞馬遜云科技自己的思考。在今年的亞馬遜云科技 re:Invent 全球大會(huì)主題演講上，亞馬遜云科技 CEO Adam Selipsky 表示： “16 年來，亞馬遜云科技一直在優(yōu)化和創(chuàng)新計(jì)算、存儲(chǔ)和網(wǎng)絡(luò)基礎(chǔ)設(shè)施服務(wù)，以支持您的所有工作負(fù)載。目前亞馬遜云科技已有 600 多種不同的計(jì)算實(shí)例類型，因此您可以找到適合您的所有應(yīng)用需求的正確資源組合?！?/p>

“從客戶中來，到客戶中去”不只是一句簡單的口號(hào)，而是亞馬遜云科技的持續(xù)積累和創(chuàng)新實(shí)踐。通過硬件創(chuàng)新，不斷擴(kuò)展云計(jì)算的邊界，用更豐富的云計(jì)算服務(wù)，賦能客戶的上云業(yè)務(wù)場景。亞馬遜云科技為所有客戶業(yè)務(wù)負(fù)載，提供全方位的計(jì)算能力支持。

服務(wù)全球百萬用戶，依靠亞馬遜云科技全球布局的“下一代云基礎(chǔ)架構(gòu)”，將技術(shù)積累和技術(shù)創(chuàng)新不斷轉(zhuǎn)化為云計(jì)算底層能力，賦能全球客戶。所以，亞馬遜云科技在硬件上的創(chuàng)新，才更受萬眾矚目。

加速硬件創(chuàng)新，滿足客戶多樣性需求

目前亞馬遜云科技已經(jīng)在 Nitro 系統(tǒng)的加持下，有超過 600 款計(jì)算實(shí)例，幾乎可以滿足一切云上負(fù)載的需求。如今每天有超過 6000 萬個(gè)新的 EC2 實(shí)例在亞馬遜云科技上被創(chuàng)建。

自 2013 年推出 Amazon Nitro 系統(tǒng)以來，亞馬遜云科技已經(jīng)開發(fā)了多個(gè)自研芯片，包括五代 Nitro 系統(tǒng)、致力于為各種工作負(fù)載提升性能和優(yōu)化成本的三代 Amazon Graviton 芯片、用于加速機(jī)器學(xué)習(xí)推理的兩代 Amazon Inferentia 芯片，以及用于加速機(jī)器學(xué)習(xí)訓(xùn)練的 Amazon Trainium 芯片。

亞馬遜云科技在芯片設(shè)計(jì)和驗(yàn)證的敏捷開發(fā)周期中使用基于云的電子設(shè)計(jì)自動(dòng)化，這使團(tuán)隊(duì)能夠更快地創(chuàng)新，更快地將芯片提供給客戶。實(shí)踐證明，亞馬遜云科技更現(xiàn)代化、更節(jié)能的半導(dǎo)體處理確保了芯片的快速迭代及交付。每推出一款新的芯片，亞馬遜云科技都進(jìn)一步提升了這些芯片支持的 Amazon EC2 實(shí)例的性能、效率以及更優(yōu)化的成本，為客戶提供了更多的芯片和實(shí)例組合選擇，針對(duì)他們獨(dú)特的工作負(fù)載進(jìn)行了優(yōu)化。

2022 年 11 月 30 日，亞馬遜云科技在 2022 re:Invent 全球大會(huì)上宣布，推出新的自研芯片支持的 Amazon Elastic Compute Cloud（Amazon EC2）實(shí)例，為客戶廣泛的工作負(fù)載提供更高性價(jià)比。

高性能計(jì)算方面，硬件產(chǎn)品持續(xù)升級(jí)

亞馬遜云科技在大會(huì)上推出了 Amazon EC2 Hpc7g 實(shí)例，采用最新款的 Amazon Graviton3E 處理器，為高性能計(jì)算工作負(fù)載提供極佳的性價(jià)比。新的 HPC7g 實(shí)例類型具有 最多 64 個(gè) vCPU 和 128 GB 內(nèi)存，主要適用于天氣預(yù)報(bào)、生命科學(xué)、工程計(jì)算等高性能計(jì)算場景。與當(dāng)前一代 C6gn 實(shí)例相比浮點(diǎn)性能提高了 2 倍，與當(dāng)前一代 Hpc6a 實(shí)例相比性能提高了 20%，為亞馬遜云科技上的高性能計(jì)算工作負(fù)載提供了超高性價(jià)比。

此次發(fā)布的 Amazon EC2 C7gn 由 Amazon Graviton3E 處理器提供支持。配備了新一代 Amazon Nitro的 C7gn 實(shí)例，具有增強(qiáng)的網(wǎng)絡(luò)處理能力，是目前 Amazon EC2 網(wǎng)絡(luò)優(yōu)化型實(shí)例中，提供最高網(wǎng)絡(luò)帶寬和數(shù)據(jù)包轉(zhuǎn)發(fā)性能的實(shí)例。新推出的 C7gn 實(shí)例相比于 C7g，為網(wǎng)絡(luò)密集型工作負(fù)載而設(shè)計(jì)，如數(shù)據(jù)分析、集群計(jì)算作業(yè)場景，以及網(wǎng)絡(luò)虛擬設(shè)備等，將支持 200 Gbps 的網(wǎng)絡(luò)帶寬，提高 50% 的數(shù)據(jù)包處理性能。

機(jī)器學(xué)習(xí)，實(shí)例創(chuàng)新從未停止

在機(jī)器學(xué)習(xí)方面，此次也有不少實(shí)例創(chuàng)新。在 re:Invent 2021 中，Amazon EC2 P4de instance 全新升級(jí)，客戶可以將它們部署在大的集群中進(jìn)行機(jī)器學(xué)習(xí)訓(xùn)練。此次發(fā)布了Amazon EC2 Inf2實(shí)例，采用最新款的Amazon Inferentia2 機(jī)器學(xué)習(xí)加速推理芯片，是專門為運(yùn)行多達(dá) 1,750 億個(gè)參數(shù)的大型深度學(xué)習(xí)模型而構(gòu)建的，與當(dāng)前一代 Inf1 實(shí)例相比可提供高達(dá) 4 倍的吞吐量，降低多達(dá) 10 倍的延遲。

同時(shí)，亞馬遜云科技還發(fā)布了專門用于訓(xùn)練機(jī)器學(xué)習(xí)模型的定制芯片 Amazon Trainium，并于 2021 年發(fā)布了對(duì)應(yīng)的 Trn1 實(shí)例。Amazon Trainium 支持 TensorFlow、 PyTorch 和 MXNet。Trn1 實(shí)例支持最多 16 顆 Trainium 加速芯片。在 Trn1 上運(yùn)行 Hugging Face BERT 大模型，其性能對(duì)比 GPU 實(shí)例有 42% 的提升，成本則降低了 54%。Trn1 第一次把實(shí)例的網(wǎng)絡(luò)帶寬提高到了 800GB。在 2022 re:Invent上，面向新的 AI 訓(xùn)練需求，亞馬遜云科技推出了基于 Trainium 的 Trn1n 訓(xùn)練芯片，針對(duì)網(wǎng)絡(luò)通信進(jìn)行優(yōu)化，增加了 1600Gbps EFA 網(wǎng)絡(luò)功能，使其能夠更快地處理超大規(guī)模分布式模型訓(xùn)練場景。

基于 Intel 芯片，加速優(yōu)化升級(jí)

面對(duì)高性能計(jì)算場景，亞馬遜云科技還基于英特爾芯片做了持續(xù)創(chuàng)新，推出 Amazon EC2 R7iz 的預(yù)覽版，該實(shí)例采用第四代英特爾至強(qiáng)可擴(kuò)展處理器，更好地實(shí)現(xiàn)內(nèi)存優(yōu)化。第四代至強(qiáng)處理器為 EC2?R7iz 實(shí)例提供最大 3.9GHz 的全核睿頻頻率，與其他高頻率 EC2 實(shí)例相比，該實(shí)例的性能提高 20%。R7iz 實(shí)例基于第四代英特爾可擴(kuò)展處理器和 Amazon?Nitro 系統(tǒng)，提供包含專用硬件和輕量級(jí)虛擬機(jī)管理軟件的結(jié)合，在性能和安全性上有顯著提高。

以 HPC 客戶的需求為例，亞馬遜云科技正式發(fā)布了用于高性能計(jì)算（HPC）的新亞馬遜彈性計(jì)算云 Amazon EC2 Hpc6id instance，基于 Amazon Nitro 系統(tǒng)構(gòu)建的 EC2 Hpc6id 實(shí)例提供 200Gbps 彈性結(jié)構(gòu)適配器網(wǎng)絡(luò)，用于高吞吐量節(jié)點(diǎn)間通信，使客戶 HPC 工作負(fù)載能夠大規(guī)模運(yùn)行，實(shí)現(xiàn)成本優(yōu)化。Adam表示：“Hpc6id 實(shí)例旨在為數(shù)據(jù)、內(nèi)存密集型 HPC 工作負(fù)載、更高的內(nèi)存帶寬、更快的本地 SSD 存儲(chǔ)和彈性結(jié)構(gòu)適配器增強(qiáng)的網(wǎng)絡(luò)提供領(lǐng)先的性價(jià)比。使用 EC2 Hpc6id 實(shí)例，可以降低 HPC 工作負(fù)載的成本，同時(shí)利用亞馬遜云科技的彈性和可擴(kuò)展性?！?/p>

亞馬遜云科技 Amazon EC2 副總裁 David Brown 表示：“從 Graviton 到Trainium、Inferentia 再到 Nitro，亞馬遜云科技每一代自研芯片都為客戶的各種工作負(fù)載提供更高的性能、更優(yōu)化的成本和更高的能效。我們不斷推陳出新讓客戶獲得卓越的性價(jià)比，這也一直驅(qū)動(dòng)著我們的持續(xù)創(chuàng)新。我們今天推出的 Amazon EC2 實(shí)例為高性能計(jì)算、網(wǎng)絡(luò)密集型工作負(fù)載和機(jī)器學(xué)習(xí)推理工作負(fù)載提供了顯著的性能提升，客戶有了更多的實(shí)例選擇來滿足他們的特定需求?！?/p>

Graviton 全球和中國最佳實(shí)踐

現(xiàn)在，亞馬遜云科技已經(jīng)在全球百萬用戶的基礎(chǔ)上，汲取了千行百業(yè)的客戶需求和最佳實(shí)踐，每一個(gè)實(shí)例背后都有一個(gè)客戶應(yīng)用場景。

Mobiuspace 大宇無限是一家提供先進(jìn)的基于 AI 的內(nèi)容發(fā)現(xiàn)和娛樂平臺(tái) 公司。最近，Mobiuspace 在新的基于 Amazon Graviton2 的 Amazon EC2 M6g 實(shí)例上，測試了其基于 Java 的容器化后端服務(wù)，與 M5 實(shí)例相比，性能提高了 40%。由于這種性能改進(jìn)和 Amazon EC2 M6g 實(shí)例價(jià)格降低 20%，Mobiuspace 公司期待著采用它們。

Epic Games 成立于 1991 年，締造了《堡壘之夜》、《虛幻》、《戰(zhàn)爭機(jī)器》、《暗影情結(jié)》和《無盡之劍》等系列游戲。Epic 的虛幻引擎技術(shù)為 PC、游戲機(jī)、移動(dòng)設(shè)備、AR、VR 和 Web 提供高保真的交互體驗(yàn)?！罢雇磥?，我們期待為玩家打造更加身臨其境、引人入勝的體驗(yàn)，并且很高興能夠使用基于 Amazon Graviton3 的 EC2 C7g 實(shí)例。我們的測試表明，它們甚至適用于最苛刻的延遲敏感型工作負(fù)載，同時(shí)能提供顯著的性價(jià)比優(yōu)勢(shì)，并擴(kuò)展了《堡壘之夜》內(nèi)的可能性和任何虛幻引擎營造的體驗(yàn)?！?Mark Imbriaco，Epic Games 高級(jí)工程總監(jiān)說到。

Formula1(F1)賽車始于 1950 年，是世界上最負(fù)盛名的賽車比賽，也是世界上最受歡迎的年度體育系列?！盎?Graviton2 的 C6gn 實(shí)例為我們的一些 CFD 工作負(fù)載提供了最佳性價(jià)比。我們現(xiàn)在發(fā)現(xiàn)，在相同的模擬中，Graviton3 C7g 實(shí)例比 Graviton2 C6gn 實(shí)例快 40%。我們很高興 EFA 將成為此實(shí)例類型的標(biāo)準(zhǔn)，并鑒于性價(jià)比的大幅提升，我們預(yù)計(jì)基于 Graviton3 的實(shí)例將成為運(yùn)行我們所有 CFD 工作負(fù)載的最佳選擇?！盤atSymonds，F(xiàn)ormula1Management 的首席技術(shù)官說道。

開啟增長飛輪，引發(fā)更多云計(jì)算思考

從 2006 年起，亞馬遜云科技宣布降價(jià) 115 次。表面的是價(jià)格的降低，但更多的是亞馬遜云科技將規(guī)模與技術(shù)的紅利反饋給客戶。這是亞馬遜云科技無法模仿的增長飛輪，而跟隨者的飛輪需要額外推力才能保持運(yùn)轉(zhuǎn)。

亞馬遜云科技從不在高性能、高安全性和低成本這三方面進(jìn)行妥協(xié)，在選擇悖論中，亞馬遜云科技給出的答案是：通過自身技術(shù)的不斷演進(jìn)和創(chuàng)新，讓云計(jì)算可以兼顧高性能、高安全性和低成本。

作為全球排名第一的云計(jì)算平臺(tái)，亞馬遜云科技通過支持豐富的客戶應(yīng)用場景的經(jīng)驗(yàn)反饋，更推進(jìn)了亞馬遜云科技的芯片創(chuàng)新之路，這是無法比擬的，同時(shí)資源的投入，及用戶規(guī)模的增長，亞馬遜云科技的云計(jì)算之路已越走越快，越走越寬。

生成海報(bào)

免責(zé)聲明：此文內(nèi)容為第三方自媒體作者發(fā)布的觀察或評(píng)論性文章，所有文字和圖片版權(quán)歸作者所有，且僅代表作者個(gè)人觀點(diǎn)，與極客網(wǎng)無關(guān)。文章僅供讀者參考，并請(qǐng)自行核實(shí)相關(guān)內(nèi)容。投訴郵箱：editor@fromgeek.com。

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。