從去年12月開始,ChatGPT 猶如一股熱浪鋪面而來,迅速爆火全球互聯(lián)網(wǎng)圈。論文撰寫、詩歌創(chuàng)作、代碼編寫…強大的能力引得網(wǎng)友連連感嘆:“只有你想不到的,沒有 ChatGPT 辦不成的。”
在強大能力的背后,算力的支撐是其發(fā)展的核心。有人做過統(tǒng)計,ChatGPT 需要超過1萬顆 A100 GPU 提供算力支持,單次訓練成本超過400萬美元,每天成本超過10萬美元。
「算力」,再一次被推到所有人眼前,但其實這并不是一個新概念。
1、算力,低調(diào)的幕后力量
顧名思義,算力指的就是計算的能力。如果你從來沒聽說過這個詞,或許可以把它等價成 A100 的數(shù)量。但很多人還沒意識到的是,算力已經(jīng)像水、電、氣一樣,成為了我們現(xiàn)代社會不可或缺的關(guān)鍵基礎(chǔ)資源。
我國在2022年正式啟動「東數(shù)西算」工程,在全國規(guī)劃了8個國家算力樞紐節(jié)點、10個國家數(shù)據(jù)中心集群。就像「西氣東輸」、「南水北調(diào)」一樣,「東數(shù)西算」也成為了我們國家的戰(zhàn)略資源跨域調(diào)配工程,這也從非常高的高度,認可了算力的重要意義。
也正是因為看到算力的重要性,包括亞馬遜微軟谷歌阿里騰訊在內(nèi)的這些國內(nèi)外的頂級科技巨頭,已經(jīng)早早的把業(yè)務(wù)重點轉(zhuǎn)向云計算了。而云計算的本質(zhì),就是希望能像自來水一樣,為用戶提供源源不斷的算力。擰開水龍頭就會出水,插上電源就會有電,未來接上算力網(wǎng)絡(luò),就能使用云端的大量算力。
我們用自來水的時候不會擔心水怎么來、也不關(guān)心中間經(jīng)過多少道處理工序。同理,有了云端算力之后,用戶就不用擔心算力怎么來,也不需要關(guān)心硬件實現(xiàn)的底層步驟,只需要專注于用算力的使用就可以了。
聽起來好像很簡單,實際做起來其實非常復雜,更離不開云計算技術(shù)的不斷進步與迭代。而自研芯片也已經(jīng)成了各大國內(nèi)外云計算大廠發(fā)力的重點,甚至是他們的「標配」和「殺手锏」,并且成為各個云廠商的主要差異化所在。此外,云計算領(lǐng)域木桶效應(yīng)越來越明顯,軟件和硬件不能有短板;未來進化方向,一定是軟硬件協(xié)同優(yōu)化。
2、云廠商前仆后繼自研芯片,原因為何?
云計算領(lǐng)域的一個重要趨勢,就是這些云計算和互聯(lián)網(wǎng)大廠都在紛紛自研芯片,包括亞馬遜云科技、微軟、阿里云都是如此。他們并不是在玩票,而是把自研芯片作為自己的核心競爭優(yōu)勢和主要的差異化。
要說清楚為什么云廠商要自研芯片,就要首先看一下云計算里的一個「不可能三角」,也就是說在云計算里,性能、成本、安全性,這三點不可同時兼得。如果既要又要,就不能還要。比如,追求高性能和低成本,那安全性就要妥協(xié);追求低成本和高安全,那就很難做到高性能;如果既要高性能又要高安全,那成本肯定低不了。
不可能三角出現(xiàn)的本質(zhì)原因,就是市面上的那些通用軟硬件并沒有針對特定場景做優(yōu)化。比如 CPU 廠商提供的處理器芯片,并不是專門為了某個云廠商的實際應(yīng)用專門設(shè)計的,那么在核心數(shù)量、主頻、緩存大小,以及軟件的并行性支持和應(yīng)用開發(fā)上,肯定不會優(yōu)化的那么深入。這就像去商店買的公版的衣服或許也不錯,但肯定不如裁縫量體裁衣來的合適。
于是,這些財大氣粗的互聯(lián)網(wǎng)和云計算大廠,就紛紛開始下水自己做芯片了,而亞馬遜云科技,應(yīng)該算是最早吃螃蟹的那個。
3、AmazonNitro:亞馬遜云科技的基石芯片Amazon Nitro 是亞馬遜云科技自研芯片的起點,從2013年推出首顆 Amazon Nitro 芯片起,它已經(jīng)經(jīng)歷了4代迭代,并且已經(jīng)成為驅(qū)動當今所有 EC2 實例的基礎(chǔ)性技術(shù)。我們先介紹下 Amazon Nitro 的技術(shù)特點,然后來看看這次大會上發(fā)布的最新一代 Amazon Nitro v5 芯片。
從廣義上來說,Amazon Nitro 并不是單獨的芯片本身,而是由多個芯片和板卡組成的基礎(chǔ)架構(gòu),可以實現(xiàn)存儲訪問、加密、監(jiān)控、實例配置等等幾乎所有的工作。對于云計算、特別是公有云來說,Amazon Nitro 最重要的意義就是幫助 CPU 減負。也就是說,它能把數(shù)據(jù)中心里的「網(wǎng)絡(luò)」「計算」「存儲」這些基本功能都從 CPU 里卸載出來,從而釋放 CPU 寶貴的內(nèi)核資源。專用的 Amazon Nitro 卡可以實現(xiàn)高速網(wǎng)絡(luò)、高速 EBS 和 I/O 加速,不需要在 CPU 上運行額外的管理軟件。
同時,Amazon Nitro 系統(tǒng)還能虛擬出來一個統(tǒng)一的用戶接口,不管底層硬件用的是x86 CPU、ARM CPU,甚至是蘋果的 Mac 硬件,對于用戶來說都沒有區(qū)別。這種軟硬件的解耦,就極大地釋放了軟硬件設(shè)計的靈活性,讓二者不會相互掣肘,這也是亞馬遜云科技能大規(guī)模部署基于 ARM 架構(gòu)處理器的本質(zhì)原因。當然,Amazon Nitro 出現(xiàn)的本質(zhì)原因還是基于安全性的考慮,這也一直是 Amazon Nitro 的核心功能之一。比如它會阻止主機之外的任何系統(tǒng)登錄或讀取基于 Amazon Nitro 的實例內(nèi)存,從而在硬件層面直接保障安全性。
也就是說,Amazon Nitro 的核心設(shè)計理念,就是為了很好的平衡前面說到的那個云計算「不可能三角」,它并不是為了追求單個領(lǐng)域的極致,而追求的是三個重要因素很好的平衡。
去年底,亞馬遜云科技召開了一年一度的 re:Invent 大會,并發(fā)布了最新的 Amazon Nitro v5 芯片,重點聚焦在通信帶寬的提升: PCIe 帶寬提升2倍、DRAM 速度提升50%、數(shù)據(jù)包處理速度提升60%、通信延時降低30%。和前一代相比,Amazon Nitro v5 的晶體管數(shù)量增加一倍,并由此帶來每瓦性能40%的提升。
事實上,大會上并未公布 Amazon Nitro v5 的架構(gòu)細節(jié)和制造工藝,但這對于用戶來說可能并不重要,畢竟用戶不會單獨購買或者使用 Amazon Nitro 本身,它已經(jīng)作為每臺 EC2 服務(wù)器的基礎(chǔ)設(shè)施而存在了。有了 Amazon Nitro 的高性能和虛擬化功能的加持,也給用戶提供了更多的計算實例。在2022年初,Amazon EC2 實例有400多款;經(jīng)過一年的發(fā)展,已經(jīng)超過600款。這就讓算力的供給更加快速和靈活。
4、Amazon Graviton3E:一切為了高算力
除了 Nitro,亞馬遜云科技還有一個看家芯片,那就是基于 ARM 架構(gòu)的服務(wù)器 CPU 芯片 Amazon Graviton。
很多人認為,和 x86 架構(gòu)相比,ARM 架構(gòu)不適合用于數(shù)據(jù)中心或者高性能計算領(lǐng)域。但事實上,決定性能的并不是指令集,而是微架構(gòu)。Amazon Graviton 系列處理器不僅能取得高性能、更能兼顧 ARM 架構(gòu)低功耗的優(yōu)勢,從而實現(xiàn)更好的「性能功耗比」。和 x86 實例相比,基于 Amazon Graviton3 的實例能取得高達60%的每瓦功耗提升。
在去年的 re:Invent 大會上,并沒有發(fā)布第四代Amazon Graviton 芯片,但在第三代的基礎(chǔ)上增加了對高性能計算的優(yōu)化。具體來說,就是特別優(yōu)化了對向量計算和浮點計算的支持。這也是 ARM 架構(gòu)進一步進軍 HPC 的重要嘗試。要知道,性能在 HPC 領(lǐng)域只是重要因素之一,同樣重要的還有功耗、成本、性價比。在這些方面,ARM 架構(gòu)無疑有著更大優(yōu)勢。再加上自研芯片的加持,通過大規(guī)模部署進一步攤薄成本,就會讓性價比進一步提升。這些才是這些云廠商自研處理器芯片的本質(zhì)動力。
用中國工程院院士孫凝暉的話說,算力時代是算力的基礎(chǔ)設(shè)施化時代,是走向智能時代的必由之路。如何獲得性能更高、更安全、更節(jié)能的算力,仍然是云計算廠商和學術(shù)界不斷探索的課題,一旦解決,或許就會開啟人類社會的新時代。
免責聲明:此文內(nèi)容為第三方自媒體作者發(fā)布的觀察或評論性文章,所有文字和圖片版權(quán)歸作者所有,且僅代表作者個人觀點,與極客網(wǎng)無關(guān)。文章僅供讀者參考,并請自行核實相關(guān)內(nèi)容。投訴郵箱:editor@fromgeek.com。
- 蜜度索驥:以跨模態(tài)檢索技術(shù)助力“企宣”向上生長
- 騰訊隱身,令人生畏
- 迪卡儂的價格、lululemon的品質(zhì),平替正成為年輕消費者的心頭好
- 三場與AI有關(guān)的死亡
- 100億美元史上最大融資的背后,國內(nèi)外巨頭齊瞄準Data+AI
- 有一種羨慕叫“別人家的年終獎”:京東采銷平均23薪,全網(wǎng)熱議“人的價值”
- 行業(yè)首個“人機大戰(zhàn)”對壘!AI翻譯已媲美人工
- 蘋果開啟年終大促,降價1200元,被國產(chǎn)手機嚇怕了?
- 1999 元起,OPPO A5 Pro 超防水、超抗摔、超耐用
- 長三角,如何把數(shù)據(jù)要素變成新長江?
- 大模型,在內(nèi)卷中尋找出口
免責聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性,但不保證有關(guān)資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時,應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明,并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實,溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。