英偉達黃仁勛:我們已到達生成式AI的引爆點

5月29日消息,在臺北電腦展COMPUTEX 2023上,黃仁勛做了展前主題演講,并發(fā)布了包括超級GPU GH200在內的一系列與AI相關產品。

包括大內存生成式AI超級計算機DGX GH200;Grace Hopper超級芯片GH200;加速以太網平臺Spectrum-X;為游戲提供定制化AI模型代工服務;與全球最大的營銷服務機構WPP合作打造生成式AI內容引擎等。

英偉達還發(fā)布了MGX服務器規(guī)范,為系統(tǒng)制造商提供快速高效構建100多種服務器配置的模塊化參考架構。黃仁勛說,有超過1600家生成式AI公司采用了英偉達技術。

在演講中,黃仁勛宣布,人類已經到達了生成式AI的引爆點。從此,全世界的每個角落,都會有計算需求。

黃仁勛透露,英偉達最新GPU GH200 Grace Hopper超級芯片已全面投產,將為運行復雜的AI和高性能計算工作負載提供動力。

GH200 Grace Hopper超級芯片采用NVIDIA NVLink-C2C互連技術,將基于Arm的英偉達Grace CPU和Hopper GPU架構組合在同一封裝中,提供了高達900GB/s的總帶寬——比傳統(tǒng)加速系統(tǒng)中的標準PCIe Gen5通道帶寬高7倍,互連功耗降低到原來的1/5,能夠滿足苛刻的生成式AI和高性能計算(HPC)應用。

黃仁勛稱,DGX GH200是首款將Grace Hopper超級芯片與英偉達NVLink Switch系統(tǒng)搭配的超級計算機,通過采用新互連方式,將256個Grace Hopper超級芯片連接在一起,使它們能像單個巨型GPU一樣協(xié)同運行,從而提供了1EFLOPS的性能和144TB的共享內存,比2020年推出的上一代DGX A100 320GB系統(tǒng)的內存多出近500倍。

谷歌云、Meta、微軟等是首批獲得DGX GH200訪問權限、用于生成式AI工作負載的公司。英偉達也打算將DGX GH200設計藍圖提供給云服務商及其他超大規(guī)模計算廠商,以便他們可以進一步為其基礎設施定制DGX GH200。

此外,英偉達正在打造自己的基于DGX GH200的大型AI超級計算機NVIDIA Helios,以支持其研究和開發(fā)團隊的工作。

它采用4個DGX GH200系統(tǒng),每個都將與英偉達Quantum-2 InfiniBand網絡連接,帶寬高達400Gb/s,以提高訓練大型AI模型的數(shù)據(jù)吞吐量。Helios將包括1024顆Grace Hopper超級芯片,將于年底上線。

免責聲明:本網站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網站出現(xiàn)的信息,均僅供參考。本網站將盡力確保所提供信息的準確性及可靠性,但不保證有關資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網站對有關資料所引致的錯誤、不確或遺漏,概不負任何法律責任。任何單位或個人認為本網站中的網頁或鏈接內容可能涉嫌侵犯其知識產權或存在不實內容時,應及時向本網站提出書面權利通知或不實情況說明,并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網站在收到上述法律文件后,將會依法盡快聯(lián)系相關文章源頭核實,溝通刪除相關內容或斷開相關鏈接。

2023-05-29
英偉達黃仁勛:我們已到達生成式AI的引爆點
全世界的每個角落,都會有計算需求。

長按掃碼 閱讀全文