黃仁勛:我們正處在計算領域重大轉變的最前沿

6月3日消息,近日,英偉達創(chuàng)始人兼CEO黃仁勛在臺北電腦展大會開幕前發(fā)表了主題演講。他表示,AI 正在重塑行業(yè),并為創(chuàng)新和增長帶來新機遇。

他認為,目前我們正處在計算領域重大轉變的最前沿?!叭斯ぶ悄芎图铀儆嬎愕慕粎R將重新定義未來?!?/p>

黃仁勛表示,NVIDIA 加速平臺已經全面投入生產,不僅通過搭載 NVIDIA RTX 技術的 AI PC和消費級設備為游戲玩家和創(chuàng)作者帶來全新體驗,還支持企業(yè)利用 NVIDIA 全棧計算平臺構建和部署的 AI 工廠。


“加速計算是計算行業(yè)的未來,”黃仁勛表示,“憑借 NVIDIA 在 AI 和加速計算領域的創(chuàng)新,我們正在創(chuàng)造更多可能,推動新一輪技術進步?!?/p>

黃仁勛分享了新半導體技術路線圖,該路線圖將每年更新。 他首次宣布了Rubin 平臺,它將配備新 GPU、基于 Arm 的新 CPU — Vera,以及采用 NVLink 6、CX9 SuperNIC 和 X1600、并融合 InfiniBand/以太網交換機的高級網絡平臺。Rubin 將作為 Blackwell 的下一代平臺。

“我們公司的更新節(jié)奏是以年為單位。我們的基本理念非常簡單:打造數(shù)據(jù)中心規(guī)模,以每年的節(jié)奏分步驟實現(xiàn)、并向客戶交付產品,在各個領域實現(xiàn)技術突破,”黃仁勛解釋道。

NVIDIA 創(chuàng)意團隊使用 NVIDIA Inception 初創(chuàng)計劃成員提供的 AI 工具來創(chuàng)作 COMPUTEX 主題演講,該工具基于 NVIDIA NIM 和 NVIDIA 加速計算。本次演講演示了各種 demo,重點介紹了上述創(chuàng)新工具以及 NVIDIA 技術帶來的變革性影響。

黃仁勛在演講開始時表示,NVIDIA 正在降低將數(shù)據(jù)轉化為智能的成本。

他強調:“加速計算能夠實現(xiàn)可持續(xù)增長。” 他同時介紹了 GPU 和 CPU 組合如何實現(xiàn)高達100倍的加速計算,同時功耗僅增加三倍,每瓦性能比單獨使用 CPU 提高25倍。買的越多,省的越多?!?他強調了這種方法可顯著節(jié)約成本和能源。

計算機制造商已經紛紛開始采用 NVIDIA GPU 和網絡解決方案。永擎電子(ASRock Rack)、華碩(ASUS)、技嘉科技(GIGABYTE)、鴻佰科技(Ingrasys)、英業(yè)達(Inventec)、和碩(Pegatron)、云達科技(QCT)、超微(Supermicro)、緯創(chuàng)(Wistron)和緯穎科技(Wiwynn)等企業(yè)正在打造基于NVIDIA技術的云、專用系統(tǒng)和邊緣AI系統(tǒng)。

NVIDIA MGX? 模塊化參考設計平臺加入了對Blackwell產品的支持,包括GB200 NVL2平臺,該平臺專為大語言模型推理、檢索增強生成和數(shù)據(jù)處理提供卓越的性能而打造。

AMD 和英特爾均支持MGX架構,并首次計劃推出基于他們自己CPU主機處理器的模塊設計。任何服務器系統(tǒng)制造商都可以使用這些參考設計節(jié)省開發(fā)時間,并確保設計和性能的一致性。

為了滿足AI對高性能以太網網絡平臺日益增長的需求,黃仁勛宣布了每年推出新的 Spectrum-X產品的計劃。

NVIDIA Spectrum-X 是全球首款專為 AI 打造的以太網網絡平臺,可將網絡性能較傳統(tǒng)以太網網絡平臺提升1.6倍。Spectrum-X 能夠加快 AI 工作負載的處理、分析和執(zhí)行速度,進而加快 AI 解決方案的開發(fā)和部署速度。

率先采用 Spectrum-X 的 AI 云服務提供商包括 CoreWeave、GMO Internet Group、Lambda、Scaleway、STPX Global 和 Yotta等,他們的 AI 基礎設施因此而獲得了超強的網絡性能。

現(xiàn)在,全球2800萬開發(fā)者都可以借助 NVIDIA NIM 輕松地創(chuàng)建生成式 AI 應用。NIM 是一種推理微服務,通過以經過優(yōu)化的容器的形式提供模型,以部署在云、數(shù)據(jù)中心或工作站上。

NIM 還能幫助企業(yè)實現(xiàn)基礎設施投資的效果最大化。例如,與未使用 NIM 的情況相比,在 NIM 中運行 Meta Llama 3-8B 所能生成的加速基礎設施 AI token 可以提升3倍。

Cadence、Cloudera、Cohesity、DataStax、NetApp、Scale AI 和新思科技等近200家技術合作伙伴正將 NIM 集成到他們的平臺中,加快生成式 AI 部署到特定領域應用中的速度,例如copilots、代碼助手、數(shù)字人虛擬形象等。從 Meta Llama 3開始,在 Hugging Face上現(xiàn)已開始提供 NIM。

“今天我們在 Hugging Face上發(fā)布了全面優(yōu)化的 Llama 3,”黃仁勛表示?!澳梢栽谌魏卧浦羞\行它。下載該容器,并將其存入數(shù)據(jù)中心,然后就可以托管,并提供給客戶使用。”

搭載 RTX 技術的 NVIDIA RTX AI PC 將通過200多款 RTX AI 筆記本電腦和500多款采用 AI 技術的應用和游戲徹底改變消費者的體驗。

RTX 套件和為NVIDIA ACE 數(shù)字人平臺最新推出的基于 PC 的 NIM 推理微服務,將進一步提高 AI 的可訪問性。

另外,NVIDIA 還發(fā)布了搭載 RTX 的 AI 助手技術演示 G-Assist 項目,展示了針對 PC 游戲和應用的上下文感知輔助功能。

Microsoft 和 NVIDIA 正在一起幫助開發(fā)者將新的生成式 AI 功能加入到他們的 Windows 原生和 Web 應用程序中,使開發(fā)者能夠通過 API 輕松訪問由 RTX 加速的 SLM,作為 Windows Copilot Runtime 的一部分實現(xiàn)在設備上運行的 RAG 功能。

黃仁勛展示了 Foxconn 如何利用 NVIDIA Omniverse、Isaac 和 Metropolis 創(chuàng)建數(shù)字孿生,通過結合視覺 AI 與機器人開發(fā)工具來實現(xiàn)增強的機器人設施。

“AI 的新一波浪潮是物理 AI。AI 能夠理解物理定律,并與人類并肩作戰(zhàn),”黃仁勛表示,他強調了機器人和人工智能在未來發(fā)展中的重要性。

NVIDIA Isaac 平臺為開發(fā)者構建 AI 機器人提供強大的套件,包括由 AI 模型以及Jetson Orin、Thor 等超級計算機驅動的 AMR、工業(yè)機械臂和人形機器人。

“機器人和物理 AI 正在成為現(xiàn)實,而不僅是出現(xiàn)在科幻小說。這真的令人興奮,”黃仁勛補充道。

全球電子行業(yè)領導企業(yè)正在將 NVIDIA 自主機器人技術集成到他們的工廠中,利用 Omniverse 中的模擬功能來測試和驗證物理世界的新一代 AI。全球500多萬臺預編程機器人也在此行列中。

“機器人將遍布所有工廠。工廠將實現(xiàn)對機器人的統(tǒng)籌,而這些機器人將制造新的機器人產品,”黃仁勛解釋道。

黃仁勛強調了 NVIDIA Isaac 在提高工廠和倉庫效率方面的作用,比亞迪電子、西門子、泰瑞達、Intrinsic 等全球領先企業(yè)都在使用 NVIDIA Isaac 的高級程序庫和 AI 模型。

IGX 平臺上的 NVIDIA AI Enterprise與凌華科技(ADLINK)、研華科技(Advantech)、ONYX 等合作伙伴共同打造符合嚴格監(jiān)管標準的邊緣 AI 解決方案,以滿足醫(yī)療技術等行業(yè)的關鍵需求。(崔玉賢)

極客網企業(yè)會員

免責聲明:本網站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網站出現(xiàn)的信息,均僅供參考。本網站將盡力確保所提供信息的準確性及可靠性,但不保證有關資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網站對有關資料所引致的錯誤、不確或遺漏,概不負任何法律責任。任何單位或個人認為本網站中的網頁或鏈接內容可能涉嫌侵犯其知識產權或存在不實內容時,應及時向本網站提出書面權利通知或不實情況說明,并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網站在收到上述法律文件后,將會依法盡快聯(lián)系相關文章源頭核實,溝通刪除相關內容或斷開相關鏈接。

2024-06-03
黃仁勛:我們正處在計算領域重大轉變的最前沿
“人工智能和加速計算的交匯將重新定義未來?!?/div>

長按掃碼 閱讀全文