今天,我們來(lái)一起聊一聊 NVIDIA RTXTM 系列的專業(yè)顯卡。
目前很多用戶把 NVIDIA?RTX 專業(yè)卡用在 3D 設(shè)計(jì)仿真,和時(shí)下特別關(guān)注的生成式 AI、大模型訓(xùn)練推理,總體來(lái)說可以同時(shí)做圖形和 AI 的工作。
那么問題來(lái)了,NVIDIA?RTX 專業(yè)顯卡究竟有什么優(yōu)勢(shì)?最新系列 NVIDIA Ada Lovelace 架構(gòu)顯卡對(duì)比上一代性能又有何提升?針對(duì)不同工作場(chǎng)景應(yīng)該如何選擇?我們?cè)谙路揭曨l中做了詳盡的介紹和測(cè)評(píng),歡迎大家點(diǎn)擊觀看:https://www.bilibili.com/video/BV1EjiRY7E3T/。
外觀
專業(yè)顯卡的外觀有什么不同?視頻中我們以 NVIDIA RTXTM 4500 Ada 為例,這款卡使用的是單渦輪散熱,12+4pin 的供電接口,還有 4 個(gè) DP 顯示接口,不過這個(gè)系列有些專業(yè)顯卡是四個(gè) mini dp 接口,比如 NVIDIA RTXTM 2000 Ada,專業(yè)顯卡的側(cè)面有獨(dú)立的同步卡接口和 3D sterreo 接口。背面有貼標(biāo)的 S/N 碼,可以追溯每一塊顯卡的來(lái)源。
優(yōu)勢(shì)
1. 驅(qū)動(dòng)優(yōu)化
驅(qū)動(dòng)方面來(lái)說,NVIDIA RTX 企業(yè)版驅(qū)動(dòng)是唯一經(jīng)過軟件開發(fā)商認(rèn)證的驅(qū)動(dòng)程序。企業(yè)級(jí)驅(qū)動(dòng)程序會(huì)特別針對(duì)專業(yè)應(yīng)用程序、工作流程和顯示配置進(jìn)行額外的測(cè)試,所以穩(wěn)定性和可靠性非常好。比如很多工程制圖類、醫(yī)療成像等軟件的用戶會(huì)偏好使用 RTX 專業(yè)顯卡,很重要的一點(diǎn)就是專業(yè)卡優(yōu)化了顯卡的 OpenGL 這些性能。軟件驅(qū)動(dòng)大家可以在 NVIDIA 官網(wǎng)上搜索專業(yè)顯卡的型號(hào),來(lái)下載對(duì)應(yīng)的驅(qū)動(dòng)。
2. 顯存容量大
RTX 專業(yè)顯卡的顯存不僅容量大,而且還自帶 ECC 糾錯(cuò),在我們運(yùn)行大項(xiàng)目的時(shí)候,穩(wěn)定可靠就至關(guān)重要。我們使用專業(yè)顯卡后可以在 NVIDIA 控制面板中調(diào)用 ECC 。
3. 靜音
熟悉專業(yè)卡的朋友一定會(huì)感嘆它的安靜。我們把 2 張 RTX 專業(yè)卡都裝在工作站中進(jìn)行壓測(cè),貼近出風(fēng)口測(cè)得才 50 分貝左右,不會(huì)產(chǎn)生噪音,也不會(huì)影響辦公室正常工作,能耗也低。
4. 顯卡適配性強(qiáng)
專業(yè)顯卡的適配性非常好,大部分品牌機(jī)型都 ok 。關(guān)鍵還特別扛造,穩(wěn)定性強(qiáng),這意味著售后故障率極低,妥妥的打工人的福音!對(duì)于用到多屏同步的朋友,專業(yè)卡也一定很熟悉。單張專業(yè)卡最大能支持四臺(tái) 4K 120hz 顯示屏,因此一臺(tái)單機(jī)四卡的大型工作站,配合 NVIDIA 同步卡,最大可支持 16 臺(tái) 4K 120hz 顯示屏多屏同步。
NVIDIA Ada Lovelace 架構(gòu)顯卡介紹
NVIDIA Ada Lovelace 架構(gòu)顯卡 VS 上一代
1. 入門專業(yè)顯卡
入門級(jí)別的,那就是 NVIDIA RTX 2000 Ada了,小巧別致,功耗僅 70W,可以適配微型工作站,并且不需要外接供電。NVIDIA RTX 2000 Ada 有 16GB 的顯存,它的上一代 NVIDIA RTX A2000 只有 6G 和 12G 兩個(gè)版本。新架構(gòu)有了很大提升,圖形渲染能力已經(jīng)可以與同樣 16GB 顯存的 NVIDIA RTX A4000 相媲美了。比如我們?cè)?blender 4.2 中做了測(cè)試,同樣渲染一張 2720*1080 分辨率的圖, NVIDIA RTX 2000 Ada 相比 NVIDIA RTX A4000 快了 7%。
2. 中端專業(yè)顯卡
中端級(jí)別的顯卡,當(dāng)屬 NVIDIA RTX 4000 Ada 和 NVIDIA RTX 4500 Ada。NVIDIA RTX 4000 Ada 是單寬卡,只需要占用 1 個(gè) PCI-E 槽位。NVIDIA RTX 4500 Ada 則是雙寬卡,需要占用兩個(gè) PCI-E 槽位。
NVIDIA RTX 4000 Ada 顯存有 20GB,而 NVIDIA RTX A4000 只有 16GB,顯存容量和 NVIDIA A4500 一樣,可以稱得上是最強(qiáng)單寬卡了。NVIDIA RTX 4500 Ada 相比 NVIDIA RTX A4500 20G 顯存,提升到了 24G 顯存,和 NVIDIA RTX A5000 相同。
我們測(cè)試了 NVIDIA RTX 4000 Ada、NVIDIA RTX 4500 Ada 和 NVIDIA RTX A4500、NVIDIA RTX A5000 的生成式 AI 以及圖形性能。(具體測(cè)試過程可點(diǎn)擊文章開頭視頻查看)
生成式 AI 性能方面,我們用 SD webUI 和 ComfyUI 做測(cè)試,都比較了生成圖像的所耗時(shí)間:
NVIDIA RTX 4000 Ada 和 NVIDIA RTX A4500 基本持平,NVIDIA RTX 4500 Ada 比 NVIDIA RTX A5000 提升非常明顯。
圖形性能方面,我們用 3D 軟件進(jìn)行了 4 項(xiàng)渲染測(cè)試:
NVIDIA RTX 4000 Ada 相比 NVIDIA RTX A4500 有些提升。
NVIDIA RTX 4500 Ada 相較 NVIDIA RTX A5000 有 35% 的提升。
NVIDIA RTX 4000 Ada 和 NVIDIA RTX 4500 Ada 顯卡可以支持單機(jī)單卡和單機(jī)多卡的場(chǎng)景,尤其 NVIDIA RTX 4000 Ada 單寬卡,對(duì)于緊湊型的機(jī)箱裝機(jī)就非常實(shí)用。
3. 高端專業(yè)顯卡
NVIDIA RTX 5000 Ada 和 NVIDIA RTX 5880 Ada 是 NVIDIA RTX Ada Lovelace 系列的高端專業(yè)顯卡。
高端專業(yè)顯卡同樣支持單機(jī)單卡和單機(jī)多卡的場(chǎng)景。他們既可以在單機(jī)單卡工作站中使用,也可以組成單機(jī)多卡的 AI 工作站,應(yīng)用超大顯存來(lái)承擔(dān)復(fù)雜任務(wù)。
圖形能力
高端專業(yè)顯卡可以用來(lái)執(zhí)行最復(fù)雜的圖形任務(wù)。 NVIDIA RTX A6000 是 Ampere 架構(gòu)的“卡皇”,我們拿 NVIDIA RTX 5000 Ada 和 NVIDIA RTX A6000 的圖形渲染能力做過測(cè)試。廣電用戶將本地的單卡 NVIDIA RTX A6000 替換成 NVIDIA RTX 5000 Ada,來(lái)對(duì)比在 4K 多屏拼接情況下,渲染的實(shí)時(shí)幀數(shù)表現(xiàn),NVIDIA RTX 5000 Ada 保持在 35 幀左右,比 NVIDIA RTX A6000 平均高 10 幀。
在數(shù)字孿生場(chǎng)景中,我們用 NVIDIA Omniverse 同時(shí)渲染一段汽車配置器的動(dòng)畫。NVIDIA RTX A6000 的實(shí)時(shí)渲染幀率在 25 幀,而 NVIDIA RTX 5000 Ada 室內(nèi)平均 80 幀,室外場(chǎng)景則有 100 幀。
AI 能力
除圖形之外,高端專業(yè)顯卡的 AI 能力是最值得稱贊的。我們先來(lái)看看單卡的能力。
很多企業(yè)用單塊高端專業(yè)卡搭建工作站,來(lái)做企業(yè)對(duì)話問答,模型很多用 7B、8B、13B 大小。日常對(duì)話的短輸入短輸出場(chǎng)景里,Llama 3.1 8B 模型, bs 達(dá)到 256 ,首字延遲和總延遲都很低,吞吐率也很高。Baichuan 13B FP8 的測(cè)試中, bs 到 128,兩款顯卡也都表現(xiàn)很優(yōu)秀。
長(zhǎng)輸入長(zhǎng)輸出 類似知識(shí)庫(kù)的應(yīng)用場(chǎng)景中,兩張高端專業(yè)顯卡也同樣可以很好的支持 8B 和 13B FP8 的模型推理。
這兩款顯卡單卡也可以用于小模型的訓(xùn)練。
這兩款顯卡單張用于生成式 AI 是極具性價(jià)比的,我們以 Flu.1x 模型生圖為例,NVIDIA RTX 5000 Ada 可以支持至 bs 24,NVIDIA RTX 5880 Ada 可以支持到 bs 50。這種水平是其他RTX顯卡都無(wú)法匹及的。
AI 工作站目前使用的是 NVIDIA RTX 5000 Ada 或者 NVIDIA RTX 5880 Ada 的四卡配置方案。
搭載 4 張 NVIDIA RTX 5000 Ada 或者 4 張 NVIDIA RTX 5880 Ada 的工作站可以支持 70B FP8 的模型推理,batch size 到 64 的表現(xiàn)也非常好。
AI 工作站搭載 4 張 NVIDIA RTX 5880 Ada 專業(yè)顯卡,最高擁有 192GB 顯存,可以支持到 70B Qlora 模型的訓(xùn)練。對(duì)于單機(jī)多卡的機(jī)器,RTX 專業(yè)顯卡支持 GPUDirect P2P 通信技術(shù),可以為 GPU 之間提供超強(qiáng)的通信支持。對(duì)于大多數(shù)項(xiàng)目 POC,或者中小企業(yè)、部門來(lái)說,AI 工作站已經(jīng)可以承擔(dān)大部分日常的 AI 任務(wù),并且作為放置在辦公室的機(jī)器來(lái)說,降噪是永恒的追求。對(duì)于在計(jì)劃升級(jí)算力的團(tuán)隊(duì)來(lái)說,使用專業(yè)顯卡搭載 AI 工作站是非常值得考慮的。
如果大家需要各款顯卡的參數(shù)和具體測(cè)試數(shù)據(jù),可以點(diǎn)擊鏈接獲?。?/p>
https://www.wjx.top/vm/tU0ny4P.aspx#
- 華為2024年銷售收入超8600億元,多業(yè)務(wù)板塊齊頭并進(jìn)
- 國(guó)內(nèi)首個(gè)省級(jí)旅游AI智能體“AI游貴州”發(fā)布,馬蜂窩助力貴州開啟智慧文旅新篇章
- 2024年終盤點(diǎn) | 華為以“技術(shù)為根、實(shí)戰(zhàn)為魂”,助力高校,培養(yǎng)千萬(wàn)數(shù)智人才
- 余承東2025年全員信:通過海量鴻蒙設(shè)備,拉動(dòng)中國(guó)電子工業(yè)崛起
- 速通 NVIDIA 專業(yè)顯卡:專業(yè)顯卡有哪些優(yōu)勢(shì)?適合什么場(chǎng)景?
- 馬蜂窩跨年出行預(yù)測(cè):儀式感必不可少,“跨年煙花”帶動(dòng)目的地?zé)岫壬蠞q
- 30億元!比亞迪捐資興教推動(dòng)中國(guó)科教進(jìn)步
- 閉著眼睛寫代碼是一種什么樣的體驗(yàn)?
- 2024世界顯示產(chǎn)業(yè)大會(huì)啟幕,4K花園自研“滿天星”獲十大創(chuàng)新應(yīng)用
免責(zé)聲明:本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。