英偉達(dá)發(fā)布數(shù)據(jù)中心用L40S GPU,性能強(qiáng)于A100

8月9日消息,9日凌晨,英偉達(dá)CEO黃仁勛再次登上了世界頂級(jí)計(jì)算機(jī)圖形學(xué)會(huì)議SIGGRAPH的舞臺(tái),發(fā)布多款商用端產(chǎn)品,其中包括專(zhuān)為搭建數(shù)據(jù)中心而設(shè)計(jì)的L40S GPU。

據(jù)悉,基于Ada Lovelace架構(gòu)的L40S,配備有48GB的GDDR6顯存和846GB/s的帶寬。在第四代Tensor核心和FP8 Transformer引擎的加持下,可以提供超過(guò)1.45 PetaFLOPS的張量處理能力。

對(duì)于算力要求較高的任務(wù),L40S的18,176個(gè)CUDA核心可以提供近5倍于A100的單精度浮點(diǎn)(FP32)性能,從而加速?gòu)?fù)雜計(jì)算和數(shù)據(jù)密集型分析。

此外,為了支持如實(shí)時(shí)渲染、產(chǎn)品設(shè)計(jì)和3D內(nèi)容創(chuàng)建等專(zhuān)業(yè)視覺(jué)處理工作,英偉達(dá)還為L(zhǎng)40S 還配備了142個(gè)第三代RT核心,可以提供212 TFLOP的光線追蹤性能。功耗同時(shí)也達(dá)到了350瓦。

對(duì)于具有數(shù)十億參數(shù)和多種模態(tài)的生成式AI工作負(fù)載,L40S相較于A100可實(shí)現(xiàn)高達(dá)1.2倍的推理性能提升,以及高達(dá)1.7倍的訓(xùn)練性能提升。

在L40S GPU的加持下,英偉達(dá)還針對(duì)數(shù)據(jù)中心市場(chǎng),推出了最多可搭載8張L40S的OVX服務(wù)器。英偉達(dá)方面宣布,對(duì)于擁有8.6億token的GPT3-40B模型,OVX服務(wù)器只需7個(gè)小時(shí)就能完成微調(diào);對(duì)于Stable Diffusion XL模型,則可實(shí)現(xiàn)每分鐘80張的圖像生成。

極客網(wǎng)企業(yè)會(huì)員

免責(zé)聲明:本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。

2023-08-09
英偉達(dá)發(fā)布數(shù)據(jù)中心用L40S GPU,性能強(qiáng)于A100
基于Ada Lovelace架構(gòu)。

長(zhǎng)按掃碼 閱讀全文