Intel Vision 2024大會: 正式發(fā)布Gaudi 3 AI加速器和至強(qiáng)6處理器

4月10日消息，美國當(dāng)?shù)貢r(shí)間4月9日，英特爾舉辦了面向客戶和合作伙伴的英特爾on產(chǎn)業(yè)創(chuàng)新大會，宣布了英特爾?至強(qiáng)?6處理器的全新品牌，推出英特爾Gaudi 3加速器，以高性能、開放性和靈活性助力企業(yè)推進(jìn)生成式AI創(chuàng)新，并發(fā)布了涵蓋全新開放、可擴(kuò)展系統(tǒng)，下一代產(chǎn)品和一系列戰(zhàn)略合作的全棧解決方案，以加速生成式AI落地。根據(jù)cnvrg.io的調(diào)研結(jié)果，2023年只有10%的企業(yè)成功將其生成式AI項(xiàng)目產(chǎn)品化。英特爾的最新解決方案有望幫助企業(yè)應(yīng)對推廣AI項(xiàng)目時(shí)所面臨的挑戰(zhàn)。

“創(chuàng)新技術(shù)正在以前所未有的速度發(fā)展，每家公司都在加速成為AI公司，這一切都需要半導(dǎo)體技術(shù)提供支持。從PC到數(shù)據(jù)中心再到邊緣，英特爾正在讓AI走進(jìn)千行百業(yè)。英特爾最新的Gaudi、至強(qiáng)和酷睿平臺將提供靈活的、可定制化的解決方案，滿足客戶和合作伙伴不斷變化的需求，把握住未來的巨大機(jī)遇?！?/p>

——帕特·基辛格

英特爾公司首席執(zhí)行官

企業(yè)希望將生成式AI從試驗(yàn)階段擴(kuò)展到應(yīng)用階段。因此，他們需要基于諸如英特爾Gaudi 3 AI加速器這樣的高性能、經(jīng)濟(jì)實(shí)用、節(jié)能的處理器所打造的可快速部署的解決方案。并且，Gaudi 3還能滿足復(fù)雜性、成本效益、碎片化、數(shù)據(jù)可靠性和合規(guī)性等需求。

推出用于AI訓(xùn)練和推理的Gaudi 3

英特爾Gaudi 3 AI加速器將為AI系統(tǒng)提供動(dòng)力，該AI系統(tǒng)可通過以太網(wǎng)的通用標(biāo)準(zhǔn)連接多達(dá)數(shù)萬個(gè)加速器。與上一代產(chǎn)品相比，英特爾Gaudi 3將帶來4倍的BF16 AI計(jì)算能力提升，以及1.5倍的內(nèi)存帶寬提升。該加速器將為尋求大規(guī)模部署生成式AI的企業(yè)帶來AI訓(xùn)練和推理方面的重大飛躍。

英特爾Gaudi 3預(yù)計(jì)可大幅縮短70億和130億參數(shù)Llama2模型，以及1750億參數(shù)GPT-3模型的訓(xùn)練時(shí)間。此外，在Llama 7B、70B和Falcon 180B大型語言模型（LLM）的推理吞吐量和能效方面也展現(xiàn)了出色性能。

英特爾Gaudi 3提供開放的、基于社區(qū)的軟件和行業(yè)標(biāo)準(zhǔn)以太網(wǎng)網(wǎng)絡(luò)，允許企業(yè)靈活地從單個(gè)節(jié)點(diǎn)擴(kuò)展到擁有數(shù)千個(gè)節(jié)點(diǎn)的集群、超級集群和超大集群，支持大規(guī)模的推理、微調(diào)和訓(xùn)練。英特爾Gaudi 3將于2024年第二季度面向OEM廠商出貨。

英特爾AI解決方案為客戶創(chuàng)造價(jià)值

英特爾概述了面向開放的、可擴(kuò)展的AI系統(tǒng)的戰(zhàn)略，其中包括硬件、軟件、框架和工具。英特爾讓廣泛的AI開放生態(tài)系統(tǒng)參與者，如設(shè)備制造商、數(shù)據(jù)庫提供商、系統(tǒng)集成商、軟件和服務(wù)提供商等，能夠提供滿足企業(yè)特定生成式AI需求的解決方案。與此同時(shí)，亦讓企業(yè)與他們已知、信任的生態(tài)系統(tǒng)合作伙伴展開合作并采取相應(yīng)解決方案。

生態(tài)系統(tǒng)聯(lián)合創(chuàng)建開放平臺，助力企業(yè)AI創(chuàng)新發(fā)展

英特爾聯(lián)合Anyscale、Articul8、DataStax、Domino、Hugging Face、KX Systems、MariaDB、MinIO、Qdrant、RedHat、Redis、SAP、VMware、Yellowbrick和Zilliz共同宣布，將創(chuàng)建一個(gè)開放平臺助力企業(yè)推動(dòng)AI創(chuàng)新。這一凝結(jié)全行業(yè)力量的計(jì)劃旨在開發(fā)開放的、多供應(yīng)商的生成式AI系統(tǒng)，通過RAG（檢索增強(qiáng)生成）技術(shù)，提供一流的部署便利性、性能和價(jià)值。RAG可使企業(yè)在標(biāo)準(zhǔn)云基礎(chǔ)設(shè)施上運(yùn)行的大量現(xiàn)存專有數(shù)據(jù)源得到開放大語言模型（LLM）功能的增強(qiáng)，加速生成式AI在企業(yè)中的應(yīng)用。

在該計(jì)劃的初始階段，基于安全的至強(qiáng)處理器和Gaudi解決方案，英特爾將面向生成式AI進(jìn)程（pipelines）推出參考實(shí)現(xiàn)，發(fā)布技術(shù)概念框架，并繼續(xù)增進(jìn)英特爾Tiber開發(fā)者云平臺基礎(chǔ)設(shè)施的功能，以便為RAG及未來進(jìn)程的生態(tài)系統(tǒng)開發(fā)和確認(rèn)打下基礎(chǔ)。英特爾鼓勵(lì)生態(tài)系統(tǒng)進(jìn)一步參與到這一開放平臺的創(chuàng)建中來，以促進(jìn)企業(yè)采用該平臺，擴(kuò)大解決方案的應(yīng)用范圍，并取得業(yè)務(wù)成果。

英特爾擴(kuò)展AI路線圖和開放生態(tài)系統(tǒng)方法

英特爾還分享了企業(yè)AI各細(xì)分領(lǐng)域的下一代產(chǎn)品和服務(wù)的最新信息。

全新英特爾?至強(qiáng)?6處理器：英特爾至強(qiáng)處理器為運(yùn)行當(dāng)前的生成式AI解決方案提供了性能高效的解決方案，包括使用專有數(shù)據(jù)生成特定業(yè)務(wù)結(jié)果的RAG。同時(shí)，英特爾還為面向數(shù)據(jù)中心、云和邊緣的下一代處理器進(jìn)行了品牌煥新，即英特爾至強(qiáng)6。配備能效核（E-cores）的英特爾至強(qiáng)6處理器將于2024年第二季度推出，提供卓越的效率，配備性能核（P-cores）的英特爾至強(qiáng)6處理器將緊隨其后推出，帶來更高的AI性能。

配備能效核的英特爾至強(qiáng)6處理器（代號為Sierra Forest）：

● 與第二代英特爾?至強(qiáng)?處理器相比，每瓦性能提高2.4倍，機(jī)架密度提高2.7倍。

● 客戶能以近3:1的比例替換舊系統(tǒng)，大幅降低能耗，幫助其實(shí)現(xiàn)可持續(xù)發(fā)展目標(biāo)。

配備性能核的英特爾至強(qiáng)6處理器（代號為Granite Rapids）：

● 包含了對MXFP4數(shù)據(jù)格式的軟件支持，與使用FP16的第四代英特爾?至強(qiáng)?處理器相比，可將下一個(gè)令牌（token）的延遲時(shí)間最多縮短6.5倍，能夠運(yùn)行700億參數(shù)的Llama-2模型。

客戶端、邊緣和連接：英特爾分享了客戶端產(chǎn)品的發(fā)展勢頭以及諸多邊緣和網(wǎng)絡(luò)互聯(lián)產(chǎn)品的路線圖更新，包括：

英特爾?酷睿?Ultra處理器為生產(chǎn)力、安全性和內(nèi)容創(chuàng)作提供了全新能力，并為企業(yè)煥新其PC設(shè)備提供了巨大動(dòng)力。英特爾預(yù)計(jì)將于2024年出貨4000萬臺AI PC，以及超過230種的設(shè)計(jì)，覆蓋輕薄PC和游戲掌機(jī)設(shè)備。

將于2024年推出的下一代英特爾酷睿Ultra客戶端處理器家族（代號Lunar Lake），將具備超過100 TOPS平臺算力，以及在神經(jīng)網(wǎng)絡(luò)處理單元（NPU）上帶來超過46 TOPS的算力，從而為下一代AI PC提供強(qiáng)大支持。

英特爾發(fā)布了涵蓋英特爾酷睿Ultra、英特爾?酷睿?、英特爾凌動(dòng)?處理器和英特爾銳炫?顯卡系列產(chǎn)品在內(nèi)的全新邊緣芯片，主要面向零售、工業(yè)制造和醫(yī)療等關(guān)鍵領(lǐng)域。英特爾邊緣AI產(chǎn)品組合內(nèi)的所有新品將于本季度上市，并將在今年年內(nèi)獲得英特爾Tiber邊緣平臺的支持。

通過超以太網(wǎng)聯(lián)盟（UEC），英特爾正在驅(qū)動(dòng)面向AI高速互聯(lián)技術(shù)（AI Fabrics）的開放式以太網(wǎng)網(wǎng)絡(luò)創(chuàng)新，并推出一系列針對AI優(yōu)化的以太網(wǎng)解決方案。這些創(chuàng)新旨在革新可大規(guī)?？v向（scale-up）和橫向（scale-out）擴(kuò)展的AI高速互聯(lián)技術(shù)，以支持AI模型的訓(xùn)練和推理，這些模型的規(guī)模日益龐大，每一代都會增長一個(gè)數(shù)量級。英特爾的產(chǎn)品組合包括英特爾AI網(wǎng)絡(luò)連接卡（AI NIC）、集成到XPU的AI連接芯粒、基于Gaudi加速器的系統(tǒng)，以及一系列面向英特爾代工的AI互聯(lián)軟硬件參考設(shè)計(jì)。

英特爾Tiber業(yè)務(wù)解決方案組合

英特爾發(fā)布了英特爾Tiber業(yè)務(wù)解決方案組合，以簡化企業(yè)軟件和服務(wù)的部署，包括生成式AI。

這一統(tǒng)一的體驗(yàn)將使企業(yè)客戶和開發(fā)人員能夠更輕松地找到適合其需求的解決方案，加快創(chuàng)新并釋放價(jià)值，同時(shí)不犧牲安全性、合規(guī)性或性能?？蛻艏慈掌鸨憧砷_始探索英特爾Tiber產(chǎn)品組合，今年第三季度這一解決方案將會全面推出。

英特爾始終致力于讓AI更易于使用、更開放、更安全，從而滿足全球企業(yè)的不同需求。通過Intel Vision 2024大會上公布的全新合作和解決方案，英特爾將在AI浪潮中全力引領(lǐng)創(chuàng)新，讓AI為各行各業(yè)帶來前所未有的價(jià)值。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實(shí)，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。