數(shù)據(jù)中心準(zhǔn)備好迎接生成式人工智能了嗎？

生成式人工智能 (AI) 能夠根據(jù)提示生成文本、圖像或其他內(nèi)容，盡管目前企業(yè)對(duì)它的采用尚處于早期階段，但隨著企業(yè)組織找到該技術(shù)的更多新用途，預(yù)計(jì)該技術(shù)的采用將迅速增加。

Gartner分析師Frances Karamouzis表示：“生成式人工智能的狂熱沒有任何減弱的跡象?！薄案鹘M織正在爭先恐后地確定向生成式人工智能解決方案投入多少資金、哪些產(chǎn)品值得投資、何時(shí)開始以及如何減輕這項(xiàng)新興技術(shù)帶來的風(fēng)險(xiǎn)?！?/p>

據(jù)Bloomberg Intelligence預(yù)測，未來十年，生成式AI市場將以每年42%的驚人速度增長，從2022年的400 億美元增長到1.3萬億美元。

生成式人工智能可以通過多種方式幫助IT團(tuán)隊(duì)：它可以編寫軟件代碼和網(wǎng)絡(luò)腳本、提供故障排除和問題解決、自動(dòng)化流程、提供培訓(xùn)和入職培訓(xùn)、創(chuàng)建文檔和知識(shí)管理系統(tǒng)以及幫助進(jìn)行項(xiàng)目管理和規(guī)劃。

另外，生成式人工智能還可以改變業(yè)務(wù)的其他部分，包括呼叫中心、客戶服務(wù)、虛擬助理、數(shù)據(jù)分析、內(nèi)容創(chuàng)建、設(shè)計(jì)和開發(fā)以及預(yù)測性維護(hù)等。

但數(shù)據(jù)中心基礎(chǔ)設(shè)施能否應(yīng)對(duì)生成式人工智能產(chǎn)生的不斷增長的工作負(fù)載？

生成式人工智能對(duì)計(jì)算需求的影響

毫無疑問，生成式人工智能將成為大多數(shù)組織未來數(shù)據(jù)戰(zhàn)略的一部分。如今，網(wǎng)絡(luò)和IT領(lǐng)導(dǎo)者需要做的是確保他們的IT基礎(chǔ)設(shè)施以及團(tuán)隊(duì)為即將到來的變化做好準(zhǔn)備。

當(dāng)他們構(gòu)建和部署包含生成式人工智能的應(yīng)用時(shí)，這將如何影響對(duì)計(jì)算能力和其他資源的需求？

咨詢公司畢馬威 (KPMG) 咨詢部董事總經(jīng)理布萊恩·劉易斯 (Brian Lewis) 表示：“正如我們今天所知，對(duì)數(shù)據(jù)中心的需求將會(huì)增加，并將徹底改變未來數(shù)據(jù)中心及其相關(guān)技術(shù)的面貌。”

數(shù)據(jù)中心運(yùn)營商DataBank首席執(zhí)行官Raul Marynek表示，生成式AI應(yīng)用分兩個(gè)階段對(duì)計(jì)算能力提出了巨大的需求：訓(xùn)練構(gòu)成生成式AI系統(tǒng)核心的大型語言模型 (LLM)，然后使用這些訓(xùn)練有素的LLM來運(yùn)行應(yīng)用程序。

“訓(xùn)練大型語言模型碩士需要神經(jīng)網(wǎng)絡(luò)形式的密集計(jì)算，其中數(shù)十億語言或圖像示例被輸入神經(jīng)網(wǎng)絡(luò)系統(tǒng)并反復(fù)細(xì)化，直到系統(tǒng)像人類一樣‘識(shí)別’它們，”Martynek 說。

Marynek表示，神經(jīng)網(wǎng)絡(luò)需要極其密集的GPU處理器高性能計(jì)算 (HPC) 集群，一次連續(xù)運(yùn)行數(shù)月甚至數(shù)年。“它們?cè)趯Ｓ没A(chǔ)設(shè)施上運(yùn)行效率更高，這些基礎(chǔ)設(shè)施可以位于用于訓(xùn)練的專有數(shù)據(jù)集附近，”他說。

第二階段是“推理過程”或使用這些應(yīng)用程序?qū)嶋H進(jìn)行查詢并返回?cái)?shù)據(jù)結(jié)果?！霸谶@個(gè)運(yùn)營階段，它需要一個(gè)地理上更加分散的基礎(chǔ)設(shè)施，可以快速擴(kuò)展并以較低的延遲提供對(duì)應(yīng)用的訪問，因?yàn)椴樵冃畔⒌挠脩粝Ｍ麑?duì)想象的用例做出快速響應(yīng)。”

Marynek表示，這將需要在許多地方建立數(shù)據(jù)中心，而不是目前支持大多數(shù)應(yīng)用程序的集中式公共云模型。他表示，在這個(gè)階段，數(shù)據(jù)中心的計(jì)算能力需求仍將上升，“但相對(duì)于第一階段，這種需求分布在更多的數(shù)據(jù)中心?！?/p>

生成式人工智能推動(dòng)液體冷卻需求

網(wǎng)絡(luò)和IT領(lǐng)導(dǎo)者需要認(rèn)識(shí)到生成式人工智能對(duì)服務(wù)器密度的影響，以及它對(duì)冷卻要求、電力需求、可持續(xù)發(fā)展計(jì)劃等的影響。

Tirias Research首席分析師Francis Sideco表示：“這不僅僅是密度，還包括這些服務(wù)器在峰值負(fù)載下的使用頻率和用量的工作周期?！薄拔覀兛吹絅VIDIA、AMD和英特爾等公司的每一代AI芯片都在努力提高性能，同時(shí)控制功耗和熱量?！?/p>

Sideco表示，盡管做出了這些努力，電力預(yù)算仍在增加?！半S著工作負(fù)載的快速增長，尤其是GenAI，我們?cè)谀承r(shí)候會(huì)遇到困難?！?/p>

Lewis補(bǔ)充道，服務(wù)器密度“不必像刀片技術(shù)和虛擬主機(jī)那樣增加”?！胺枪栊酒?、圖形處理單元 (GPU)、量子計(jì)算和硬件感知、基于模型的軟件開發(fā)等技術(shù)創(chuàng)新將能夠從現(xiàn)有硬件中獲得更多收益。”

Lewis表示，業(yè)界已經(jīng)在不同地點(diǎn)試驗(yàn)比空氣更高效的創(chuàng)新液體冷卻技術(shù)以及可持續(xù)性，例如微軟的Project Natick海底數(shù)據(jù)中心。

“傳統(tǒng)的空氣冷卻技術(shù)，例如使用風(fēng)扇、管道、通風(fēng)口和空調(diào)系統(tǒng)，不足以滿足GPU等高性能計(jì)算硬件的冷卻需求，”Lewis說?！耙虼?，液體冷卻等替代冷卻技術(shù)正在受到關(guān)注?！?/p>

Lewis說，液體冷卻涉及通過熱交換器循環(huán)冷卻劑，例如水或其他液體，以吸收計(jì)算機(jī)組件產(chǎn)生的熱量?！耙后w冷卻比傳統(tǒng)空氣冷卻更節(jié)能，因?yàn)橐后w比空氣具有更高的導(dǎo)熱性，從而可以實(shí)現(xiàn)更好、更高效的熱傳遞。”

Marynek表示，新的數(shù)據(jù)中心設(shè)計(jì)需要滿足更高的冷卻要求和電力需求，這意味著未來的數(shù)據(jù)中心將不得不依靠新的冷卻方法，例如后冷門、芯片水或浸沒技術(shù)來提供正確的電力組合、冷卻和可持續(xù)性。

Marynek表示，數(shù)據(jù)中心運(yùn)營商已經(jīng)在液體冷卻方面取得了進(jìn)展。例如，DataBank在其位于亞特蘭大的佐治亞理工學(xué)院超級(jí)計(jì)算機(jī)設(shè)施中使用了QCooling的新型ColdLogik Dx 后門冷卻解決方案。

“我們預(yù)計(jì)門用水量和芯片冷卻技術(shù)用水量將大幅增加，特別是考慮到未來幾代 GPU 將消耗更多電力，”Martynek說道?！坝捎诓捎蒙墒?a href="http://m.ygpos.cn/%E4%BA%BA%E5%B7%A5%E6%99%BA%E8%83%BD_1.html" target="_blank" class="keylink">人工智能而對(duì)更多計(jì)算空間和功率的需求無疑將推動(dòng)人們尋求更高的功耗和冷卻效率?！?/p>

Gen AI如何影響電力需求

Marynek表示，數(shù)據(jù)中心運(yùn)營商建造自己的變電站可能會(huì)變得更加普遍。“由于需求和向可再生能源的過渡而給電網(wǎng)帶來的壓力，給電力供應(yīng)帶來了更多的不確定性，新的數(shù)據(jù)中心項(xiàng)目時(shí)間表在很大程度上受到公用事業(yè)公司的工作量及其處理新設(shè)施電力需求的能力的影響， “ 他說。

Marynek 表示，擁有可靠且可擴(kuò)展的電源將越來越成為數(shù)據(jù)中心運(yùn)營商的首要考慮因素，既可以滿足HPC集群對(duì)電力的需求，又可以繞過公用事業(yè)的時(shí)間表和限制。

Marynek表示，DataBank正在推出一種名為“通用數(shù)據(jù)大廳設(shè)計(jì)”(UDHD) 的新數(shù)據(jù)中心設(shè)計(jì)標(biāo)準(zhǔn)，該標(biāo)準(zhǔn)采用平板地板，周邊有空氣冷卻，機(jī)柜之間的間距更大，非常適合超大規(guī)模云部署，并且可以快速部署。

“這種方法還使我們能夠輕松添加活動(dòng)地板和更近的機(jī)柜間距，以適應(yīng)更傳統(tǒng)的企業(yè)工作負(fù)載，”Martynek說?！岸?，我們可以以最小的努力添加下一代冷卻技術(shù)，如后門熱交換器、水冷門配置或直接芯片冷卻基礎(chǔ)設(shè)施，”他說。

未來，數(shù)據(jù)中心的技術(shù)設(shè)計(jì)“將需要適應(yīng)更高的計(jì)算需求，如快速訪問內(nèi)存、強(qiáng)大的存儲(chǔ)/存儲(chǔ)區(qū)域網(wǎng)絡(luò)、高性能延遲/中斷容忍網(wǎng)絡(luò)和大數(shù)據(jù)數(shù)據(jù)庫技術(shù)，”劉易斯說。

IT團(tuán)隊(duì)需要做好準(zhǔn)備

網(wǎng)絡(luò)和數(shù)據(jù)中心團(tuán)隊(duì)現(xiàn)在應(yīng)該做好準(zhǔn)備。“這些變化發(fā)生得太快，任何人都無法做好充分準(zhǔn)備，”Sideco說。“不僅僅是網(wǎng)絡(luò)/數(shù)據(jù)中心團(tuán)隊(duì)，整個(gè)生態(tài)系統(tǒng)都需要解決所有所需的變化?！?/p>

這包括處理增加的工作負(fù)載和電力需求的芯片供應(yīng)商。“它們提供了不同的選項(xiàng)，網(wǎng)絡(luò)/數(shù)據(jù)中心團(tuán)隊(duì)可以使用這些選項(xiàng)來嘗試[解決]不斷變化的需求，”Sideco說?！八羞@些方面的合作對(duì)于跟上需求的步伐非常重要。”

其他人對(duì)準(zhǔn)備工作更有信心?！拔覀僆T部門始終為下一次顛覆做好準(zhǔn)備，”Lewis說?！罢嬲膯栴}是：企業(yè)會(huì)投資于需要改變的地方嗎？節(jié)省成本仍然是數(shù)據(jù)中心外包的首要任務(wù)。然而，企業(yè)尚未采用現(xiàn)代IT總擁有成本和價(jià)值實(shí)現(xiàn)框架來衡量 IT 的響應(yīng)能力和適應(yīng)人工智能等技術(shù)推動(dòng)業(yè)務(wù)發(fā)展的速度?！?/p>

“為了為人工智能的采用做好準(zhǔn)備，數(shù)據(jù)中心需要確定正確的業(yè)務(wù)和資本戰(zhàn)略，以便他們可以投資必要的基礎(chǔ)設(shè)施和工具，并培養(yǎng)一支具有適當(dāng)技能的勞動(dòng)力隊(duì)伍，”Martynek 說?！皳碛泻线m的人員來執(zhí)行戰(zhàn)略與制定正確的戰(zhàn)略同樣重要?！?/p>

本文作者：Bob-Violino

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。