數據中心準備好迎接生成式人工智能了嗎？

生成式人工智能 (AI) 能夠根據提示生成文本、圖像或其他內容，盡管目前企業(yè)對它的采用尚處于早期階段，但隨著企業(yè)組織找到該技術的更多新用途，預計該技術的采用將迅速增加。

Gartner分析師Frances Karamouzis表示：“生成式人工智能的狂熱沒有任何減弱的跡象。”“各組織正在爭先恐后地確定向生成式人工智能解決方案投入多少資金、哪些產品值得投資、何時開始以及如何減輕這項新興技術帶來的風險。”

據Bloomberg Intelligence預測，未來十年，生成式AI市場將以每年42%的驚人速度增長，從2022年的400 億美元增長到1.3萬億美元。

生成式人工智能可以通過多種方式幫助IT團隊：它可以編寫軟件代碼和網絡腳本、提供故障排除和問題解決、自動化流程、提供培訓和入職培訓、創(chuàng)建文檔和知識管理系統以及幫助進行項目管理和規(guī)劃。

另外，生成式人工智能還可以改變業(yè)務的其他部分，包括呼叫中心、客戶服務、虛擬助理、數據分析、內容創(chuàng)建、設計和開發(fā)以及預測性維護等。

但數據中心基礎設施能否應對生成式人工智能產生的不斷增長的工作負載？

生成式人工智能對計算需求的影響

毫無疑問，生成式人工智能將成為大多數組織未來數據戰(zhàn)略的一部分。如今，網絡和IT領導者需要做的是確保他們的IT基礎設施以及團隊為即將到來的變化做好準備。

當他們構建和部署包含生成式人工智能的應用時，這將如何影響對計算能力和其他資源的需求？

咨詢公司畢馬威 (KPMG) 咨詢部董事總經理布萊恩·劉易斯 (Brian Lewis) 表示：“正如我們今天所知，對數據中心的需求將會增加，并將徹底改變未來數據中心及其相關技術的面貌。”

數據中心運營商DataBank首席執(zhí)行官Raul Marynek表示，生成式AI應用分兩個階段對計算能力提出了巨大的需求：訓練構成生成式AI系統核心的大型語言模型 (LLM)，然后使用這些訓練有素的LLM來運行應用程序。

“訓練大型語言模型碩士需要神經網絡形式的密集計算，其中數十億語言或圖像示例被輸入神經網絡系統并反復細化，直到系統像人類一樣‘識別’它們，”Martynek 說。

Marynek表示，神經網絡需要極其密集的GPU處理器高性能計算 (HPC) 集群，一次連續(xù)運行數月甚至數年。“它們在專用基礎設施上運行效率更高，這些基礎設施可以位于用于訓練的專有數據集附近，”他說。

第二階段是“推理過程”或使用這些應用程序實際進行查詢并返回數據結果?！霸谶@個運營階段，它需要一個地理上更加分散的基礎設施，可以快速擴展并以較低的延遲提供對應用的訪問，因為查詢信息的用戶希望對想象的用例做出快速響應。”

Marynek表示，這將需要在許多地方建立數據中心，而不是目前支持大多數應用程序的集中式公共云模型。他表示，在這個階段，數據中心的計算能力需求仍將上升，“但相對于第一階段，這種需求分布在更多的數據中心。”

生成式人工智能推動液體冷卻需求

網絡和IT領導者需要認識到生成式人工智能對服務器密度的影響，以及它對冷卻要求、電力需求、可持續(xù)發(fā)展計劃等的影響。

Tirias Research首席分析師Francis Sideco表示：“這不僅僅是密度，還包括這些服務器在峰值負載下的使用頻率和用量的工作周期。”“我們看到NVIDIA、AMD和英特爾等公司的每一代AI芯片都在努力提高性能，同時控制功耗和熱量。”

Sideco表示，盡管做出了這些努力，電力預算仍在增加。“隨著工作負載的快速增長，尤其是GenAI，我們在某些時候會遇到困難?！?/p>

Lewis補充道，服務器密度“不必像刀片技術和虛擬主機那樣增加”?！胺枪栊酒?、圖形處理單元 (GPU)、量子計算和硬件感知、基于模型的軟件開發(fā)等技術創(chuàng)新將能夠從現有硬件中獲得更多收益?！?/p>

Lewis表示，業(yè)界已經在不同地點試驗比空氣更高效的創(chuàng)新液體冷卻技術以及可持續(xù)性，例如微軟的Project Natick海底數據中心。

“傳統的空氣冷卻技術，例如使用風扇、管道、通風口和空調系統，不足以滿足GPU等高性能計算硬件的冷卻需求，”Lewis說。“因此，液體冷卻等替代冷卻技術正在受到關注。”

Lewis說，液體冷卻涉及通過熱交換器循環(huán)冷卻劑，例如水或其他液體，以吸收計算機組件產生的熱量?！耙后w冷卻比傳統空氣冷卻更節(jié)能，因為液體比空氣具有更高的導熱性，從而可以實現更好、更高效的熱傳遞?！?/p>

Marynek表示，新的數據中心設計需要滿足更高的冷卻要求和電力需求，這意味著未來的數據中心將不得不依靠新的冷卻方法，例如后冷門、芯片水或浸沒技術來提供正確的電力組合、冷卻和可持續(xù)性。

Marynek表示，數據中心運營商已經在液體冷卻方面取得了進展。例如，DataBank在其位于亞特蘭大的佐治亞理工學院超級計算機設施中使用了QCooling的新型ColdLogik Dx 后門冷卻解決方案。

“我們預計門用水量和芯片冷卻技術用水量將大幅增加，特別是考慮到未來幾代 GPU 將消耗更多電力，”Martynek說道?！坝捎诓捎蒙墒?a href="http://m.ygpos.cn/%E4%BA%BA%E5%B7%A5%E6%99%BA%E8%83%BD_1.html" target="_blank" class="keylink">人工智能而對更多計算空間和功率的需求無疑將推動人們尋求更高的功耗和冷卻效率?！?/p>

Gen AI如何影響電力需求

Marynek表示，數據中心運營商建造自己的變電站可能會變得更加普遍?！坝捎谛枨蠛拖蚩稍偕茉吹倪^渡而給電網帶來的壓力，給電力供應帶來了更多的不確定性，新的數據中心項目時間表在很大程度上受到公用事業(yè)公司的工作量及其處理新設施電力需求的能力的影響， “ 他說。

Marynek 表示，擁有可靠且可擴展的電源將越來越成為數據中心運營商的首要考慮因素，既可以滿足HPC集群對電力的需求，又可以繞過公用事業(yè)的時間表和限制。

Marynek表示，DataBank正在推出一種名為“通用數據大廳設計”(UDHD) 的新數據中心設計標準，該標準采用平板地板，周邊有空氣冷卻，機柜之間的間距更大，非常適合超大規(guī)模云部署，并且可以快速部署。

“這種方法還使我們能夠輕松添加活動地板和更近的機柜間距，以適應更傳統的企業(yè)工作負載，”Martynek說。“而且，我們可以以最小的努力添加下一代冷卻技術，如后門熱交換器、水冷門配置或直接芯片冷卻基礎設施，”他說。

未來，數據中心的技術設計“將需要適應更高的計算需求，如快速訪問內存、強大的存儲/存儲區(qū)域網絡、高性能延遲/中斷容忍網絡和大數據數據庫技術，”劉易斯說。

IT團隊需要做好準備

網絡和數據中心團隊現在應該做好準備?！斑@些變化發(fā)生得太快，任何人都無法做好充分準備，”Sideco說。“不僅僅是網絡/數據中心團隊，整個生態(tài)系統都需要解決所有所需的變化?！?/p>

這包括處理增加的工作負載和電力需求的芯片供應商?！八鼈兲峁┝瞬煌倪x項，網絡/數據中心團隊可以使用這些選項來嘗試[解決]不斷變化的需求，”Sideco說。“所有這些方面的合作對于跟上需求的步伐非常重要。”

其他人對準備工作更有信心。“我們IT部門始終為下一次顛覆做好準備，”Lewis說?！罢嬲膯栴}是：企業(yè)會投資于需要改變的地方嗎？節(jié)省成本仍然是數據中心外包的首要任務。然而，企業(yè)尚未采用現代IT總擁有成本和價值實現框架來衡量 IT 的響應能力和適應人工智能等技術推動業(yè)務發(fā)展的速度。”

“為了為人工智能的采用做好準備，數據中心需要確定正確的業(yè)務和資本戰(zhàn)略，以便他們可以投資必要的基礎設施和工具，并培養(yǎng)一支具有適當技能的勞動力隊伍，”Martynek 說。“擁有合適的人員來執(zhí)行戰(zhàn)略與制定正確的戰(zhàn)略同樣重要?！?/p>

本文作者：Bob-Violino

生成海報

免責聲明：本網站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網站出現的信息，均僅供參考。本網站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。任何單位或個人認為本網站中的網頁或鏈接內容可能涉嫌侵犯其知識產權或存在不實內容時，應及時向本網站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網站在收到上述法律文件后，將會依法盡快聯系相關文章源頭核實，溝通刪除相關內容或斷開相關鏈接。