中國移動研究院秦鳳偉:大模型時代 智算網絡性能評測面臨四大挑戰(zhàn)

3月22日消息(趙婷婷)人工智能正處于快速發(fā)展階段,其應用深入到各個行業(yè)和領域,將逐步改變著我們的生活和工作方式。智能時代,通信及網絡重要性在不斷提升,產品迭代速度明顯加速,對數(shù)據(jù)、算力、網絡持續(xù)演進提出了新的要求。

在日前思博倫舉辦的“創(chuàng)新驅動智能未來”的Spirent Day 2024峰會上,中國移動通信有限公司研究院項目經理秦鳳偉在主題演講中指出,智算中心具有明顯的通信特征,隨著AI技術的快速發(fā)展,推動算、網軟硬件技術的快速選代升級。而在測試領域,制定普適統(tǒng)一的智算中心網絡性能評測體系仍然面臨四大挑戰(zhàn)。

首先,節(jié)點規(guī)模方面,模擬GPU實際的計算、周期性通信,測試結果是否可以客觀反映實際結果;以及儀表是否能支持千卡級、甚至萬卡即模擬能力。

其次,性能指標方面,測試儀端口、規(guī)模是否能匹配網絡的演進速度;能否有效反映如有效寬帶、長尾時延等新指標。

再次,模型種類層面,不僅需考察基本的通信原語及其不同的實現(xiàn)方式,還要關注測試工具迭代速速能否匹配并支持各類大模型,以及針對不同模型能否形成統(tǒng)一的網絡性能評價標準。

最后,定制化需求上,隨著端網協(xié)同的趨勢日益明顯,需兼顧做網卡和網絡;對于私有擁塞控制協(xié)議、傳輸協(xié)議等的定制優(yōu)化,評估是否具備高度靈活的可編程能力和定制化功能顯得尤為關鍵。

免責聲明:本網站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網站出現(xiàn)的信息,均僅供參考。本網站將盡力確保所提供信息的準確性及可靠性,但不保證有關資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網站對有關資料所引致的錯誤、不確或遺漏,概不負任何法律責任。任何單位或個人認為本網站中的網頁或鏈接內容可能涉嫌侵犯其知識產權或存在不實內容時,應及時向本網站提出書面權利通知或不實情況說明,并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網站在收到上述法律文件后,將會依法盡快聯(lián)系相關文章源頭核實,溝通刪除相關內容或斷開相關鏈接。

2024-03-22
中國移動研究院秦鳳偉:大模型時代 智算網絡性能評測面臨四大挑戰(zhàn)
中國移動研究院秦鳳偉:大模型時代 智算網絡性能評測面臨四大挑戰(zhàn),C114訊 3月22日消息(趙婷婷)人工智能正處于快速發(fā)展階段,其應用深入到各個行業(yè)和領域,將逐步改

長按掃碼 閱讀全文