12月25日,浪潮信息與智源研究院達成戰(zhàn)略合作協(xié)議,雙方將緊密協(xié)作共建大模型多元算力開源創(chuàng)新生態(tài),提升大模型創(chuàng)新研發(fā)的算力效率,降低大模型應用開發(fā)的算力門檻。目前,智源Triton算子庫FlagGems已正式接入浪潮信息的元腦企智EPAI企業(yè)大模型開發(fā)平臺,助力企業(yè)實現(xiàn)更快速、更廣泛、更高效的多元算力適配與使用。
面向應用,攜手共建多元算力系統(tǒng)生態(tài)
人工智能的持續(xù)進步推動了算力多元化與模型多樣化,在為產(chǎn)業(yè)注入創(chuàng)新活力的同時,也帶來了較高的大模型應用開發(fā)技術門檻。元腦企智EPAI(Enterprise Platform of AI)是浪潮信息為企業(yè)AI大模型落地應用打造的高效、易用、安全的端到端開發(fā)平臺,支持主流開源與閉源大模型的應用快速開發(fā),可實現(xiàn)大模型應用在跨算力平臺上的無感遷移,降低多元、多模的適配與試錯成本。
FlagGems是由智源研究院于2024年6月推出的面向多元算力的開源大模型通用算子庫,在Triton生態(tài)開源開放的基礎上,面向多元算力,遵循統(tǒng)一的中間語言、統(tǒng)一的算子接口和統(tǒng)一的開源算子庫實現(xiàn)路徑,以大模型需求為導向,為多元算力提供開源、統(tǒng)一、高效的算子層生態(tài)接入方案。截止12月,FlagGems已提供超過130個大模型算子,是目前提供算子數(shù)量最多、覆蓋廣度最大的開源算子庫。
此次,智源研究院攜手浪潮信息,將FlagGems算子庫與元腦企智EPAI內(nèi)置的核心計算框架進行深度融合,旨在確保大模型應用開發(fā)能夠使用高性能、跨硬件、多框架兼容的算子集合,順利跨越各類硬件架構,滿足多種開發(fā)框架的需求?，F(xiàn)在,基于元腦企智EPAI大模型開發(fā)平臺,企業(yè)可以利用針對大模型應用開發(fā)場景優(yōu)化的先進算子集合,在多種算力平臺上高效構建、優(yōu)化和執(zhí)行復雜的行業(yè)應用算法。在復雜的訓練任務及實時性要求嚴苛的推理場景中,均能實現(xiàn)穩(wěn)定且高效的運算性能。此外,企業(yè)也無需關心多元異構加速卡之間的軟硬件差異,真正實現(xiàn)大模型應用在跨算力平臺上的無縫開發(fā)與遷移。
智源研究院×浪潮信息:開源開放,產(chǎn)業(yè)協(xié)作破解多元多模挑戰(zhàn)
算力產(chǎn)業(yè)在大模型技術趨勢的推動下飛速發(fā)展, 但硬件架構、指令集的差異及算子庫的獨立實現(xiàn)卻形成了生態(tài)藩籬,顯著提高了企業(yè)應用大模型的算力門檻,構建一個開源、統(tǒng)一、高效的多元算力系統(tǒng)生態(tài)顯得尤為迫切。
智源研究院副院長兼總工程師林詠華表示:“元腦企智 EPAI為企業(yè)提供從底層算力到上層應用的一站式支撐,而智源FlagGems提供了高性能、跨硬件、多框架兼容的大模型算子,二者如同精密的‘齒輪組’,確保模型在各類硬件架構中順滑運轉,適配多種開發(fā)框架需求,讓主流大模型跨越硬件藩籬,無論是復雜的訓練任務,還是實時性要求嚴苛的推理場景,均能穩(wěn)定、高效運行,性能表現(xiàn)媲美原生模型。”
浪潮信息高級副總裁劉軍表示:“在多元多模的產(chǎn)業(yè)格局下,AI的產(chǎn)業(yè)化落地本質上是推動人工智能與百行千業(yè)的深度融合,浪潮信息元腦企智EPAI企業(yè)大模型開發(fā)平臺與智源通用算子庫FlagGems的全面對接,是雙方解決生態(tài)離散,化解大模型產(chǎn)業(yè)化落地的算力轉化和開發(fā)復雜等高門檻難題的重要舉措,將為AI應用創(chuàng)新注入更強大、多元的算力支持,助力構建協(xié)同共生、開放共贏的多元算力系統(tǒng)生態(tài),充分釋放智能生產(chǎn)力。”
未來,浪潮信息將與智源研究院攜手并進,持續(xù)推進硬件開放與軟件開源, 以開源開放、多元多模激發(fā)創(chuàng)新活力,以多元算力系統(tǒng)生態(tài)加速創(chuàng)新落地,協(xié)力共建一個更加高效、靈活、開放的人工智能應用生態(tài)。
（免責聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權或存在不實內(nèi)容時，應及時向本網(wǎng)站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關文章源頭核實，溝通刪除相關內(nèi)容或斷開相關鏈接。 ）
