7月10日消息,燧原科技與上海人工智能實驗室合作,基于人工智能開放計算體系-DeepLink共建AI軟硬件生態(tài),當前雙方的合作主要基于燧原科技已量產(chǎn)的第二代訓練產(chǎn)品云燧T20和第二代推理產(chǎn)品云燧i20。
2022年11月,燧原科技與上海人工智能實驗室就云燧T20、云燧i20和深度學習框架的適配開始進行深入合作,逐步在人工智能開放計算體系(DeepLink)上實現(xiàn)接入T20和i20,共同打造人工智能軟硬件生態(tài)。
目前,T20和i20已基于DeepLink實現(xiàn)多個模型的訓練和推理的適配,支持CV、NLP 等核心領域以及開源LLaMA大模型。雙方的合作降低了硬件接入AI 模型訓練和推理的門檻,為大模型的發(fā)展提供強勁算力保證。
燧原科技同時參與了DeepLink芯片評測工作,DeepLink評測體系針對送測芯片進行多維度測試并提供季度評測報告,其評測結(jié)論為各類加速卡提供優(yōu)化參考,推動AI芯片技術規(guī)范的標準建設。
DeepLink作為連接硬件芯片與深度學習軟件框架間適配的“橋梁”,廠商可基于DeepLink一次適配即接入廣泛的算法生態(tài),根本性實現(xiàn)軟硬件解耦。目前DeepLink已提供200余個標準算子接口,支持超過5000個算子測例,同時支持大語言模型和視覺模型。遵循DeepLink標準可以實現(xiàn)主流框架與AI芯片高效適配,極大降低算力使用門檻,節(jié)省適配時間,更容易實現(xiàn)算力對模型的使能。同時通過編譯的優(yōu)化,系統(tǒng)性提升整體訓練效率。
云燧T20是面向數(shù)據(jù)中心的第二代人工智能訓練加速卡,具有模型覆蓋面廣、性能強、軟件生態(tài)開放等特點,可支持多種人工智能訓練場景。同時具備靈活的可擴展性,提供業(yè)界領先的人工智能算力集群方案。
云燧i20是面向數(shù)據(jù)中心的第二代人工智能推理加速卡,具有高性能高能效、模型覆蓋面廣、易部署易運維等特點,已廣泛應用于計算機視覺、語音識別與合成、自然語言處理、搜索與推薦等推理場景。
燧原科技相關負責人表示:“ DeepLink可以讓上游芯片和下游框架兩層在適配工程實施時能有效地解耦,并復用到不同的訓練框架適配中去,從而降低芯片和框架的適配成本,同時保障算子實現(xiàn)正確性。燧原科技將與上海人工智能實驗室合作,在算力和算法上進行深度融合,為業(yè)界構(gòu)建軟硬一體、更加優(yōu)化的計算解決方案,為產(chǎn)業(yè)賦能,共建軟硬協(xié)同生態(tài),推動中國數(shù)字化產(chǎn)業(yè)轉(zhuǎn)型和升級。”
(免責聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性,但不保證有關資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏,概不負任何法律責任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權或存在不實內(nèi)容時,應及時向本網(wǎng)站提出書面權利通知或不實情況說明,并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關文章源頭核實,溝通刪除相關內(nèi)容或斷開相關鏈接。 )