近日,上海交通大學基于昇騰Atlas 800T A2算力集群,成功完成DeepSeek全系列模型的本地化部署,成為國內首個實現千億級大模型全棧國產化部署的高校。此次部署涵蓋DeepSeek-R1、DeepSeek-V3等核心模型,重點服務于教學、科研、管理和服務等多場景,標志著高校AI基礎設施建設邁入新階段。
這背后,是昇騰先進架構帶來的卓越性能以及原廠服務FAE的支持,為多個DeepSeek模型提供算力支撐。針對高校場景的特殊需求打造三大技術突破:
輕量化推理架構:通過昇騰Ascend核間通信優(yōu)化技術,實現4臺Atlas 800服務器承載DeepSeek-R1和DeepSeek-V3千億參數推理,硬件投入成本降低65%;
動態(tài)資源調度:基于昇騰AI原生算力平臺,實現教學、科研、管理和服務等各類場景的算力彈性分配,算力資源利用率實現一定程度的提升;
全棧自主可控:從昇騰處理器到MindSpore框架的深度適配,使DeepSeek-V3在復雜數學推理任務中的端到端時延較傳統方案實現有效縮短。
借助華為昇騰的獨特優(yōu)勢,DeepSeek在推理效率上得到顯著提升,成本也大幅降低。2025年2月4日,DeepSeek-V3、DeepSeek-R1、Janus-Pro正式上線華為昇騰社區(qū),支持一鍵獲取DeepSeek系列模型。
從即日起,上海交大師生可通過網頁/APP申請體驗“滿血版”DeepSeek,無需擔心“深度思考用不了”“對話提問無反應”。同時,上海交通大學鯤鵬昇騰科教創(chuàng)新卓越中心也將推動DeepSeek系列模型與課程設計、科研創(chuàng)新等方面融合,探索AI加持下的學習與科研新范式。
鯤鵬昇騰科教創(chuàng)新卓越中心定位為基于鯤鵬昇騰技術路線的校級生態(tài)合作平臺,在校企合作、產教融合方面發(fā)揮重要作用,卓越中心將持續(xù)推動DeepSeek等重要AI創(chuàng)新在高校領域落地,進一步將人工智能技術帶到師生生活、學習、科研的方方面面,逐浪世界科技最前沿。
(免責聲明:本網站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網站出現的信息,均僅供參考。本網站將盡力確保所提供信息的準確性及可靠性,但不保證有關資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網站對有關資料所引致的錯誤、不確或遺漏,概不負任何法律責任。
任何單位或個人認為本網站中的網頁或鏈接內容可能涉嫌侵犯其知識產權或存在不實內容時,應及時向本網站提出書面權利通知或不實情況說明,并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網站在收到上述法律文件后,將會依法盡快聯系相關文章源頭核實,溝通刪除相關內容或斷開相關鏈接。 )