浪潮信息推出全新元腦R1推理服務器：單機部署，輕松運行DeepSeek R1 671B模型
隨著人工智能技術的飛速發(fā)展，浪潮信息作為業(yè)界領先的信息技術供應商，再次引領潮流，推出了一款全新的元腦R1推理服務器。這款產(chǎn)品以其卓越的性能和靈活性，為部署和運行DeepSeek R1 671B模型提供了全新的可能。
元腦R1推理服務器，以其卓越的系統(tǒng)創(chuàng)新和軟硬件的協(xié)同優(yōu)化，使得單機即可部署并運行DeepSeek R1 671B模型。這一創(chuàng)新性的舉措，大大降低了模型部署的復雜性和成本，同時也為人工智能的應用場景開辟了新的可能性。
DeepSeek R1 671B模型作為一款全參數(shù)基礎大模型，具有強大的泛化能力，高準確性以及出色的上下文理解能力。然而，這款模型的運行也對系統(tǒng)的顯存容量、顯存帶寬、互連帶寬和延遲提出了更高的要求。在FP8精度下，至少需要約800GB顯存承載，而在FP16/BF16精度下，則需要1.4TB以上的顯存空間。
面對這樣的挑戰(zhàn)，元腦R1推理服務器NF5688G7展現(xiàn)出了其強大的實力。它原生搭載了FP8計算引擎，提供1128GB HBM3e顯存，能夠滿足671B模型在FP8精度下不低于800GB顯存容量的需求。在支持全量模型推理的情況下，該機仍保留了充足的KV緩存空間，其顯存帶寬可達4.8TB/s。此外，GPU P2P帶寬達到900GB/s，基于最新推理框架，單機可支持20-30用戶并發(fā)。
值得一提的是，單臺NF5688G7還配備了3200Gbps無損擴展網(wǎng)絡，可根據(jù)用戶業(yè)務需求增長實現(xiàn)敏捷擴展，提供R1服務器集群Turnkey解決方案。這一創(chuàng)新性的設計理念，充分展現(xiàn)了浪潮信息對于未來信息技術的深度理解和前瞻性規(guī)劃。
如果說NF5688G7是專為小型集群和高性能應用而設計，那么NF5868G8則是一款專為大推理模型（Large Reasoning Model）設計的高吞吐推理服務器。這款設備業(yè)界首次實現(xiàn)單機支持16張標準PCIe雙寬卡，提供最高1536GB顯存容量，支持在FP16/BF16精度下單機部署DeepSeek 671B模型。
NF5868G8采用基于PCIe Fabric的16卡全互連拓撲，任意兩卡P2P通信帶寬可達128GB/s，降低通信延遲超60%。通過軟硬件的協(xié)同優(yōu)化，相較于傳統(tǒng)2機8卡PCIe機型，NF5868G8可將DeepSeek 671B模型推理性能提升近40%。這一創(chuàng)新性的設計理念和卓越的性能表現(xiàn)，無疑將為用戶提供更強大、更靈活、更高效的人工智能解決方案。
總的來說，浪潮信息的元腦R1推理服務器系列，以其強大的性能、靈活的配置和出色的擴展性，為人工智能應用提供了全新的可能。無論是小型集群還是大型應用，無論是基礎大模型還是高性能模型，元腦R1都能提供出色的支持和解決方案。未來，隨著人工智能技術的不斷發(fā)展，我們有理由相信，浪潮信息的元腦R1將會在更多的場景和領域中發(fā)揮出其卓越的性能，引領人工智能的發(fā)展進入新的篇章。
（免責聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權或存在不實內(nèi)容時，應及時向本網(wǎng)站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關文章源頭核實，溝通刪除相關內(nèi)容或斷開相關鏈接。 ）
