從自定義導入到完全托管,在Amazon Bedrock上做滿血版DeepSeek-R1企業(yè)級部署更容易了

3月11日消息,今年1月末,亞馬遜云科技就率先全面上線DeepSeek-R1模型,并為其客戶提供了四種部署DeepSeek-R1模型的方法,其中就包括通過Amazon Bedrock 自定義導入DeepSeek-R1-Distill模型。

自1月下旬該模型推出以來,已有數(shù)千名客戶使用Amazon Bedrock的自定義模型導入功能部署了DeepSeek-R1模型。

3月11日,亞馬遜云科技宣布在Amazon Bedrock上推出完全托管的滿血版DeepSeek-R1。

從自定義導入到完全托管,企業(yè)客戶通過Amazon Bedrock部署DeepSeek-R1的方法更加簡潔方便了。

亞馬遜CEO Andy Jassy就表示:“我們讓DeepSeek-R1的使用變得更加輕松。該模型現(xiàn)已在Amazon Bedrock上以完全托管模式提供——亞馬遜云科技是首個將DeepSeek-R1作為完全托管服務推出的云服務提供商。用戶無需進行任何配置或維護,即可獲得所需的全套安全防護和工具,用于構(gòu)建高效實用的生成式AI應用?!?/p>

作為服務企業(yè)級部署大模型的平臺,這次亞馬遜云科技在Amazon Bedrock上推出完全托管的滿血版DeepSeek-R1,其背后有兩個關鍵詞:一個是完全托管,一個是企業(yè)級部署。

完全托管,點點按鈕就可完成DeepSeek-R1部署

此次在Amazon Bedrock上推出完全托管的滿血版DeepSeek-R1進一步擴展了亞馬遜云科技的客戶在Amazon Bedrock中使用DeepSeek-R1及其蒸餾版本的方式,堪稱在亞馬遜云科技上使用DeepSeek-R1的最佳打開方式,同時也是最省心的方式。

這種方式集各種優(yōu)勢于一身:滿血版的強大性能、完全托管的省心省力及極致彈性,同時盡享Amazon Bedrock的各種強大的構(gòu)建工具與企業(yè)級的安全防護功能。

現(xiàn)在,企業(yè)無論是初創(chuàng)公司還是大型企業(yè),無論技術能力如何,都可以在Amazon Bedrock中輕松訪問完全托管、無服務器的DeepSeek-R1,并將其應用于企業(yè)級部署。企業(yè)可以利用Amazon Bedrock強大的能力來解決復雜問題、編寫代碼、處理數(shù)據(jù)、分析數(shù)據(jù)等,而無需擔心任何復雜的設置或運維。

亞馬遜云科技生成式AI副總裁Vasi Philomin表示:“借助這種完全托管的實現(xiàn)方式,客戶能夠以無服務器按token付費的模式使用該模型,幫助他們無需管理任何基礎設施即可實現(xiàn)從實驗到生產(chǎn)的規(guī)模擴展。”

根據(jù)亞馬遜云科技提供的演示blog,現(xiàn)在企業(yè)只需要簡單幾步操作即可完成DeepSeek-R1的部署。

首先,在Amazon Bedrock的基礎模型中,找到DeepSeek-R1模型并選擇。

然后,選擇完全托管的的DeepSeek-R1模型,即可。

最后,值得注意的是,Amazon Bedrock還提供了多種安全防護(Guardrails)能力。用戶在左側(cè)導航中可以選擇配置多個過濾器創(chuàng)建護欄。

例如,如果過濾了“政治”字詞,護欄將在提示中識別該字詞,并向用戶顯示被阻止的消息。

企業(yè)級部署安全無憂:解決大模型幻覺、有害內(nèi)容問題

談到大模型安全和企業(yè)級部署,就不得不考慮到大模型天生的“幻覺問題”。

強大如DeepSeek-R1,也不可避免存在幻覺問題。而且,其強大的語言能力讓其生成的幻覺內(nèi)容變得更加隱蔽且難以識別。

此前,就有媒體在測試to C的DeepSeek時指出其以假亂真的“虛構(gòu)”能力(如下圖)。

在企業(yè)級部署上,大模型的這種幻覺和虛構(gòu)是會直接給企業(yè)帶來經(jīng)濟損失和法律糾紛的,因此是完全不可接受的。如何把控生成內(nèi)容的尺度,并避免出現(xiàn)明顯的事實性錯誤,是企業(yè)級AI應用中必須解決的首要問題。

亞馬遜云科技就強烈建議客戶將Amazon Bedrock Guardrails和Amazon Bedrock模型評估功能與DeepSeek-R1結(jié)合使用,以保護其生成式AI應用程序。

Amazon Bedrock Guardrails就像高速公路上的護欄能防止車輛偏離道路一樣,有助于防止應用程序生成有害或不恰當?shù)膬?nèi)容。這包括屏蔽攻擊性語言、露骨的內(nèi)容或其他被認為不適合最終用戶的內(nèi)容,以及識別和刪除個人數(shù)據(jù)以保護用戶隱私。

同時,Amazon Bedrock Guardrails還提供自動推理檢查功能,它可以輕松檢查因模型幻覺而導致的事實性錯誤。它運用數(shù)學邏輯方法來驗證內(nèi)容的正確性。在那些主題廣泛且復雜、并有一套明確定義的業(yè)務規(guī)則或知識體系的領域,自動推理檢查功能表現(xiàn)出色。

亞馬遜云科技大中華區(qū)產(chǎn)品部總經(jīng)理陳曉建表示:事實性錯誤通過人工不難發(fā)現(xiàn),因為它是明確的對錯問題。以前大模型缺乏可證明事實的邏輯,導致出現(xiàn)幻覺時難以糾正。但有了自動推理技術,我們能夠通過數(shù)學驗證方式嚴密證明事實性錯誤是否會發(fā)生,從而有效改善幻覺問題?!?/p>

事實上,有害內(nèi)容和幻覺問題只是生成式AI安全的一個方面。亞馬遜云科技提供全棧的安全防護能力和服務,助力客戶高效實施安全合規(guī)。亞馬遜云科技還將廣泛的安全、合規(guī)服務與Amazon Bedrock進行集成,提供全面的安全防護,包括靜態(tài)數(shù)據(jù)和傳輸中數(shù)據(jù)加密、細粒度訪問控制、安全連接選項以及各種合規(guī)認證。例如:通過Amazon KMS密鑰管理服務對靜態(tài)數(shù)據(jù)和傳輸中數(shù)據(jù)進行加密;通過Amazon IAM進行細粒度的身份與訪問管理;通過Amazon Network Firewall網(wǎng)絡防火墻服務來實現(xiàn)網(wǎng)絡安全;提供包括HIPAA、ISO、GDPR在內(nèi)的國際主流合規(guī)認證;通過Amazon CloudWatch和Amazon CloudTrail進行監(jiān)控和日志記錄等。

此外,在數(shù)據(jù)安全方面,亞馬遜云科技始終踐行“客戶始終擁有數(shù)據(jù)”的安全理念。通過Amazon Bedrock,客戶可以在確保數(shù)據(jù)安全和隱私保護的前提下,使用自有數(shù)據(jù)快速進行基礎模型的微調(diào)和定制,客戶的所有數(shù)據(jù)均經(jīng)過加密,且不會離開虛擬私有云(VPC)環(huán)境。同時,亞馬遜云科技確保客戶的任何數(shù)據(jù)都不會用于訓練底層模型。

亞馬遜云科技CEO Matt Garman強調(diào):“自DeepSeek-R1在亞馬遜云科技上線以來,我們看到了巨大的需求,而現(xiàn)在,我們成為了首個將DeepSeek-R1作為完全托管服務推出的云服務提供商。這意味著用戶可通過無縫集成的強大AI能力,獲得所有核心功能:內(nèi)置安全防護、全面監(jiān)控能力、可定制護欄,以及對數(shù)據(jù)的完全掌控?!?/p>

亞馬遜云科技致力于為客戶廣泛提供來自領先AI公司的眾多AI模型,加速客戶構(gòu)建與擴展生成式AI應用。此次亞馬遜云科技在Amazon Bedrock上推出完全托管的滿血版DeepSeek-R1正是其上述理念的踐行之一。截至目前,亞馬遜云科技Amazon Bedrock上已提供來自領先AI公司,如AI21 Labs、亞馬遜、Anthropic、Cohere、Luma AI、Meta、Mistral AI、Stability AI、DeepSeek的高性能基礎模型選擇。(果青)

免責聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性,但不保證有關資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏,概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權或存在不實內(nèi)容時,應及時向本網(wǎng)站提出書面權利通知或不實情況說明,并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關文章源頭核實,溝通刪除相關內(nèi)容或斷開相關鏈接。

2025-03-11
從自定義導入到完全托管,在Amazon Bedrock上做滿血版DeepSeek-R1企業(yè)級部署更容易了
3月11日消息,今年1月末,亞馬遜云科技就率先全面上線DeepSeek-R1模型,并為其客戶提供了四種部署DeepSeek-R1模型的方法,其中就包括通過Amazon Bedrock 自定義導入DeepSeek-R1-Distill模型。

長按掃碼 閱讀全文