Amazon Bedrock新增的“專有模型導(dǎo)入功能”意義何在？怎么玩轉(zhuǎn)？

4月25日消息，亞馬遜云科技全球同步發(fā)布Amazon Bedrock重磅更新，新的功能包括專有模型導(dǎo)入功能，為特定應(yīng)用場(chǎng)景選擇最佳模型的模型評(píng)估功能，為生成式AI應(yīng)用程序提供易于實(shí)施的保護(hù)措施的Guardrails功能，以及新增了更多可選擇的新模型，包括Amazon Titan Image Generator、Meta Llama 3基礎(chǔ)模型已正式可用。

更多信息請(qǐng)見(jiàn)（Amazon Bedrock上新專有模型導(dǎo)入、模型評(píng)估等功能https://www.techweb.com.cn/internet/2024-04-24/2943938.shtml）

Amazon Bedrock是亞馬遜云科在去年4月份推出的一項(xiàng)全新的全托管服務(wù)，它允許用戶通過(guò)API訪問(wèn)亞馬遜云科技和第三方基礎(chǔ)模型提供商的預(yù)訓(xùn)練基礎(chǔ)模型。

此次重磅功能更新恰逢Amazon Bedrock推出一周年。

亞馬遜云科技AI和數(shù)據(jù)副總裁Swami Sivasubramanian介紹道：“企業(yè)應(yīng)用Amazon Bedrock正呈現(xiàn)出爆炸式的增長(zhǎng)。成千上萬(wàn)不同規(guī)模，來(lái)自不同行業(yè)的企業(yè)選擇Amazon Bedrock作為他們生成式AI戰(zhàn)略的核心基礎(chǔ)，它極大加速并簡(jiǎn)化了企業(yè)從試驗(yàn)階段到實(shí)際生產(chǎn)的轉(zhuǎn)變?！?/p>

專有模型導(dǎo)入功能意義重大

借助全新的Amazon Bedrock專有模型導(dǎo)入功能，只需點(diǎn)擊幾下，企業(yè)用戶即可將他們使用Amazon SageMaker或其他工具開(kāi)發(fā)的模型集成到Amazon Bedrock平臺(tái)上，以完全托管的API形式進(jìn)行訪問(wèn)。

Amazon Bedrock專有模型導(dǎo)入功能現(xiàn)已推出預(yù)覽版并支持三種開(kāi)放模型架構(gòu)：Flan-T5、Llama和Mistral，并計(jì)劃未來(lái)支持更多模型。

此次推出的全新專有模型導(dǎo)入功能可謂意義重大。

這意味著通過(guò)該服務(wù)，企業(yè)客戶能夠在Amazon Bedrock上接入其定制模型，從而能夠利用Amazon Bedrock內(nèi)置的一系列功能。這將有利于客戶降低模型成本，同時(shí)享受Serverless提供的易用性，全面加速應(yīng)用開(kāi)發(fā)。

對(duì)亞馬遜云科技來(lái)說(shuō)，專有模型導(dǎo)入功能的推出，打通了Amazon Bedrock和Amazon SageMaker的工具鏈連接，讓二者的能力發(fā)揮出1+1>2的效果。

為何如此說(shuō)呢。在此之前，Amazon Bedrock和Amazon Sagemaker可以說(shuō)是兩個(gè)獨(dú)立的服務(wù)。

Amazon SageMaker是亞馬遜云科技在2017年推出的端到端的機(jī)器學(xué)習(xí)平臺(tái)，它的功能包括從數(shù)據(jù)標(biāo)注到數(shù)據(jù)訓(xùn)練、再到部署、上線以后的持續(xù)監(jiān)控以及基于原始數(shù)據(jù)的再迭代等端到端的能力。

Amazon SageMaker提供的模型訓(xùn)練功能，可以從頭開(kāi)始訓(xùn)練模型或?qū)ΜF(xiàn)有的公開(kāi)模型如Llama、Mistral和Flan-T5進(jìn)行高級(jí)定制。

當(dāng)亞馬遜云科技的客戶需要用自有數(shù)據(jù)構(gòu)建這些模型時(shí)，他們通常是依賴Amazon SageMaker來(lái)訓(xùn)練定制自己的專有模型。

而Amazon Bedrock內(nèi)置了眾多第三方基礎(chǔ)大模型和高級(jí)生成式AI工具供用戶通過(guò)API訪問(wèn)使用。

現(xiàn)在，隨著Amazon Bedrock專有模型導(dǎo)入功能的推出，企業(yè)客戶能夠?qū)⑺麄冏约旱亩ㄖ颇Ｐ团cAmazon Bedrock內(nèi)置的高級(jí)生成式AI工具相結(jié)合，如知識(shí)庫(kù)、Guardrails、代理（Agents）和模型評(píng)估等，而無(wú)需自行開(kāi)發(fā)這些功能。

這一新功能讓企業(yè)能夠輕松地通過(guò)同一API訪問(wèn)Amazon Bedrock的模型與自己的定制模型組合，這給企業(yè)在選擇和使用模型的靈活性方面帶來(lái)進(jìn)一步躍升。

10分鐘完成模型導(dǎo)入

亞馬遜云科技還同步發(fā)布了“在Amazon Bedrock中導(dǎo)入自定義模型”的教程。

演示教程中，在向Amazon Bedrock導(dǎo)入一個(gè)微調(diào)的Mistral-7 B-v0.1語(yǔ)言模型，只用了10分鐘就完成。

步驟：

在Amazon Bedrock控制臺(tái)中，從導(dǎo)航窗格的Foundation models部分選擇Imported models。

選擇要導(dǎo)入的模型MistralLite，是一個(gè)微調(diào)的Mistral-7 B-v0.1語(yǔ)言模型，具有處理32K tokens的能力。

在模型導(dǎo)入設(shè)置中選擇模型權(quán)重，然后選擇上傳模型的位置。

大約10分鐘就完成了導(dǎo)入。

在控制臺(tái)中就能看到導(dǎo)入的模型MistralLite。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。