Amazon Bedrock上新專有模型導(dǎo)入、模型評(píng)估等功能

4月24日消息，美東時(shí)間23日，亞馬遜云科技宣布推出Amazon Bedrock的全新功能，為客戶提供了一種更簡(jiǎn)單、更快捷、更安全的方法，幫助客戶開(kāi)發(fā)先進(jìn)的生成式AI應(yīng)用。

同時(shí)，Amazon Bedrock還上新了更多模型選擇：包括針對(duì)使用RAG的應(yīng)用場(chǎng)景優(yōu)化后的Amazon Titan Text Embeddings V2、正式可用的Titan Image Generator，以及Meta Llama 3基礎(chǔ)模型已正式可用，Cohere的Command R和Command R+模型也即將推出。

這次Amazon Bedrock上新的功能包括：

1、全新的專有模型導(dǎo)入功能讓客戶更輕松地將其專屬模型導(dǎo)入到Amazon Bedrock中，減少運(yùn)營(yíng)成本并加速應(yīng)用程序的開(kāi)發(fā)。

據(jù)介紹，現(xiàn)在，借助全新的Amazon Bedrock專有模型導(dǎo)入功能，企業(yè)現(xiàn)在能夠?qū)⒆约旱亩ㄖ颇Ｐ蛯?dǎo)入到Amazon Bedrock中，以完全托管的API形式進(jìn)行訪問(wèn)。

只需點(diǎn)擊幾下，企業(yè)用戶即可將他們使用Amazon SageMaker或其他工具開(kāi)發(fā)的模型集成到Amazon Bedrock平臺(tái)上。

模型通過(guò)自動(dòng)化驗(yàn)證流程后，企業(yè)用戶便可像訪問(wèn)平臺(tái)上其他模型一樣，訪問(wèn)自己的定制模型，同時(shí)享受到目前Amazon Bedrock所具備的所有服務(wù)——包括無(wú)縫的可擴(kuò)展性、強(qiáng)大的應(yīng)用保護(hù)能力、遵循負(fù)責(zé)任的AI原則、利用檢索增強(qiáng)生成（RAG）擴(kuò)充模型知識(shí)庫(kù)、輕松創(chuàng)建用于完成多步任務(wù)的代理（Agents）、進(jìn)行微調(diào)以持續(xù)訓(xùn)練和優(yōu)化模型，且無(wú)需管理底層基礎(chǔ)設(shè)施。

這一新功能讓企業(yè)能夠輕松地通過(guò)同一API訪問(wèn)Amazon Bedrock的模型與自己的定制模型。

據(jù)悉，Amazon Bedrock專有模型導(dǎo)入功能現(xiàn)已推出預(yù)覽版并支持三種最受歡迎的開(kāi)放模型架構(gòu)：Flan-T5、Llama和Mistral，并計(jì)劃未來(lái)支持更多模型。

2、全新的模型評(píng)估功能使企業(yè)用戶能夠廣泛且便捷地選擇完全托管模型，讓評(píng)估模型的時(shí)間從幾個(gè)星期縮短到幾個(gè)小時(shí)。

構(gòu)建生成式AI應(yīng)用程序的關(guān)鍵一步是找到合適的模型，而選擇特定應(yīng)用場(chǎng)景的最佳模型則需要客戶在準(zhǔn)確性和性能之間達(dá)成微妙的平衡?，F(xiàn)在，企業(yè)還需要花費(fèi)大量時(shí)間分析每個(gè)新模型如何滿足他們的應(yīng)用場(chǎng)景。

今天，Amazon Bedrock的模型評(píng)估功能已正式可用，亞馬遜云科技表示它是企業(yè)快速分析和比較Amazon Bedrock上模型的最快方式，讓評(píng)估模型的時(shí)間從幾個(gè)星期縮短到幾個(gè)小時(shí)。

企業(yè)用戶通過(guò)選擇預(yù)定義的評(píng)估標(biāo)準(zhǔn)（例如準(zhǔn)確性和魯棒性）并上傳自有數(shù)據(jù)集/提示詞庫(kù)，或者從內(nèi)置的、公開(kāi)可用的資源中進(jìn)行選擇。對(duì)于主觀標(biāo)準(zhǔn)或需要細(xì)致判斷的內(nèi)容，Amazon Bedrock使客戶能夠?qū)⑷斯徍巳谌牍ぷ髁鞒讨?，以根?jù)特定應(yīng)用場(chǎng)景的指標(biāo)（如相關(guān)性、風(fēng)格和品牌聲音）對(duì)模型進(jìn)行評(píng)估。

一旦設(shè)置完成，Amazon Bedrock將運(yùn)行評(píng)估并生成報(bào)告，使客戶能夠輕松了解模型在關(guān)鍵指標(biāo)上的表現(xiàn)，并迅速選擇最適合其應(yīng)用場(chǎng)景的模型。

3、Amazon Bedrock Guardrails功能正式可用，企業(yè)用戶可以利用該功能輕松實(shí)施防護(hù)措施，去除個(gè)人信息和敏感信息、褻瀆語(yǔ)言、特定詞匯并屏蔽有害內(nèi)容。

許多模型使用內(nèi)置控制來(lái)過(guò)濾不良和有害內(nèi)容，亞馬遜云科技表示，其大多數(shù)客戶希望進(jìn)一步定制他們的生成式AI應(yīng)用程序，以確保生成結(jié)果更具相關(guān)性，在符合公司政策的同時(shí)遵循負(fù)責(zé)任的AI原則。

現(xiàn)在，Amazon Bedrock的Guardrails功能已正式可用，它在基礎(chǔ)模型的原生能力之上提供了行業(yè)領(lǐng)先的安全保護(hù)，能夠幫助客戶阻止高達(dá)85%的有害內(nèi)容。

Guardrails允許客戶在單一服務(wù)中同時(shí)擁有內(nèi)置和定制的防護(hù)機(jī)制，并可與Amazon Bedrock中的所有大語(yǔ)言模型（LLMs）以及經(jīng)過(guò)微調(diào)的模型一起使用。

要?jiǎng)?chuàng)建一個(gè)Guardrail，客戶只需提供一個(gè)自然語(yǔ)言描述來(lái)定義其應(yīng)用程序上下文中不予顯示的主題即可。此外，客戶還可以設(shè)置閾值以過(guò)濾如仇恨言論、侮辱、黃色用語(yǔ)、或在提示詞中含有攻擊和暴力性等內(nèi)容，并設(shè)置過(guò)濾器來(lái)移除任何個(gè)人信息和敏感信息、褻瀆言論或特定的屏蔽詞。

生成海報(bào)