Amazon Bedrock上新多項新功能，讓生成式AI應(yīng)用學(xué)得廣、說得準(zhǔn)、記得住

7月17日消息，剛剛結(jié)束的亞馬遜云科技紐約峰會，生成式AI仍然是重點。在會上，亞馬遜云科技圍繞其生成式AI三層架構(gòu)中的中間層Amazon Bedrock和應(yīng)用層Amazon Q生成式AI助手推出了多項新功能和新服務(wù)。

亞馬遜云科技生成式AI三層架構(gòu)

以Transformer架構(gòu)為基礎(chǔ)的大模型“天生”就存在一些弱點，比如幻覺現(xiàn)象、專業(yè)知識不夠、缺乏長期記憶力等等。以大模型為基礎(chǔ)打造的生成式AI應(yīng)用自然天生也會“遺傳上”這些問題。

Amazon Bedrock提供了利用LLM和其他基礎(chǔ)模型輕松快速地構(gòu)建、部署和擴(kuò)展生成性AI應(yīng)用程序的工具。

這次大會上，亞馬遜云科技針對中間層Amazon Bedrock的功能和服務(wù)上新，重點解決基礎(chǔ)大模型專業(yè)知識不夠、幻覺、缺乏長期記憶等問題。

1、解決數(shù)據(jù)不夠“?！焙汀皬V”的問題

目前，行業(yè)內(nèi)通常會使用外掛數(shù)據(jù)庫檢索增強(qiáng)生成（RAG）來幫助基礎(chǔ)模型提供更相關(guān)、準(zhǔn)確和定制的響應(yīng)。

Amazon Bedrock的知識庫功能備受關(guān)注，它可以讓模型讀懂用戶專屬的內(nèi)容以擴(kuò)充模型的知識面，從而提升生成結(jié)果的關(guān)聯(lián)性和準(zhǔn)確性。

Amazon Bedrock這次更新擴(kuò)大了數(shù)據(jù)連據(jù)器范圍，除了Amazon S3之外，用戶現(xiàn)在還可以將第三方Web域數(shù)據(jù)源、Confluence、Salesforce和SharePoint作為數(shù)據(jù)源接入到Amazon Bedrock當(dāng)中。

比如，很多用戶在Web域中存儲日常使用的數(shù)據(jù)，這項更新使得這些用戶能夠更方便地將生成式AI帶入到其日常應(yīng)用場景當(dāng)中。

2、解決一本正經(jīng)的胡說八道的幻覺問題

生成式AI應(yīng)用生成的結(jié)果有時會出現(xiàn)幻覺現(xiàn)象，為了解決這個為題，這次Amazon Bedrock在其Guardrails（護(hù)欄）中推出了基于上下文基礎(chǔ)檢查、情境基礎(chǔ)檢查的幻覺檢測功能。

事實上，Amazon Bedrock的Guardrails首次在re:Invent 2023預(yù)覽版中發(fā)布，支持內(nèi)容過濾和拒絕主題等政策。在2024年4月正式發(fā)布時，Guardrails支持四種保護(hù)措施：拒絕主題、內(nèi)容過濾器、敏感信息過濾器和文字過濾器。

這一次，Amazon Bedrock宣布推出另外兩項功能：

一是，基于上下文基礎(chǔ)檢查的幻覺檢測功能，

二是，Amazon Bedrock的Guardrails支持新的ApplyGuardrail API，Apply Guardrail API可評估所有基礎(chǔ)模型（包括Amazon Bedrock上的大模型、自定義和第三方大模型）的輸入提示和模型響應(yīng)，從而實現(xiàn)對所有生成人工智能應(yīng)用程序的集中管理。

基于上下文基礎(chǔ)檢查的幻覺檢測功能是一種檢測幻覺的新策略類型，是在之前推出的四種檢測保護(hù)措施后的第五種保障措施?？梢栽诓换谄髽I(yè)數(shù)據(jù)或與用戶查詢無關(guān)的模型響應(yīng)中檢測幻覺。這可用于提高RAG、摘要或信息提取等用例中的響應(yīng)質(zhì)量。

基于上下文基礎(chǔ)檢查的幻覺檢測功能有兩個過濾參數(shù)（Grounding和Relevance）：

設(shè)定閾值

用戶現(xiàn)在可以在Amazon Bedrock的Guardrails中設(shè)置針對生成結(jié)果準(zhǔn)確性的關(guān)聯(lián)值，低于這一設(shè)定閾值的生成結(jié)果就會被Guardrails判定為不相關(guān)的幻覺結(jié)果并不予顯示。這項功能是通過對上下文的基礎(chǔ)性檢查來提供的，以更好的避免基礎(chǔ)模型產(chǎn)生的幻覺問題。

例如，用戶可以使用Amazon Bedrock知識庫的上下文基礎(chǔ)檢查，通過過濾不基于企業(yè)數(shù)據(jù)的不準(zhǔn)確響應(yīng)來部署值得信賴的RAG應(yīng)用程序。從企業(yè)數(shù)據(jù)源檢索到的結(jié)果被上下文基礎(chǔ)檢查策略用作參考源，以驗證模型響應(yīng)。

3、解決記不住的問題

針對生成式AI記不住的問題，Amazon Bedrock的代理（Agent）功能推出了 跨多個交互的記憶保留特性，基于該功能構(gòu)建的代理（現(xiàn)在也被稱為智能體），能夠隨時間推移學(xué)習(xí)并適應(yīng)每個用戶的獨特需求和偏好，同時多個記憶之間完全分離，每個用戶的對話歷史和上下文都會安全地存儲在唯一的記憶ID之下。這項功能將有助于提升預(yù)訂航班或是處理客戶反饋等復(fù)雜任務(wù)代理下的用戶體驗。

用戶可設(shè)置1-30天的內(nèi)存持續(xù)時間，超過此期間的所有會話摘要都將被刪除。

例如，企業(yè)用于處理客戶反饋的智能體現(xiàn)在可以知道與同一客戶之前和正在進(jìn)行的交互。每個用戶的對話歷史和上下文都安全地存儲在唯一的內(nèi)存標(biāo)識符（ID）下，確保用戶之間的完全分離。通過記憶保留，可以更容易地構(gòu)建提供無縫、自適應(yīng)和個性化體驗的智能體。

此外，Amazon Bedrock還推出了代碼解釋支持功能，它允許Agent代理在安全的沙箱環(huán)境中動態(tài)生成和運行代碼片段，從而顯著提升其處理復(fù)雜任務(wù)的能力，包括數(shù)據(jù)分析、可視化、文本處理、方程求解和優(yōu)化問題等，并支持多種數(shù)據(jù)類型和格式，同時在需要時由大型語言模型（LLM）決定是否調(diào)用該功能，以確保靈活性和安全性。

同時，在應(yīng)用層，Amazon Q也有多項新服務(wù)。

Amazon Q Apps現(xiàn)已正式可用。這是Amazon Q Business中的一項功能，借助這項新功能，用戶可以通過自然語言對話的方式，構(gòu)建基于企業(yè)數(shù)據(jù)的生成式AI應(yīng)用，并安全地將其發(fā)布到企業(yè)內(nèi)部的應(yīng)用程序庫Amazon Q Apps Library中，并添加多個應(yīng)用類型標(biāo)簽，從讓企業(yè)內(nèi)的使用者方便地進(jìn)行檢索，以查找其所需的Q Apps應(yīng)用。

另外，此次更新中，亞馬遜云科技將 Amazon Q Developer擴(kuò)展到Amazon SageMaker Studio中，以簡化并加速機(jī)器學(xué)習(xí)的工作流程。機(jī)器學(xué)習(xí)模型開發(fā)過程很復(fù)雜，數(shù)據(jù)科學(xué)家花費太多時間尋找合適的工具、文檔或方法，這項服務(wù)將為數(shù)據(jù)科學(xué)家節(jié)省數(shù)周甚至數(shù)月的工作時間。該功能提供基于自然語言的交互，并通過推薦每個任務(wù)的最佳工具、提供分步指導(dǎo)、生成入門代碼以及在遇到錯誤時提供故障排除幫助，以及為開發(fā)者量身定制針對機(jī)器學(xué)習(xí)開發(fā)生命周期的詳細(xì)執(zhí)行計劃。值得一提的是，這項更新將在所有提供Amazon SageMaker的區(qū)域中提供。

Amazon Q Developer現(xiàn)在還 擴(kuò)展至在用戶自己的集成開發(fā)環(huán)境IDE中，并提供自定義功能，以在用戶的IDE代碼編輯器和聊天中提供基于開發(fā)者私有代碼庫生成的代碼建議，這使得開發(fā)者能夠更好地打造其專屬的代碼助手。

另外，在這次紐約峰會上，亞馬遜云科技宣布了全球第二批獲得生成式AI能力認(rèn)證的合作伙伴，其中有11家來自中國的合作伙伴，包括伊克羅德、柯基數(shù)據(jù)、八斗智能、墨奇科技、神州數(shù)碼、聚云科技、神州泰岳、靈奧科技、Zilliz、跨海科技和華訊網(wǎng)絡(luò)。

今年3月，亞馬遜云科技在全球推出業(yè)內(nèi)首個生成式AI能力認(rèn)證，旨在驗證、認(rèn)可在利用亞馬遜云科技生成式AI技術(shù)方面擁有專業(yè)知識、實踐經(jīng)驗和成功案例的合作伙伴。

截止目前，全球已有60余家合作伙伴獲得了該認(rèn)證。

亞馬遜云科技生成式AI與機(jī)器學(xué)習(xí)市場推廣全球副總裁Rahul Pathak表示，“我們非常興奮迎來新一批獲得亞馬遜云科技生成式AI能力認(rèn)證的合作伙伴。自該能力認(rèn)證推出以來，這些合作伙伴已經(jīng)在全球范圍內(nèi)幫助客戶構(gòu)建和部署了許多生成式AI工作負(fù)載，取得了顯著成就和積極影響?！?br>

生成海報

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。