7月17日消息，剛剛結束的亞馬遜云科技紐約峰會，生成式AI仍然是重點。在會上，亞馬遜云科技圍繞其生成式AI三層架構中的中間層Amazon Bedrock和應用層Amazon Q生成式AI助手推出了多項新功能和新服務。
亞馬遜云科技生成式AI三層架構
以Transformer架構為基礎的大模型“天生”就存在一些弱點，比如幻覺現象、專業(yè)知識不夠、缺乏長期記憶力等等。以大模型為基礎打造的生成式AI應用自然天生也會“遺傳上”這些問題。
Amazon Bedrock提供了利用LLM和其他基礎模型輕松快速地構建、部署和擴展生成性AI應用程序的工具。
這次大會上，亞馬遜云科技針對中間層Amazon Bedrock的功能和服務上新，重點解決基礎大模型專業(yè)知識不夠、幻覺、缺乏長期記憶等問題。
1、解決數據不夠“?！焙汀皬V”的問題
目前，行業(yè)內通常會使用外掛數據庫檢索增強生成（RAG）來幫助基礎模型提供更相關、準確和定制的響應。
Amazon Bedrock的知識庫功能備受關注，它可以讓模型讀懂用戶專屬的內容以擴充模型的知識面，從而提升生成結果的關聯性和準確性。
Amazon Bedrock這次更新擴大了數據連據器范圍，除了Amazon S3之外，用戶現在還可以將第三方Web域數據源、Confluence、Salesforce和SharePoint作為數據源接入到Amazon Bedrock當中。
比如，很多用戶在Web域中存儲日常使用的數據，這項更新使得這些用戶能夠更方便地將生成式AI帶入到其日常應用場景當中。
2、解決一本正經的胡說八道的幻覺問題
生成式AI應用生成的結果有時會出現幻覺現象，為了解決這個為題，這次Amazon Bedrock在其Guardrails（護欄）中推出了基于上下文基礎檢查、情境基礎檢查的幻覺檢測功能。
事實上，Amazon Bedrock的Guardrails首次在re:Invent 2023預覽版中發(fā)布，支持內容過濾和拒絕主題等政策。在2024年4月正式發(fā)布時，Guardrails支持四種保護措施：拒絕主題、內容過濾器、敏感信息過濾器和文字過濾器。
這一次，Amazon Bedrock宣布推出另外兩項功能：
一是，基于上下文基礎檢查的幻覺檢測功能，
二是，Amazon Bedrock的Guardrails支持新的ApplyGuardrail API，Apply Guardrail API可評估所有基礎模型（包括Amazon Bedrock上的大模型、自定義和第三方大模型）的輸入提示和模型響應，從而實現對所有生成人工智能應用程序的集中管理。
基于上下文基礎檢查的幻覺檢測功能是一種檢測幻覺的新策略類型，是在之前推出的四種檢測保護措施后的第五種保障措施?？梢栽诓换谄髽I(yè)數據或與用戶查詢無關的模型響應中檢測幻覺。這可用于提高RAG、摘要或信息提取等用例中的響應質量。
基于上下文基礎檢查的幻覺檢測功能有兩個過濾參數（Grounding和Relevance）：
設定閾值
用戶現在可以在Amazon Bedrock的Guardrails中設置針對生成結果準確性的關聯值，低于這一設定閾值的生成結果就會被Guardrails判定為不相關的幻覺結果并不予顯示。這項功能是通過對上下文的基礎性檢查來提供的，以更好的避免基礎模型產生的幻覺問題。
例如，用戶可以使用Amazon Bedrock知識庫的上下文基礎檢查，通過過濾不基于企業(yè)數據的不準確響應來部署值得信賴的RAG應用程序。從企業(yè)數據源檢索到的結果被上下文基礎檢查策略用作參考源，以驗證模型響應。
3、解決記不住的問題
針對生成式AI記不住的問題，Amazon Bedrock的代理（Agent）功能推出了 跨多個交互的記憶保留特性，基于該功能構建的代理（現在也被稱為智能體），能夠隨時間推移學習并適應每個用戶的獨特需求和偏好，同時多個記憶之間完全分離，每個用戶的對話歷史和上下文都會安全地存儲在唯一的記憶ID之下。這項功能將有助于提升預訂航班或是處理客戶反饋等復雜任務代理下的用戶體驗。
用戶可設置1-30天的內存持續(xù)時間，超過此期間的所有會話摘要都將被刪除。
例如，企業(yè)用于處理客戶反饋的智能體現在可以知道與同一客戶之前和正在進行的交互。每個用戶的對話歷史和上下文都安全地存儲在唯一的內存標識符（ID）下，確保用戶之間的完全分離。通過記憶保留，可以更容易地構建提供無縫、自適應和個性化體驗的智能體。
此外，Amazon Bedrock還推出了代碼解釋支持功能，它允許Agent代理在安全的沙箱環(huán)境中動態(tài)生成和運行代碼片段，從而顯著提升其處理復雜任務的能力，包括數據分析、可視化、文本處理、方程求解和優(yōu)化問題等，并支持多種數據類型和格式，同時在需要時由大型語言模型（LLM）決定是否調用該功能，以確保靈活性和安全性。
同時，在應用層，Amazon Q也有多項新服務。
Amazon Q Apps現已正式可用。這是Amazon Q Business中的一項功能，借助這項新功能，用戶可以通過自然語言對話的方式，構建基于企業(yè)數據的生成式AI應用，并安全地將其發(fā)布到企業(yè)內部的應用程序庫Amazon Q Apps Library中，并添加多個應用類型標簽，從讓企業(yè)內的使用者方便地進行檢索，以查找其所需的Q Apps應用。
另外，此次更新中，亞馬遜云科技將 Amazon Q Developer擴展到Amazon SageMaker Studio中，以簡化并加速機器學習的工作流程。機器學習模型開發(fā)過程很復雜，數據科學家花費太多時間尋找合適的工具、文檔或方法，這項服務將為數據科學家節(jié)省數周甚至數月的工作時間。該功能提供基于自然語言的交互，并通過推薦每個任務的最佳工具、提供分步指導、生成入門代碼以及在遇到錯誤時提供故障排除幫助，以及為開發(fā)者量身定制針對機器學習開發(fā)生命周期的詳細執(zhí)行計劃。值得一提的是，這項更新將在所有提供Amazon SageMaker的區(qū)域中提供。
Amazon Q Developer現在還 擴展至在用戶自己的集成開發(fā)環(huán)境IDE中，并提供自定義功能，以在用戶的IDE代碼編輯器和聊天中提供基于開發(fā)者私有代碼庫生成的代碼建議，這使得開發(fā)者能夠更好地打造其專屬的代碼助手。
另外，在這次紐約峰會上，亞馬遜云科技宣布了全球第二批獲得生成式AI能力認證的合作伙伴，其中有11家來自中國的合作伙伴，包括伊克羅德、柯基數據、八斗智能、墨奇科技、神州數碼、聚云科技、神州泰岳、靈奧科技、Zilliz、跨海科技和華訊網絡。
今年3月，亞馬遜云科技在全球推出業(yè)內首個生成式AI能力認證，旨在驗證、認可在利用亞馬遜云科技生成式AI技術方面擁有專業(yè)知識、實踐經驗和成功案例的合作伙伴。
截止目前，全球已有60余家合作伙伴獲得了該認證。
亞馬遜云科技生成式AI與機器學習市場推廣全球副總裁Rahul Pathak表示，“我們非常興奮迎來新一批獲得亞馬遜云科技生成式AI能力認證的合作伙伴。自該能力認證推出以來，這些合作伙伴已經在全球范圍內幫助客戶構建和部署了許多生成式AI工作負載，取得了顯著成就和積極影響?！?br>
（免責聲明：本網站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網站出現的信息，均僅供參考。本網站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。
任何單位或個人認為本網站中的網頁或鏈接內容可能涉嫌侵犯其知識產權或存在不實內容時，應及時向本網站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網站在收到上述法律文件后，將會依法盡快聯系相關文章源頭核實，溝通刪除相關內容或斷開相關鏈接。 ）
