亞馬遜云科技陳曉建：2025年很多客戶將從生成式AI原型驗證轉為生產(chǎn)應用

12月27日消息，亞馬遜云科技2024 re:Invent全球大會于12月初在美國舉辦，期間推出一系列技術發(fā)布，聚集生成式AI、數(shù)據(jù)戰(zhàn)略和云服務三大領域，覆蓋基礎設施、模型和應用的全棧聯(lián)動創(chuàng)新，可謂為企業(yè)應用生成式AI鋪平了道路。

近日，在亞馬遜云科技2024 re:Invent中國行活動上，亞馬遜云科技大中華區(qū)產(chǎn)品部總經(jīng)理陳曉建就表示：“在非常受關注的生成式AI應用領域，2024年許多客戶從思考階段進入實踐階段，進行了大量場景試驗。2025年肯定會發(fā)生一個變化，很多客戶將從原型驗證階段轉化為生產(chǎn)階段?！?/p>

幫助客戶將生成式AI技術從小范圍試驗探索到落地至真正投入生產(chǎn)應用，亞馬遜云科技到底是如何進行全棧聯(lián)動來達成這一能力的呢？我們從其最新的技術發(fā)布中可以窺見一斑。

整體來看，2024 re:Invent全球大會上，亞馬遜云科技在生成式AI領域，推出Amazon Nova系列基礎模型并強化Amazon SageMaker、Amazon Bedrock和Amazon Q等核心服務，通過更低的訓練和推理成本、更多的模型選擇、更深入場景的應用全面加速企業(yè)應用生成式AI創(chuàng)新；在數(shù)據(jù)戰(zhàn)略方面，發(fā)布新一代Amazon SageMaker為數(shù)據(jù)、分析和AI提供統(tǒng)一平臺；Amazon S3新增Tables存儲類型和元數(shù)據(jù)功能，以及無服務器分布式SQL數(shù)據(jù)庫Amazon Aurora DSQL將進一步提升用戶的數(shù)據(jù)管理能力；在云服務方面，推出搭載Trainium2芯片的新型計算實例和為萬億參數(shù)模型提供實時推理性能的超級服務器。

陳曉建強調：“這些新發(fā)布展現(xiàn)出亞馬遜云科技不僅在云的核心服務層面持續(xù)創(chuàng)新，更在從芯片到模型，再到應用的每一個技術堆棧取得突破，讓不同層級的創(chuàng)新相互賦能、協(xié)同進化。只有這樣全棧聯(lián)動的大規(guī)模創(chuàng)新才能真正滿足當今客戶的發(fā)展需求，助力各行各業(yè)重塑未來?！?/p>

生成式AI從原型驗證到生產(chǎn)應用，有效改善大模型幻覺是基礎

將生成式AI應用于企業(yè)實際的業(yè)務時，很多企業(yè)的第一個顧慮就是“幻覺”問題——大模型一本正經(jīng)的胡說八道。想象一下，如果企業(yè)想將生成式AI用來做一個非常重要的業(yè)務應用場景，比如法律咨詢、金融交易或者健康咨詢等，這里如果出現(xiàn)幻覺的話，結果是無法接受的。

“亞馬遜云科技團隊一直在思考如何解決幻覺的問題，也探索了多種不同的技術方案。最后我們發(fā)現(xiàn)自動推理技術（Automatic Reasoning）能夠很有效的解決幻覺問題?！标悤越ǚQ。

陳曉建介紹，自動推理技術（Automatic Reasoning）是一項特殊的 AI 技術，它能夠從數(shù)學層面證明這個推理的結果是不是正確的。它通常用于驗證這個系統(tǒng)是不是按照設計的規(guī)范來正常的運行。自動推理在很多領域下都已經(jīng)有了實踐的應用，比如金融交易、健康咨詢、法律咨詢等領域。亞馬遜云科技擁有自動推理方面的多位世界級專家。例如，可以通過自動推理來證明在Amazon IAM（Identity and Access Management）之中設計的權限和策略是不是按照企業(yè)所預想的方式來進行，這種方式的證明叫做“可證明的安全性”。這些技術同樣能夠幫助提升模型的準確性、降低模型的幻覺。

本次2024 re:Invent上，亞馬遜云科技推出了Amazon Bedrock 自動化推理檢查的功能，它能夠有效的預防由于模型幻覺帶來的事實性錯誤。

生成式AI三層架構同頻更新：更強訓練推理、更多模型、更優(yōu)應用

在解決大模型幻覺問題后，陳曉建表示，2025年，很多客戶將從生成式AI原型驗證階段轉化為生產(chǎn)階段，屆時客戶需求將更加復雜，不僅是選擇模型，還需要各種技術支持。因此，在生成式AI領域，亞馬遜云科技全面強化基礎設施、模型和應用三層技術棧能力。

更強訓練推理方面，此次2024 re:Invent上，亞馬遜云科技推出新?代Amazon SageMaker，為客戶提供一個單一的數(shù)據(jù)和AI開發(fā)環(huán)境，用戶可以在其中查找和訪問其組織中的所有數(shù)據(jù)，為各種常見的數(shù)據(jù)用例選擇最佳工具，并將數(shù)據(jù)和AI項目擴展至團隊內不同分工角色以實現(xiàn)協(xié)作。此外，Amazon SageMaker AI的四項創(chuàng)新包括Amazon SageMaker HyperPod的新訓練配方功能、靈活訓練計劃和任務治理功能，以及在Amazon SageMaker中使用亞馬遜云科技合作伙伴的熱門AI應用。這些功能將幫助客戶更快開始訓練流行模型，通過靈活訓練計劃節(jié)省數(shù)周時間，并將成本降低高達40%。

陳曉建表示，新的Amazon SageMaker涵蓋了分析、數(shù)據(jù)處理、搜索、數(shù)據(jù)準備、AI模型開發(fā)和訓練、?成式AI等所有必需功能。

更多模型方面，亞馬遜云科技一方面新推出了自研的Amazon Nova六款基礎模型，包括Nova Micro、Nova Lite、Nova Pro和Nova Premier基礎模型，以及用于生成高質量圖像的Nova Canvas和生成高質量視頻的Nova Reel，這些模型成本更低速度更快。另一方面，Amazon Bedrock通過推出的Amazon Bedrock Marketplace新功能新接入Luma AI和poolside等100多款熱門、新興及專業(yè)模型。這些給企業(yè)客戶提供了豐富的模型選擇。

同時，Amazon Bedrock推出了低延遲優(yōu)化推理、模型蒸餾、提示詞緩存等功能，大幅提升推理效率；支持GraphRAG等知識庫功能增強數(shù)據(jù)利用能力；通過自動推理檢查功能和多智能體協(xié)作等創(chuàng)新，進一步增強AI安全性并推動智能體發(fā)展。

陳曉建總結道：“更新能力后的Amazon Bedrock 提供的功能不只是提供多種多樣的功能和模型，還能幫客戶在不同的場景下選擇最適合的場景功能，它同時提供了大模型真正用于生產(chǎn)的時候所需要的各種各樣的工具?！?/p>

更優(yōu)應用方面，Amazon Q更加深入軟件開發(fā)和商業(yè)應用場景。Amazon Q Developer增加三款新的智能體，能自動執(zhí)行單元測試、文檔編制和代碼審查流程，并通過與GitLab深度集成，擴展應用場景；推出轉型功能以加速Windows.NET、VMware和大型機工作負載的遷移和現(xiàn)代化，縮短轉型時間并降低成本。強化了Amazon Q Business和Amazon Q in QuickSight洞察能力，并簡化了復雜工作流程的自動化實現(xiàn)方式。

至此，對生成式AI應用于生產(chǎn)時所需的各類模型、技術、工具等都已具備。

夯實底層，升級計算、網(wǎng)絡、存儲和數(shù)據(jù)庫等云服務

事實上，生成式AI應用是天然的“云原生”應用。如何讓企業(yè)客戶在使用生成式AI應用時更快、更省、更穩(wěn)，還有很多云基礎服務方面的工作可以優(yōu)化和提升。

2024 re:Invent上，亞馬遜云科技在計算、網(wǎng)絡、存儲和數(shù)據(jù)庫等云計算服務核心領域也進行了創(chuàng)新，為包括生成式AI應用在內的各類工作負載提供更強大的底層支持。

在自研芯片領域，基于Amazon Trainium2的EC2 Trn2實例正式可用，較當前GPU實例性價比提升30-40%；推出配備64個Trainium2芯片的EC2 Trn2 UltraServers服務器，提供高達83.2 Petaflops浮點算力，計算能力是單一實例的四倍。采用3納米工藝的下一代Trainium3芯片預計將在2025年末上線，預計將使集群性能提升4倍，并在性能、能效和密度上樹立新標桿。

在網(wǎng)絡基礎設施領域，推出第二代UltraCluster網(wǎng)絡架構，支持超過20,000個GPU協(xié)同工作，帶寬達10Pb/s，延遲低于10ms，這一突破性升級將模型訓練時間縮短至少15%。

在存儲服務領域，Amazon S3新增Metadata元數(shù)據(jù)功能實現(xiàn)自動獲取和實時更新；推出專為Iceberg表優(yōu)化的S3 Tables存儲類型，將查詢性能提升3倍，事務處理能力提升10倍。

在數(shù)據(jù)庫服務領域，推出Amazon Aurora DSQL全新的無服務器分布式SQL數(shù)據(jù)庫，采用active-active架構并具備自動故障恢復功能，支持應用程序在任意端點進行讀寫，能實現(xiàn)近乎無限的可擴展性。Amazon DynamoDB global tables增加了多區(qū)域強一致性支持，進一步增強了其分布式數(shù)據(jù)庫服務能力。

陳曉建表示，亞馬遜云科技是全球云計算的開創(chuàng)者和引領者，更是企業(yè)構建和應用生成式AI的首選，今年re:Invent全球大會的這一系列重磅發(fā)布再次印證了這一點。

沙利文大中華區(qū)總監(jiān)李慶表示：”本屆re:Invent大會上的新發(fā)布更加側重于產(chǎn)品的實際應用和工具優(yōu)化。本次更新有兩個方面讓人印象深刻：一是隨著全球企業(yè)對生成式AI的深入應用，數(shù)據(jù)不僅實現(xiàn)跨區(qū)域的傳輸與協(xié)同，更實現(xiàn)跨地域、跨區(qū)域的深度連接；二是亞馬遜云科技進一步優(yōu)化生成式AI的應用，從數(shù)據(jù)存儲、治理到管理的全流程提升，旨在簡化AI對數(shù)據(jù)的使用，同時強化模型功能、增加AI agent管理和應對模型幻覺的功能。此外，新發(fā)布的Amazon Nova大模型家族備受期待，這一系列的模型和亞馬遜云科技的開放選擇理念將為用戶帶來更多創(chuàng)新機會，進一步推動AI的發(fā)展?！保ü啵?/p>

生成海報

免責聲明：本網(wǎng)站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內容可能涉嫌侵犯其知識產(chǎn)權或存在不實內容時，應及時向本網(wǎng)站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關文章源頭核實，溝通刪除相關內容或斷開相關鏈接。