極客網(wǎng)·網(wǎng)絡(luò)通信9月25日 據(jù)報道，英國電信數(shù)字部門日前推出了名為“GenAI Gateway”（生成式AI網(wǎng)關(guān)）的管理平臺，該平臺可以采用Anthropic、Meta、Cohere和亞馬遜等公司提供的一系列大型語言模型（LLM）。
英國電信可以將這個平臺應用在任何用例中，完成了大量復雜且繁重的任務，為該平臺的順利運行奠定了堅實的基礎(chǔ)。值得注意的是，AWS在這一過程中發(fā)揮了至關(guān)重要的作用，表面其可能是主要技術(shù)提供者。
據(jù)悉，該平臺是使用Amazon Bedrock(這一套GenAI應用開發(fā)服務)和Amazon Sagemaker(一種托管機器學習服務)開發(fā)的，使企業(yè)能夠針對任何數(shù)量的用例訓練和定制機器學習模型。此外，AWS還為英國電信提供專業(yè)服務以確保順利運行。
GenAI Gateway的首個測試版用例已經(jīng)開始運行。英國電信網(wǎng)絡(luò)部門Openreach正在利用該平臺來整理以太網(wǎng)和全光纖工作相關(guān)的工程說明，從而幫助簡化流程，提升內(nèi)部高團隊及其通信服務提供商（CSP）客戶的生產(chǎn)力。
此外，英國電信的業(yè)務、法律和采購團隊也開始使用GenAI Gateway來改進合同分析。
英國電信在一份聲明中明確表示，GenAI Gateway是該公司一項“All in”的舉措，公司不會嘗試開發(fā)其他不同的AI解決方案。部署這個平臺將減少重復工作和浪費資源的風險。這也意味著API、安全配置和基礎(chǔ)設(shè)施管理都可以集中管理，從而降低錯誤風險或為不同的用例維護單獨的LLM。
英國電信還在回答相關(guān)問題時指出，雖然臨時使用多個LLM適合用于測試和開發(fā)，但不適合大規(guī)模使用。采用支持多種模型的靈活解決方案意味著英國電信的團隊可以為合適的用例使用正確的模型，而不會出現(xiàn)成本增加和效率低下的問題。
此外，采用多LLM的方法還可以提供安全保障，以防其中的一個模型出現(xiàn)編造虛假信息（稱為幻覺）或停止預期的行為。
GenAI Gateway還采用了幾項保障措施確保符合所有重要的“道德AI”標準。這些措施包括過濾掉個人身份信息，使用在英國本土處理和存儲的數(shù)據(jù)，以及將經(jīng)過訓練的模型相互隔離，以防止它們過于自由地共享數(shù)據(jù)。同時GenAI應用還受到了一定的限制，以降低有害交互的風險，并過濾與其特定用例無關(guān)的查詢。這些舉措可以強化其在實際應用中的可靠性和穩(wěn)定性。
英國電信數(shù)字部門數(shù)據(jù)和AI總監(jiān)Deepika Adusumilli表示，“AI正在幫助我們重新構(gòu)想公司的未來發(fā)展。我們認為，在數(shù)據(jù)不變的情況下，我們需要LLM更具靈活性。GenAI Gateway正是我們實現(xiàn)這一目標的強大工具，它讓我們能夠以安全、負責、靈活且可擴展的方式大規(guī)模地利這一前沿技術(shù)，充分釋放英國電信集團內(nèi)部員工的潛力，無論是現(xiàn)在還是未來?！?/p>
AWS EMEA地區(qū)電信業(yè)務總經(jīng)理Fabio Cerone補充說：“英國電信的GenAI Gateway展示了企業(yè)如何有效地大規(guī)模和快速部署GenAI。這是一次具有開創(chuàng)性的絕佳合作機會，我們可以攜手客戶，采用逆向工作法，通過嵌入式安全性和合規(guī)性，加速將GenAI用例部署到生產(chǎn)的進程。GenAI Gateway將推動GenAI的采用，為英國電信及其客戶帶來更為迅速且顯著的成效?！?/p>
毋庸諱言，像英國電信這樣的運營商大規(guī)模部署GenAI，是AI走向主流應用和建立可信度等的重要里程碑。當然對于那些獨立LLM提供商來說，每家分到的機會和蛋糕就減少了。
- 聯(lián)特科技預計2024年凈利潤同比增長220.96%—334.25%
- 有方科技預計2024年凈利潤同比增長365.41%
- 800G和400G高端光模塊銷售大增 中際旭創(chuàng)2024年凈利潤增長111.64%—166.85%
- 亞信安全：預計2024年實現(xiàn)扭虧為盈
- Arm發(fā)布芯粒系統(tǒng)架構(gòu)首個公開規(guī)范，加速芯片技術(shù)演進
- 中國鐵塔擬新購一套應急無人直升機空中基站
- 427780臺 中國鐵塔啟動智能維護攝像機產(chǎn)品集中招標
- 規(guī)模267904臺 中國鐵塔啟動2025年自研邊緣網(wǎng)關(guān)合作伙伴招標
- 國家數(shù)據(jù)局聲明：未授權(quán)任何“數(shù)據(jù)要素×”相關(guān)有償活動
- 中電興發(fā)2024年度預計虧損擴大 智慧城市業(yè)務成拖累
免責聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關(guān)資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。
