英特爾張宇：提供面向邊緣人工智能解決方案 助力企業(yè)數(shù)字化轉(zhuǎn)型

9月5日消息（趙婷婷）9月3日，在2023中國國際服務貿(mào)易交易會（簡稱“服貿(mào)會”）期間舉辦的“中國智能產(chǎn)業(yè)論壇”上，英特爾中國區(qū)網(wǎng)絡(luò)與邊緣事業(yè)部首席技術(shù)官、英特爾高級首席 AI 工程師張宇圍繞邊緣人工智能發(fā)展趨勢，及英特爾硬件軟件的產(chǎn)品如何賦能合作伙伴，快速構(gòu)建面向智能邊緣的應用服務，發(fā)表主題演講。

張宇指出，近期，人工智能新技術(shù)、新產(chǎn)品、新應用和新生態(tài)層出不窮，通用人工智能、大模型等等讓人工智能芯片的技術(shù)升級再次成為業(yè)內(nèi)熱點。人工智能技術(shù)在各個行業(yè)得到迅速普及和應用，例如交通、醫(yī)療、零售、工業(yè)等等。隨著行業(yè)以及連接、智能應用、數(shù)據(jù)隱私保護等方面訴求增加，推動了邊緣計算尤其是邊緣智能事業(yè)的發(fā)展。

邊緣AutoML階段：邊緣人工智能發(fā)展的一個最終的形態(tài)

張宇指出，人工智能尤其是邊緣人工智能的發(fā)展應該分為三個階段：邊緣推理階段、邊緣訓練階段和邊緣的自主機器學習階段。

當下人工智能在邊緣的應用大多數(shù)還是停留在邊緣的推理階段，行業(yè)還是需要利用數(shù)據(jù)中心極大的算力或者大量數(shù)據(jù)訓練一個模型，把訓練的結(jié)果推送到前端進行推理操作，這是目前絕大多數(shù)邊緣人工智能使用的模式。這種模式是現(xiàn)實，但是同時也有局限性，最大的局限性是對模型的更新頻率有限。

以自動駕駛為例，它所代表的是邊緣人工智能發(fā)展的下一個趨勢——邊緣訓練。邊緣訓練實現(xiàn)人工智能的訓練要面臨一系列的特定挑戰(zhàn)。如資源有限、缺乏專業(yè)知識、邊緣訓練碎片化、難以在運行時保護數(shù)據(jù)和模型并在多樣化硬件平臺上部署等。

在當下的人工智能里頭，不管在邊緣應用還是在數(shù)據(jù)中心的應用，人在人工智能里仍然扮演一個非常重要的角色。

張宇認為，今后人工智能發(fā)展應該進入邊緣AutoML階段，它是邊緣人工智能發(fā)展的一個最終的形態(tài)。這個階段網(wǎng)絡(luò)模型應該感知人的意圖，選取適宜的樣本集訓練這個模型，將訓練結(jié)果推送到訓練階段進行相應操作。甚至根據(jù)訓練的結(jié)果不斷更新、不斷重新訓練網(wǎng)絡(luò)模型，進行不斷迭代，達到最佳的理想結(jié)果。

同時，他也指出，現(xiàn)在的大模型和AIGC，也只是說在往AutoML方向上前進的一小步。在大模型里頭也有很大的局限性，目前像ChatGPT等等這樣的一些應用，它都工作在開放的狀態(tài)，而不是閉環(huán)的狀態(tài)。而真正到AutoML的狀態(tài)應該有一個人工智能的閉環(huán)。

“如果把攀登高峰比喻人工智能不同階段，實現(xiàn)邊緣推理只是意味著我們站到山腳，到我們能實現(xiàn)邊緣訓練只是站到半山腰，真正站到山頂是真正實現(xiàn)AutoML的時刻，這個還有很長的路要走。”張宇指出。

提供面向邊緣人工智能完整硬件和軟件解決方案 賦能合作伙伴

張宇指出，解決在邊緣人工智能快速發(fā)展過程中面臨的多種挑戰(zhàn)，還需要產(chǎn)業(yè)界的通力合作。英特爾作為一家數(shù)據(jù)公司，給業(yè)界所提供的是面向邊緣人工智能、網(wǎng)絡(luò)、數(shù)據(jù)中心的完整硬件和軟件解決方案。尤其在人工智能方面，英特爾提供了從計算、通訊到存儲等一系列的產(chǎn)品，供開發(fā)人員進行選擇。

計算方面，英特爾提供包括CPU、GPU及各種人工智能芯片等多種產(chǎn)品的組合，滿足用戶對人工智能算力不同的要求。針對人工智能大模型的訓練和推理，英特爾在今年推出第二代Gaudi處理器，它不僅能提供大量的算力，還能提供通訊、存儲能力。張宇指出，英特爾的Gaudi2是全球唯二能提供針對大模型訓練極佳性能的產(chǎn)品，而且在今年英特爾公司把Gaudi的產(chǎn)品已經(jīng)引入到國內(nèi)，已經(jīng)在國內(nèi)上市。

構(gòu)建端到端的人工智能系統(tǒng)，離不開跟通訊相關(guān)的產(chǎn)品。英特爾提供像可編程的以太網(wǎng)交換芯片等等數(shù)據(jù)中心的產(chǎn)品以及網(wǎng)絡(luò)產(chǎn)品，幫助構(gòu)建軟件定義的網(wǎng)絡(luò)。

硬件方面，英特爾通過增強通用處理器的同時，還提供專用的人工智能加速芯片，滿足用戶對邊緣人工智能算力的要求。2023年發(fā)布的第四代至強可擴展處理器，包含了一系列面向人工智能的技術(shù)創(chuàng)新，如高級矩陣擴展技術(shù)AMX技術(shù)、AMX技術(shù)、SGX技術(shù)。

其中，SGX技術(shù)能在運行時態(tài)為關(guān)鍵的數(shù)據(jù)和程序提供一個有別于其他應用的安全可執(zhí)行的區(qū)域，能提供一個更小的安全邊界、安全顆粒，使得人工智能應用可以部署在比如像金融、醫(yī)療等等這些對于安全有比較強訴求的應用行業(yè)里。

專用方面，英特爾提供獨立顯卡產(chǎn)品，包含了面向矩陣加速、矢量加速等等一些加速專業(yè)引擎，使得在面向科技計算和人工智能推理計算的時候能有更好的性能。

除了硬件以外英特爾還提供了很多軟的工具，例如Geti平臺，能提供自動化的標注手段以及采取主動學習的技術(shù)，幫助開發(fā)人員選取最有效的訓練樣本，從而縮小訓練周期，減少訓練時間，提高訓練效果。

軟件方面，英特爾還提供OpenVINO套件，能幫助開發(fā)人員快速進行部署。OpenVINO包含兩個關(guān)鍵組件，一個是模型開發(fā)器，一個是推理引擎。幫助開發(fā)人員把開發(fā)好的網(wǎng)絡(luò)模型部署在不同的平臺去進行訓練，極大地降低軟件開發(fā)成本。

張宇介紹，在新的OpenVINO版本即2023.0的版本里，增加了對AIGC新的技術(shù)的加持，OpenVINO可以把文生圖這樣一些比較常用的大模型通過網(wǎng)絡(luò)壓縮以后，部署在通用CPU以及一些獨立顯卡，或者英特爾所帶的顯卡之上，進行邊緣推理操作，在一些平臺上已經(jīng)得到非常好的驗證。

除了提供這樣一些硬件和軟件的底層技術(shù)支撐，英特爾在行業(yè)方面也做了大量的工作，比如在智能制造領(lǐng)域和合作伙伴利用機器視覺合作，例如激光焊接等等一些技術(shù)，利用低時延的技術(shù)，把實時性和智能化結(jié)合起來，提供給合作伙伴全面的解決方案。

生成海報

免責聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關(guān)資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。