不斷發(fā)展的邊緣人工智能世界需要一種新型計(jì)算

不斷發(fā)展的邊緣人工智能世界需要一種新型計(jì)算

圍繞人工智能的炒作是無(wú)可避免的。雖然人們的注意力一直集中在生成式人工智能(GenAI)的大型語(yǔ)言模型(LLM)和數(shù)據(jù)中心上，但在物聯(lián)網(wǎng)(IoT)的邊緣，整個(gè)世界都在迅速發(fā)展。在這里，多模態(tài)感知和人工智能分析應(yīng)用于資源受限的環(huán)境，以提供情境感知計(jì)算，使設(shè)備更直觀、更智能、更實(shí)用、更易于使用。這些支持人工智能的邊緣設(shè)備，如顯示器、音箱、安全系統(tǒng)、筆記本電腦、平板電腦和工業(yè)控制系統(tǒng)，幾乎獨(dú)立于數(shù)據(jù)中心運(yùn)行，利用本地化、低延遲處理來(lái)創(chuàng)造這些增強(qiáng)的用戶體驗(yàn)，同時(shí)保護(hù)隱私，并節(jié)省能源和網(wǎng)絡(luò)帶寬。

最近一系列以人工智能為重點(diǎn)的個(gè)人電腦和智能手機(jī)的發(fā)布，預(yù)示著人工智能的下一次重大轉(zhuǎn)變——GenAI和邊緣推理在高度優(yōu)化的物聯(lián)網(wǎng)設(shè)備上的交集，適用于消費(fèi)者、企業(yè)和工業(yè)應(yīng)用。

而這種結(jié)合邊緣人工智能的機(jī)會(huì)，將改變我們與技術(shù)的互動(dòng)方式。

物聯(lián)網(wǎng)邊緣的人工智能

在邊緣設(shè)備中實(shí)現(xiàn)人工智能，需要我們通過(guò)觸摸、音頻、語(yǔ)音、視覺(jué)、視頻或其他“現(xiàn)實(shí)世界”數(shù)據(jù)來(lái)感知和收集輸入，處理這些數(shù)據(jù)并連接到另一個(gè)設(shè)備或網(wǎng)絡(luò)。這些操作必須在規(guī)模、功耗、成本和計(jì)算效率方面做到最好。這是在加入GenAI之前。問(wèn)題在于，人工智能軟件在邊緣運(yùn)行的能力遠(yuǎn)遠(yuǎn)領(lǐng)先;硬件基礎(chǔ)——驅(qū)動(dòng)所需的處理和連接的芯片，正在迎頭趕上。

以生成語(yǔ)音轉(zhuǎn)文本應(yīng)用為例。這種應(yīng)用越來(lái)越普遍，可通過(guò)基于云的連接在具有先進(jìn)處理硬件的設(shè)備中使用，如PC和智能手機(jī)。挑戰(zhàn)在于將這種能力遷移到更小的、電池供電的邊緣設(shè)備上，這些設(shè)備缺乏必要的GenAI計(jì)算資源。

目前的解決方案主要建議改造其他系統(tǒng)中使用的現(xiàn)有硬件方法，例如CPU、MPU和GPU，并將其安裝到邊緣IoT設(shè)備上。這些芯片和電路板不太適合低功耗設(shè)備的需求。成本模型具有挑戰(zhàn)性，芯片制造商經(jīng)常嘗試?yán)谩疤蕴辈呗詠?lái)重新利用和限制原本用于其他類型產(chǎn)品的芯片的性能。

我們需要一種新的硅片設(shè)計(jì)方法，這種方法明確針對(duì)邊緣AI計(jì)算進(jìn)行了優(yōu)化。我們稱之為AI原生方法。

AI原生：全新硬件類別及更多

從硬件角度來(lái)看，這種AI-Native方法將可擴(kuò)展的異構(gòu)處理元素（CPU、GPU、NPU和DSP）組合在一系列IC中，為各種應(yīng)用提供合適的計(jì)算能力。

使應(yīng)用程序開發(fā)人員面臨的挑戰(zhàn)更加復(fù)雜的是，邊緣計(jì)算和物聯(lián)網(wǎng)總體而言是一個(gè)比數(shù)據(jù)中心更加分散的領(lǐng)域，數(shù)據(jù)中心的標(biāo)準(zhǔn)已經(jīng)非常完善，主要由芯片供應(yīng)商和超大規(guī)模企業(yè)制定。在物聯(lián)網(wǎng)中，處理和連接數(shù)據(jù)的多種專用方法破壞了一致性和可預(yù)測(cè)性的目標(biāo)。

鑒于此，在物聯(lián)網(wǎng)設(shè)備中實(shí)現(xiàn)人工智能功能雖然誘人，但也增加了復(fù)雜性，并可能讓開發(fā)人員、客戶和用戶感到沮喪。無(wú)論如何，圍繞邊緣人工智能的炒作和FOMO導(dǎo)致了各種特殊和專有解決方案的出現(xiàn)。這些解決方案基于傳統(tǒng)硬件和軟件以及相關(guān)的開發(fā)環(huán)境，無(wú)法有效利用人工智能的潛力。

除此之外，目前在實(shí)施人工智能方面存在著一種停滯狀態(tài)，尤其是首次實(shí)施時(shí)。在某些情況下，企業(yè)有數(shù)據(jù)，但沒(méi)有人工智能模型，或者不知道從哪里開始開發(fā)它們。那些擁有模型的企業(yè)往往面臨著一個(gè)令人困惑且不兼容的生態(tài)系統(tǒng)，其中包括開發(fā)輔助工具、硬件平臺(tái)和編程工具來(lái)部署它們。很多企業(yè)都在觀望，意識(shí)到了機(jī)會(huì)，但不確定如何利用。

因此，除了優(yōu)化的硬件之外，開發(fā)人員還需要一種適用于物聯(lián)網(wǎng)的“邊緣AI”類型的開發(fā)環(huán)境。這將包括訪問(wèn)開源工具和模型，而不僅僅是與一種實(shí)施方法綁定的供應(yīng)商特定產(chǎn)品，，以構(gòu)建針對(duì)工作負(fù)載優(yōu)化的解決方案。

基礎(chǔ)牢固

好在，在將人工智能應(yīng)用于視覺(jué)、音頻、語(yǔ)音和其他消費(fèi)物聯(lián)網(wǎng)模式方面，已經(jīng)做了很多工作。然而，專注于為AI工作負(fù)載提供合適規(guī)模的處理和工具/框架，將能夠在幾乎無(wú)限范圍的物聯(lián)網(wǎng)應(yīng)用中實(shí)現(xiàn)具有成本效益的情境感知。

這種新型AI原生處理器，由支持生態(tài)系統(tǒng)、開發(fā)工具和真正的AI優(yōu)先方法支持，將成為解決邊緣情境感知計(jì)算和GenAI的基礎(chǔ)。它將加速開發(fā)和采用更有用、更有意義的IoT設(shè)備，以滿足不受數(shù)據(jù)中心束縛的用戶不斷變化的AI需求。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。