TinyML是深度學(xué)習(xí)和人工智能領(lǐng)域的最新技術(shù)。它帶來了在隨處可見的微控制器（幾乎是最小的電子芯片）中運(yùn)行機(jī)器學(xué)習(xí)模型的能力。
微控制器是我們每天使用的許多設(shè)備的大腦。從電視遙控器到電梯再到智能揚(yáng)聲器，它們無處不在?？梢园l(fā)射遙測(cè)數(shù)據(jù)的多個(gè)傳感器連接到微控制器。執(zhí)行器，例如開關(guān)和電動(dòng)機(jī)，也連接到同一微控制器。它帶有嵌入式代碼，可以從傳感器獲取數(shù)據(jù)并控制執(zhí)行器。
TinyML的興起標(biāo)志著終端用戶消費(fèi)人工智能方式的重大轉(zhuǎn)變。來自硬件和軟件行業(yè)的供應(yīng)商正在合作將人工智能模型引入微控制器。
在電子設(shè)備中運(yùn)行復(fù)雜的深度學(xué)習(xí)模型的能力開辟了許多途徑。TinyML不需要邊緣、云或互聯(lián)網(wǎng)連接。它在同一個(gè)微控制器上本地運(yùn)行，該微控制器具有管理連接的傳感器和執(zhí)行器的邏輯。
TinyML的演變
第1階段-云中的AI
在AI的早期，機(jī)器學(xué)習(xí)模型是在云中訓(xùn)練和托管的。運(yùn)行AI所需的強(qiáng)大計(jì)算能力使云成為理想的選擇。開發(fā)人員和數(shù)據(jù)科學(xué)家利用高端CPU和GPU訓(xùn)練模型，然后托管它們以進(jìn)行推理。每個(gè)消耗AI的應(yīng)用程序都與云對(duì)話。該應(yīng)用程序?qū)⑴c微控制器通信以管理傳感器和執(zhí)行器。
第二階段-邊緣人工智能
雖然云仍然是人工智能的邏輯家園，但它確實(shí)在消耗深度學(xué)習(xí)模型的同時(shí)引入了延遲。想象一下，每次與智能揚(yáng)聲器通話時(shí)，請(qǐng)求都會(huì)被云處理。往返行程中的延誤扼殺了體驗(yàn)。其他場(chǎng)景，如工業(yè)自動(dòng)化、智能醫(yī)療、聯(lián)網(wǎng)車輛等，都要求人工智能模型在本地運(yùn)行。
邊緣計(jì)算（云和本地物聯(lián)網(wǎng)設(shè)備之間的管道）已成為在本地托管AI模型的理想選擇。在邊緣運(yùn)行的AI不會(huì)遭受在云中運(yùn)行相同AI所帶來的延遲。
但是，鑒于邊緣資源有限，培訓(xùn)和再培訓(xùn)模型仍然需要云。可以在邊緣托管經(jīng)過訓(xùn)練的模型，以進(jìn)行推理（使用機(jī)器學(xué)習(xí)模型的過程），而不用于訓(xùn)練。因此，在云中訓(xùn)練模型并將其部署在邊緣變得很普遍。這種方法提供了兩全其美的優(yōu)勢(shì)-用于訓(xùn)練的強(qiáng)大計(jì)算環(huán)境（云）和用于推理的低延遲托管環(huán)境（邊緣）。
在邊緣使用AI時(shí)，微控制器從連接的傳感器獲取遙測(cè)，然后將遙測(cè)發(fā)送到本地部署的模型以通過應(yīng)用程序進(jìn)行推理。然后，模型返回輸入數(shù)據(jù)的預(yù)測(cè)或分類，用于確定后續(xù)步驟。
階段3-微控制器中的AI
雖然在許多情況下在邊緣運(yùn)行AI是一個(gè)完美的解決方案，但是在某些情況下，部署邊緣計(jì)算層是不切實(shí)際的。例如，將諸如智能揚(yáng)聲器和遙控器之類的消費(fèi)類設(shè)備連接到邊緣是過大的選擇。這增加了設(shè)備的總擁有成本和供應(yīng)商的支持成本。但是這些消費(fèi)類設(shè)備是注入AI功能的溫床。
在工業(yè)場(chǎng)景中，預(yù)測(cè)性維護(hù)已成為設(shè)備的重要組成部分。昂貴的機(jī)械設(shè)備需要嵌入能夠?qū)崟r(shí)檢測(cè)異常的機(jī)器學(xué)習(xí)模型，以提供預(yù)測(cè)性維護(hù)。通過主動(dòng)檢測(cè)故障，客戶可以節(jié)省數(shù)百萬美元的維護(hù)成本。
直接在微控制器中嵌入AI成為消費(fèi)和工業(yè)物聯(lián)網(wǎng)場(chǎng)景的關(guān)鍵。這種方法不依賴于外部應(yīng)用程序，邊緣計(jì)算層或云。AI模型與嵌入到微控制器的嵌入式代碼一起運(yùn)行。它成為提供無與倫比的速度的整體邏輯的組成部分。
傳統(tǒng)上，機(jī)器學(xué)習(xí)模型始終部署在資源豐富的環(huán)境中。由于TinyML模型可以嵌入微控制器中，因此它們不會(huì)占用大量資源。這種方法是將AI注入物聯(lián)網(wǎng)設(shè)備的最有效，最具成本效益的方法。
TinyML不斷發(fā)展的生態(tài)系統(tǒng)
盡管TinyML尚處于起步階段，但正在形成一個(gè)充滿活力的生態(tài)系統(tǒng)。電子芯片和物聯(lián)網(wǎng)套件制造商（例如Adafruit，聯(lián)發(fā)科技，Arduino和STM）正在其設(shè)備中支持TinyML。微軟的Azure Sphere（安全微控制器）也可以運(yùn)行TinyML模型。TensorFlow Lite是流行的開源深度學(xué)習(xí)框架的變體，可以移植到支持的設(shè)備上。另一個(gè)開源機(jī)器學(xué)習(xí)編譯器和運(yùn)行時(shí)Apache TVM也可以用于將模型轉(zhuǎn)換為TinyML。
Always AI、Cartesiam、EdgeImpulse、OctoML和Queexo等新興的AutoML和TinyML平臺(tái)正在構(gòu)建工具和開發(fā)環(huán)境，以簡(jiǎn)化針對(duì)微控制器的訓(xùn)練和優(yōu)化模型的過程。
TinyML使AI無處不在，并可供消費(fèi)者使用。它將為我們每天使用的數(shù)百萬種設(shè)備帶來智能。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
