作為一家專注于人工智能產(chǎn)業(yè)的媒體,在麒麟970和蘋(píng)果A11剛發(fā)布時(shí)我們也著實(shí)興奮了一陣兒,可如今已經(jīng)過(guò)去了一個(gè)多月,除了廠商展示參數(shù)、媒體狂歡之外,我們似乎還沒(méi)聽(tīng)到其他人聲音。
移動(dòng)AI會(huì)給手機(jī)帶來(lái)革命性的新體驗(yàn)嗎?類似麒麟970和蘋(píng)果A11這樣的芯片,會(huì)成為移動(dòng)AI最重要的驅(qū)動(dòng)者嗎?為了避免落入空談,我們分別采訪了BAT人工智能業(yè)務(wù)部、移動(dòng)端開(kāi)發(fā)、直播產(chǎn)品、深度學(xué)習(xí)圖像處理四個(gè)業(yè)務(wù)領(lǐng)域的開(kāi)發(fā)者。想知道在他們眼中,移動(dòng)AI芯片到底是什么模樣。
BAT開(kāi)發(fā)者:模型優(yōu)勢(shì)比端的部署更重要
此前我們已經(jīng)討論過(guò),在各種App中可以看到大量云端AI的痕跡,自拍美顏、語(yǔ)音助手,AI已經(jīng)存在于移動(dòng)設(shè)備里??蓪?shí)際情況往往是機(jī)器學(xué)習(xí)開(kāi)發(fā)者在一端研究算法、處理數(shù)據(jù)、訓(xùn)練模型,而移動(dòng)開(kāi)發(fā)者在另一端負(fù)責(zé)其他的數(shù)據(jù)結(jié)構(gòu)和編程等等。兩者之間通過(guò)一個(gè)云端服務(wù)器連接,除此之外少有交集。
提到移動(dòng)AI時(shí),大部分開(kāi)發(fā)者考慮的是將模型移植到應(yīng)用程序中,是否會(huì)加大安裝包的大小,是否在每次更新模型時(shí)都需要上傳更新包通過(guò)應(yīng)用商店審核。
當(dāng)下很多大企業(yè)對(duì)AI的追求幾乎是不計(jì)成本的,加上唾手可得的大量數(shù)據(jù),幾乎要把開(kāi)發(fā)者們“寵壞”。利用海量數(shù)據(jù)訓(xùn)練出復(fù)雜的模型,時(shí)時(shí)刻刻都在更新模型試圖讓其更加完善。
對(duì)于這些大企業(yè)來(lái)說(shuō),在得到一個(gè)讓自己和行業(yè)都滿意的模型之前,考慮在哪個(gè)端部署似乎有點(diǎn)早。一位來(lái)自阿里某智能產(chǎn)品的產(chǎn)品運(yùn)營(yíng)告訴我們,相比端與端環(huán)境間的比較,他們目前更關(guān)心的是把算法模型打磨得更好。
這無(wú)形中也體現(xiàn)了AI發(fā)展的現(xiàn)狀:從算法為主導(dǎo)到以產(chǎn)品為主導(dǎo)的過(guò)渡期,在用戶們用腳投票之前,開(kāi)發(fā)者很難自發(fā)地從一個(gè)開(kāi)發(fā)環(huán)境遷移到另一個(gè)開(kāi)發(fā)環(huán)境中。尤其是一些掌握著優(yōu)勢(shì)資源的大企業(yè),或許對(duì)于他們來(lái)說(shuō),不安全感來(lái)自于算法間的差異,而不是用戶體驗(yàn)上的細(xì)微之處。
歷經(jīng)轉(zhuǎn)型的開(kāi)發(fā)者:定制AI的無(wú)盡可能
不過(guò)一位曾經(jīng)經(jīng)歷過(guò)PC端到移動(dòng)端轉(zhuǎn)型的開(kāi)發(fā)者提示了我們,移動(dòng)AI或許不僅僅是“離線AI”這么簡(jiǎn)單。
在從PC端到移動(dòng)端遷移的過(guò)程中,開(kāi)發(fā)者們發(fā)現(xiàn)不同的設(shè)備中,用戶的行為是有很大差異的。同樣,即使都是移動(dòng)設(shè)備,手機(jī)、平板、智能手表甚至智能音箱等等產(chǎn)品上,用戶的行為依然會(huì)產(chǎn)生很大差異。比如在平板中用戶更傾向于打開(kāi)視頻,而手機(jī)中用戶更傾向于打開(kāi)文字信息等等??稍谠贫藶橹鞯闹悄芡扑]算法中,這兩種設(shè)備的數(shù)據(jù)常常被混合在一起處理。
當(dāng)移動(dòng)設(shè)備有了在本地處理的能力,開(kāi)發(fā)者就可以讓推薦算法更好的匹配不同設(shè)備。以目前蘋(píng)果A11和麒麟970公布的參數(shù)看來(lái),將智能推薦這類本身就依托于網(wǎng)絡(luò)的算法完全移植到移動(dòng)端本地,其實(shí)意義不大,但把云端推理結(jié)果放到移動(dòng)端本地再次處理,會(huì)得到很不一樣的用戶體驗(yàn)。
這也意味著算法有可能和設(shè)備,并且進(jìn)一步和個(gè)人用戶更好地結(jié)合起來(lái)。通過(guò)移動(dòng)設(shè)備豐富的感知能力,地理位置、天氣、光線、使用時(shí)長(zhǎng)、用戶行程安排,甚至體溫心率等等原本無(wú)法輕易獲取的數(shù)據(jù),都可以通過(guò)本地計(jì)算結(jié)合到已有的算法模型之中。在擁有移動(dòng)AI的未來(lái),外賣App會(huì)在下雨天把你最愛(ài)的火鍋排到推薦流前列,而在公司時(shí)則把送餐速度最快的餐品排到前列。
總之,從開(kāi)發(fā)者的角度來(lái)看,移動(dòng)AI最大的價(jià)值是在于把原本的“通用AI”變成“定制AI”。
遷移實(shí)操開(kāi)發(fā)者:移動(dòng)AI需要更統(tǒng)一的編程環(huán)境
“定制AI”的概念雖然迷人,但真到了開(kāi)發(fā)的實(shí)操階段,卻不像想象中那么容易。
一位就職于直播平臺(tái)的資深PE工程師告訴我們,目前移動(dòng)端GPU/AI芯片還是一個(gè)較新的概念,API接口較混亂,缺乏編程和計(jì)算方式的統(tǒng)一。
就以現(xiàn)在來(lái)看,蘋(píng)果A11只把GPU能力開(kāi)放給了CoreML一個(gè)框架,而目前大多數(shù)開(kāi)發(fā)者采用的都是Tensorflow、Caffe等主流框架。這無(wú)疑給未來(lái)的遷移造成了影響:開(kāi)發(fā)者究竟要在原有框架上進(jìn)行“閹割”,還是在CoreML上重新編程?
如果廠商提供較高的抽象層,移動(dòng)AI開(kāi)發(fā)者只能一個(gè)個(gè)去配適硬件抽象層。要是廠商傾向于提供底層抽象,就可以由更高層次的抽象屏蔽差異,從而提高開(kāi)發(fā)效率。
尤其是對(duì)于Android這類本身生態(tài)就比較混亂的系統(tǒng),開(kāi)發(fā)者很可能受到更多阻礙。
以目前通用的CPU為先例,不同廠商的功耗和發(fā)熱控制邏輯不同。同樣的神經(jīng)網(wǎng)絡(luò),在某一廠商的CPU上可能跑得很順暢,而在另一家廠商的CPU上可能就會(huì)觸發(fā)過(guò)熱保護(hù)降頻,最終導(dǎo)致神經(jīng)網(wǎng)絡(luò)的計(jì)算性能有劇烈的波動(dòng)。
所以大部分開(kāi)發(fā)者只敢在產(chǎn)品中嵌入一些計(jì)算量比較小的網(wǎng)絡(luò),或者是調(diào)用頻率比較低的功能,無(wú)法選擇在持續(xù)功能里用復(fù)發(fā)神經(jīng)網(wǎng)絡(luò)。
深度學(xué)習(xí)開(kāi)發(fā)者:芯片僅僅是移動(dòng)AI的開(kāi)始
對(duì)于用戶而言,移動(dòng)AI芯片的出現(xiàn)意味著可以在終端上獲得更好的產(chǎn)品體驗(yàn),可對(duì)于開(kāi)發(fā)者來(lái)說(shuō),移動(dòng)AI卻不能靠芯片一蹴而就。
我們采訪了有著中國(guó)版Prisma之稱的深黑科技,其CEO Jason告訴我們,目前大多數(shù)移動(dòng)AI芯片在機(jī)器學(xué)習(xí)做了較為普適性的優(yōu)化,而對(duì)一些特定的計(jì)算方式則沒(méi)有進(jìn)行太多優(yōu)化。比如深度學(xué)習(xí)中需要的卷積計(jì)算,當(dāng)前更適合部署在云端。
并且在計(jì)劃從云端到終端的遷移時(shí),開(kāi)發(fā)者還會(huì)受制于原本的框架。像Tensorflow就很容易支持iOS和Android上的部署,讓遷移變得更加容易。可像Caffe、Torch這樣基于小團(tuán)隊(duì)的框架,在產(chǎn)品化上相對(duì)乏力,目前還無(wú)法幫助開(kāi)發(fā)者將代碼遷移到兩個(gè)移動(dòng)端。這也給了Tensorflow更多的優(yōu)勢(shì),尤其是在消費(fèi)級(jí)應(yīng)用之上。
移動(dòng)AI芯片不能解決所有問(wèn)題,但很多團(tuán)隊(duì)正在試圖從軟件方面加速移動(dòng)AI的部署。在今年剛剛拿到融資的美國(guó)西雅圖的AI創(chuàng)業(yè)公司xnor.ai,他們利用二值化神經(jīng)網(wǎng)絡(luò)減小神經(jīng)網(wǎng)絡(luò)模型的儲(chǔ)存大小,從而加快運(yùn)算速度、降低計(jì)算成本。最終實(shí)現(xiàn)不依賴網(wǎng)絡(luò),在嵌入式設(shè)備中部署深度學(xué)習(xí)模型。
硬件的出現(xiàn),只是移動(dòng)AI生態(tài)的一塊基石。進(jìn)入業(yè)務(wù)層面,還要考慮API配適、軟件優(yōu)化,甚至未來(lái)可能出現(xiàn)的5G網(wǎng)絡(luò)等等。
所以,移動(dòng)AI芯片沒(méi)什么用處?
和開(kāi)發(fā)者們交流過(guò)后,我們開(kāi)始思考:對(duì)于他們而言,移動(dòng)AI芯片的出現(xiàn)到底意味著什么?雖然硬件的出現(xiàn)不代表立刻建立起生態(tài)圈,但手機(jī)廠商對(duì)移動(dòng)AI的押注無(wú)疑給了大多數(shù)開(kāi)發(fā)者信心,讓更多人加入這一領(lǐng)域。
更重要的是,移動(dòng)AI芯片給了開(kāi)發(fā)者推出輕量級(jí)產(chǎn)品的可能不必?fù)?dān)心云計(jì)算資源的使用資費(fèi)、也不必?fù)?dān)心用戶量增長(zhǎng)帶來(lái)的服務(wù)器宕機(jī)。可以說(shuō)移動(dòng)AI芯片的出現(xiàn)降低了消費(fèi)級(jí)AI應(yīng)用的準(zhǔn)入門檻。
回到兩款移動(dòng)AI芯片上。蘋(píng)果A11性能上的弱勢(shì)不明顯,可僅僅把GPU能力開(kāi)放給CoreML和Metal 2(一款應(yīng)用于游戲的圖形處理軟件)的做法明顯降低了很多開(kāi)發(fā)者的熱情。這樣的做法進(jìn)一步鞏固了iOS生態(tài)的完整和穩(wěn)定,但更適用于高門檻定制化開(kāi)發(fā)。
蘋(píng)果這樣的選擇雖然挑不出錯(cuò),但也很難心悅誠(chéng)服地說(shuō)是正確的。畢竟“完整穩(wěn)定”和“畫(huà)地自限”的區(qū)別只在一線之間。相對(duì)而言,如果麒麟970可以率先向更多框架和軟件開(kāi)放NPU算力,想必也會(huì)吸引更多的開(kāi)發(fā)者。
當(dāng)然,每個(gè)開(kāi)發(fā)者寫(xiě)下自己第一行代碼時(shí),想到的絕不是去紐交所敲鐘,而是憑著天生的好奇,第一次嘗試和一個(gè)未知的世界對(duì)話。如果移動(dòng)AI芯片可以讓開(kāi)發(fā)者們暫時(shí)放下無(wú)休止的需求,用第一次寫(xiě)代碼時(shí)的熱情去探索移動(dòng)AI,不管對(duì)于芯片廠商還是人工智能產(chǎn)業(yè)而言,都是彌足珍貴的收獲。
或許這正是移動(dòng)AI芯片的最大意義:硬件不能解決一切問(wèn)題,但可以讓更多的開(kāi)發(fā)者參與其中。
(免責(zé)聲明:本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。 )