(魏德齡/文)這個(gè)冬天,無論是電腦還是手機(jī),端側(cè)AI能力都成為電子產(chǎn)品的新促銷點(diǎn),無需連接網(wǎng)絡(luò)就能讓本地產(chǎn)品獲得如同ChatGPT般的能力,并且通過對于模型與算法的優(yōu)化,還能獲得極快的響應(yīng)速度。
然而,只要嘗試在本地設(shè)備中部署AI能力后,就能發(fā)現(xiàn),端側(cè)AI很好很強(qiáng)大,但有些對于普通消費(fèi)者來說的隱憂,廠商并沒有主動提及。
吃緊的硬盤空間
如今,硬盤空間無疑成為了廠商在銷售電子產(chǎn)品時(shí),獲得更高價(jià)格空間的重要手段。很多用戶往往無法選擇購買最低硬盤空間的起售價(jià)格產(chǎn)品。以智能手機(jī)為例,最低的起售價(jià)格,往往意味著128GB/256GB的存儲空間,對于喜歡玩游戲或拍攝視頻的用戶來說,這樣的空間往往捉襟見肘。
不少大型游戲動輒30GB左右,隨著蘋果開始在手機(jī)側(cè)布局3A大作,未來這一趨勢還將愈發(fā)明顯。而隨著手機(jī)攝像頭像素的提升,支持的視頻格式愈發(fā)高階,在給用戶帶來更高畫質(zhì)、更多后期可調(diào)空間的情況下,也讓存儲空間更加吃緊,甚至在iPhone 15 Pro系列中,如果想拍攝4K的ProRes視頻就必須外接固態(tài)硬盤。
端側(cè)AI的實(shí)現(xiàn)除了需要在本地設(shè)備中安裝可執(zhí)行的應(yīng)用程序與環(huán)境,更重要的是需要配置好對應(yīng)相關(guān)任務(wù)的模型,以目前無論是PC還是手機(jī)廠商都喜歡進(jìn)行演示的Stable Diffusion為例,內(nèi)置的模型就至少需要7GB的空間,完整版為15GB,而如果用戶對于相關(guān)畫風(fēng)、細(xì)節(jié)有要求,甚至是希望生成出Gif動畫效果,同樣需要再下載其它模型。一套讓端側(cè)設(shè)備實(shí)現(xiàn)文字生圖能力的應(yīng)用,在安裝完成后所占據(jù)的空間,很可能與一款大型游戲不相上下。
同理,若想實(shí)現(xiàn)類似于ChatGPT般的對話式助理功能,一個(gè)容量為20GB以上的模型同樣少不了。才能有望讓PC或手機(jī)成為用戶的本地工作生活助理,在無需網(wǎng)絡(luò)依賴的情況下,具備撰寫簡單的文檔、回答相關(guān)問題,或是規(guī)劃旅行日程等能力。
系統(tǒng)臃腫的隱憂
對于玩過大型游戲的用戶來說,每次版本迭代時(shí)的更新無疑都會經(jīng)歷一個(gè)漫長的過程,而如果手機(jī)或PC廠商將本地AI能力與自身操作系統(tǒng)相結(jié)合,由于其所占據(jù)的較大硬盤空間,無疑將會讓操作系統(tǒng)本身的容量變得較為臃腫。
小米14系列發(fā)布會上曾經(jīng)公布了這樣一張標(biāo)注有手機(jī)固件大小的PPT,友商A、B、C、D的固件大小容量分別為11.36GB、12.64GB、20.61GB、21.20GB。顯然,如果不對模型進(jìn)行進(jìn)一步精簡,手機(jī)操作系統(tǒng)只是簡單通過1+1的方式來融入端側(cè)AI能力的話,固件容量很可能將會翻升2-3倍。
這也就引出了另一個(gè)問題,本地AI模型同樣有著定期版本升級的特性,而一旦面臨升級,用戶將會面臨一個(gè)相對較長的下載與替換安裝過程。這一問題目前在工業(yè)互聯(lián)網(wǎng)領(lǐng)域已經(jīng)被業(yè)界所關(guān)注,隨著AI模型開始在智能制造領(lǐng)域的嘗試性部署,升級過程中的高數(shù)據(jù)量同樣會產(chǎn)生較長的設(shè)備更新時(shí)間。
質(zhì)量與能耗的取舍
盡管“1秒鐘”已經(jīng)成為了PC與手機(jī)廠商強(qiáng)調(diào)端側(cè)AI能力時(shí)的標(biāo)配指標(biāo),然而廠商很少主動表示,1秒鐘所生成的圖片大小,PC一般為512*512,手機(jī)一般為256*256,這一分辨率對于如今的高分屏?xí)r代來說,其實(shí)有些過于小兒科。
但若想讓圖片的分辨率達(dá)到當(dāng)下普遍接受的水平,則往往需要大量的GPU資源,對于筆記本或手機(jī)這類設(shè)備而言,一方面會產(chǎn)生不小的發(fā)熱量,另一方面等待時(shí)間也變得較為漫長,進(jìn)而讓使用體驗(yàn)大打折扣。
此外,“1秒鐘”本身也是模型與算法的雙重優(yōu)化結(jié)果,對于目前很多人所使用的模型而言,還無法實(shí)現(xiàn)“一秒鐘”的能力,20多秒的等待時(shí)間一般來說是常見的情況,而如果在此過程中,運(yùn)算較為復(fù)雜,等待時(shí)間則會十分漫長,部分設(shè)備的發(fā)熱量同樣可以與運(yùn)行大型游戲相媲美。
寫在最后
端側(cè)AI被業(yè)界視作是2024年挖掘電子產(chǎn)品消費(fèi)新需求的突破口,不過這項(xiàng)技術(shù)才剛剛開始,離“成熟”二字無疑還有很長的道路,后續(xù)的快速迭代升級不可避免。
- 蜜度索驥:以跨模態(tài)檢索技術(shù)助力“企宣”向上生長
- 聯(lián)想張華:把握智能體時(shí)代脈搏,天禧AS率先邁入AI新周期
- TechWeb微晚報(bào):理想有望做一款A(yù)I超跑,廣電部門約見“紅果短劇”負(fù)責(zé)人
- 小米科技家電銷量創(chuàng)新高:覆蓋全國2898個(gè)區(qū)縣,送拆裝一體服務(wù)引爆市場
- 紫光展銳新智能穿戴平臺W337:雙核A53+獨(dú)立3D GPU,輕薄實(shí)力派!
- 螞蟻群體智慧登頂PNAS:團(tuán)戰(zhàn)“最強(qiáng)AGI”,幾何難題破解完勝人類,揭示群體智能新篇章
- Deepseek新模型驚艷表現(xiàn):編程速度超越Claude 3.5 Sonnet,實(shí)力不容小覷
- 三星神秘新品曝光:Galaxy Ring 2智能戒指或成Galaxy Unpacked 2025驚喜,科技新體驗(yàn)待揭曉
- AI揭示血液樣本秘密:逆轉(zhuǎn)生理年齡?22.5萬人血液樣本揭示新可能
- 消息稱小米正搭建GPU萬卡集群 加大AI大模型投入
- 英國試用水準(zhǔn)AI評估糖尿病風(fēng)險(xiǎn):提前10年識別潛在患者,科技助力健康管理
免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請進(jìn)一步核實(shí),并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。