蘋(píng)果AR或后發(fā)先至 人才/技術(shù)/專(zhuān)利三者皆備

雷鋒網(wǎng)按:蘋(píng)果要讓手機(jī)率先支持 AR 功能的消息終于被確認(rèn)了。當(dāng) VR、AR 被滿(mǎn)世界熱捧時(shí),蘋(píng)果似乎一直無(wú)動(dòng)于衷,即便 CEO 庫(kù)克多次對(duì)外表示對(duì) AR 十分感興趣。實(shí)際上,蘋(píng)果一刻也沒(méi)有放松對(duì)新技術(shù)的關(guān)注,不管是招兵買(mǎi)馬組建團(tuán)隊(duì),還是通過(guò)收購(gòu)、申請(qǐng)專(zhuān)利以?xún)?chǔ)備技術(shù),一切的一切都為了“萬(wàn)事俱備”。所以,不必著急,驚艷的產(chǎn)品值得我們等待。

iPhone 8 延期發(fā)布的原因讓我們?cè)俅巫C實(shí)了蘋(píng)果對(duì) AR 的野心。

蘋(píng)果分析師 Brian White 在給投資者一份說(shuō)明中提到,“因 3D 感知技術(shù)的一些挑戰(zhàn),5.8 英寸 iPhone8 將會(huì)延遲數(shù)周上市,但能在 12 月假期之前與大家見(jiàn)面。”其中,他肯定了 5.8 英寸 iPhone 8 中將采用 3D 感知技術(shù)和 OLED 顯示屏,而此前也有消息表示,正是因?yàn)槠聊缓?3D 技術(shù)前置攝像頭兩者難以完美匹配,造成了 iPhone 8 的延期。深度

關(guān)于蘋(píng)果在做什么樣的 AR 產(chǎn)品,外界有不少猜測(cè)。直到今年 3 月份,彭博社的一篇報(bào)道讓我們對(duì)此有更加詳實(shí)的了解。

產(chǎn)品方面,彭博社確認(rèn)蘋(píng)果手機(jī)將率先支持 AR 功能。另一方面,蘋(píng)果也正在研發(fā)數(shù)款 AR 產(chǎn)品,其中包括數(shù)字眼鏡,可與手機(jī)無(wú)線(xiàn)連接,并為用戶(hù)呈現(xiàn)電影、地圖等內(nèi)容。聽(tīng)起來(lái)有些像以前的谷歌眼鏡,但比起手機(jī)的 AR 功能,蘋(píng)果 AR 眼鏡等待的時(shí)間要更久。

另外,報(bào)道提到蘋(píng)果正在為 iPhone 研發(fā)的一項(xiàng)功能是,改變所拍照片或是照片中特定物體的景深;另一項(xiàng)功能是,對(duì)照片進(jìn)行摳圖,如可摳出人像的頭部,對(duì)其 180 度翻轉(zhuǎn)。

這其中可能會(huì)加入 AR,生成虛擬特效,類(lèi)似于 Snapchat 的效果。為此,iPhone 攝像頭將有望依賴(lài)于深度感知技術(shù),并且使用由 PrimeSense 公司研發(fā)的算法。

或許,蘋(píng)果不會(huì)一次性推出所有這些功能,但現(xiàn)在iPhone 8 證實(shí)將采用 3D 感知技術(shù),想必這也是蘋(píng)果向 AR 邁出的一小步。

雷鋒網(wǎng)也從一位業(yè)內(nèi)人士口中得知,蘋(píng)果會(huì)在手機(jī)上增加一個(gè)前置深度攝像頭,用以面部識(shí)別和手勢(shì)識(shí)別,而由于功耗問(wèn)題沒(méi)有解決,并沒(méi)有采用后置。該業(yè)內(nèi)人士表示,“從應(yīng)用的角度,前置攝像頭的象征意義更大一些。”

同時(shí),回顧過(guò)去蘋(píng)果的一些動(dòng)作,雷鋒網(wǎng)(公眾號(hào):雷鋒網(wǎng))發(fā)現(xiàn),蘋(píng)果針對(duì) AR 的人才和技術(shù)儲(chǔ)備愈加完善。

人才儲(chǔ)備

深度

Mike Rockwell 2015 年加入蘋(píng)果

根據(jù)彭博社引述知情人士的報(bào)道,蘋(píng)果已經(jīng)組建了一支研發(fā)團(tuán)隊(duì),該團(tuán)隊(duì)聚集了各路硬軟件研發(fā)的老兵。而早在 2016 年 1 月,雷鋒網(wǎng)曾報(bào)道蘋(píng)果當(dāng)時(shí)正在組建一個(gè)數(shù)百名的“秘密研發(fā)團(tuán)隊(duì)”,對(duì)虛擬現(xiàn)實(shí)頭盔等其他技術(shù)進(jìn)行試驗(yàn)。

該團(tuán)隊(duì)由前杜比執(zhí)行副總裁 MiKe Rockwell 負(fù)責(zé),他曾是杜比的標(biāo)志性人物,擔(dān)任過(guò) AR 公司 Meta 的顧問(wèn)。作為蘋(píng)果內(nèi)部 AR 團(tuán)隊(duì)的負(fù)責(zé)人,Rockwell 向 Dan Riccio 報(bào)告工作,而 Riccio 主要負(fù)責(zé) iPhone 和 iPad 硬件工程團(tuán)隊(duì)的工作。

從去年開(kāi)始,蘋(píng)果陸續(xù)將其他軟硬件部門(mén)的人調(diào)往 AR 團(tuán)隊(duì),包括曾負(fù)責(zé)蘋(píng)果手表設(shè)計(jì)的 Fletcher Rothkopf,創(chuàng)建了 THX 標(biāo)準(zhǔn)(一種音效標(biāo)準(zhǔn),)的 Tomlinson Holman。

蘋(píng)果還請(qǐng)了從 3D 視頻到可穿戴硬件各方面的人才加入,包括前亞馬遜 Lumberyard 虛擬現(xiàn)實(shí)平臺(tái)首席工程師 Cody WHite,前 Meta 軟件開(kāi)發(fā)總監(jiān) Duncan McRoberts,前Oculus分析師 Yury Petrov,以及曾在 HoloLens 和 Google Earth 工作過(guò)的 Avi Bar-Zeev。

這支團(tuán)隊(duì)中也加入了前維塔視覺(jué)特效公司成員,他們?cè)鴧⑴c過(guò)《阿凡達(dá)》、《金剛》等影片的制作。

技術(shù)儲(chǔ)備

這一點(diǎn)主要體現(xiàn)為蘋(píng)果收購(gòu)其他公司,以及專(zhuān)利申請(qǐng)。

深度 FaceShift 的面部識(shí)別

以下是蘋(píng)果從 2013 年到 2016 年陸續(xù)收購(gòu)的一系列公司:

2013 年 11 月 收購(gòu)以色列硬件公司 PrimeSense

該公司主要為微軟的 Xbox 游戲機(jī)制造Kinect 動(dòng)感捕捉攝像頭。

2014 年12 月 收購(gòu)臉部視覺(jué)識(shí)別公司 FaceShift

該公司的技術(shù)能夠利用攝像頭對(duì)用戶(hù)臉部圖像進(jìn)行實(shí)時(shí)捕捉,甚至可以生成虛擬的頭像。

2015年 4 月 收購(gòu)以色列初創(chuàng)公司 LinX

LinX 創(chuàng)建于2011年,該公司的技術(shù)能夠通過(guò)將數(shù)字圖像分成三個(gè)部分的方式在照片中增加景深。

2015 年 5 月 收購(gòu)德國(guó) AR 公司 Metaio

該公司主要開(kāi)發(fā)智能手機(jī)平臺(tái)的增強(qiáng)現(xiàn)實(shí)應(yīng)用軟件,比如其曾經(jīng)開(kāi)發(fā)一款讓家具視覺(jué)化呈現(xiàn)的工具。Metaio 曾經(jīng)的 CEO Thomas Alt 目前屬于蘋(píng)果戰(zhàn)略交易團(tuán)隊(duì),決定應(yīng)該投資哪項(xiàng)技術(shù)。

2016 年 1 月 收購(gòu) Flyby Media。

該公司主要利用空間感知技術(shù),可以強(qiáng)化人們對(duì)其周?chē)h(huán)境的了解。

甚至還有消息稱(chēng),庫(kù)克曾拜訪(fǎng)過(guò) Magic Leap 的辦公司,并表示對(duì)他們 AR 技術(shù)很感興趣。

深度

“帶有攝像頭的可穿戴信息系統(tǒng)”專(zhuān)利描述圖

同時(shí),蘋(píng)果也沒(méi)有放松對(duì)專(zhuān)利的申請(qǐng),如下:

2015 年 5 月 申請(qǐng)柔性屏幕專(zhuān)利

這是一種在固體發(fā)光像素周?chē)O(shè)計(jì)許多小孔的屏幕,可將屏幕變得又薄又柔軟,以幫助 AR 應(yīng)用。通過(guò)像素現(xiàn)實(shí)虛擬圖像,同時(shí)透過(guò)小孔查看屏幕另一邊的現(xiàn)實(shí)圖像。

2016 年 7 月 申請(qǐng) AR 顯示使用到的類(lèi)似光波導(dǎo)技術(shù)

這項(xiàng)技術(shù)是讓圖像從離軸源文件中投射出來(lái),通過(guò)透明物質(zhì)(護(hù)目鏡或薄片)進(jìn)入視線(xiàn)。

9 月 申請(qǐng) AR 映射系統(tǒng)

這套 AR 映射系統(tǒng)能夠利用 iPhone 的硬件將增強(qiáng)現(xiàn)實(shí)功能疊加到直播視頻上。用戶(hù)通過(guò)手機(jī)應(yīng)用可以在一些現(xiàn)實(shí)場(chǎng)景中標(biāo)記數(shù)字信息,比如街道名稱(chēng)、興趣點(diǎn)等等,并用攝像頭進(jìn)行掃描。

11 月 申請(qǐng) AR 頭盔專(zhuān)利

這項(xiàng)專(zhuān)利描述的是一種保留移動(dòng)電子設(shè)備屏幕的頭盔式顯示屏儀器,頭盔式屏幕系統(tǒng)以及操作方案可以讓用戶(hù)“配對(duì)”或“解除”。

2017 年 2 月 申請(qǐng)帶有攝像頭的可穿戴信息系統(tǒng)

這項(xiàng)技術(shù)可能會(huì)用在一款頭戴顯示器中,而顯示器上搭載的攝像頭可以接收與顯示器相同視角的信息。該系統(tǒng)可下載有趣的內(nèi)容,并用 AR 展示出來(lái)。

3 月 申請(qǐng)專(zhuān)利名為“利用景深加強(qiáng)人臉檢測(cè)”

這項(xiàng)專(zhuān)利是通過(guò)計(jì)算機(jī)視覺(jué)系統(tǒng),利用專(zhuān)門(mén)的硬件和軟件進(jìn)行人臉識(shí)別,尤其是已經(jīng)保存到數(shù)據(jù)庫(kù)中的人臉數(shù)據(jù)。

2016 年 11 月,蘋(píng)果被爆與 LG 聯(lián)合開(kāi)發(fā) 3D 攝像頭模組,研究如何將自家的3D攝像頭技術(shù)應(yīng)用于 LG Innotek 生產(chǎn)的智能手機(jī)攝像頭模組。

從上述種種來(lái)看,我們可以確定,蘋(píng)果規(guī)劃了兩條 AR 產(chǎn)品路線(xiàn),一是讓新迭代的 iPhone 具有 AR 功能,二是打造一款 AR 眼鏡。

AR 手機(jī)的難度在哪?

先來(lái)說(shuō)說(shuō), AR 手機(jī)。要打造這樣一款手機(jī),到底有什么難度?

深度

此前,雷鋒網(wǎng)采訪(fǎng)三維建模公司積木易撘時(shí),CTO 鄒圣兵曾解釋三維建模掃描的成像原理:

兩臺(tái)工業(yè)相機(jī)和一個(gè)投影儀可組成最小的掃描儀單元。攝像機(jī)得到深度信息,投影儀能投射已知編碼影像,通過(guò)前方交會(huì)計(jì)算得出點(diǎn)云,每幅投影儀得到的點(diǎn)云之間實(shí)時(shí)匹配,再進(jìn)行全局優(yōu)化,實(shí)現(xiàn)表面三維點(diǎn)云重建,點(diǎn)云三角網(wǎng)格化,也就是得到了投影儀投影對(duì)象的三維模型。

“手機(jī)要搭載 AR 技術(shù),不只要包含投影儀、攝像頭、還需要鏡子、手機(jī)。”鄒圣兵向雷鋒網(wǎng)近一步解釋了手機(jī)實(shí)現(xiàn) AR 功能的原理。

傳統(tǒng)的 AR設(shè)備通過(guò)手柄、眼球跟追、手勢(shì)識(shí)別等,實(shí)現(xiàn)與投影儀交互,讓投影儀投影已知彩色編碼,通過(guò)攝像機(jī)和鏡子拍攝的圖片,計(jì)算出深度信息,然后再將計(jì)算出的深度信息結(jié)合slam算法(建模只是點(diǎn)云信息,不進(jìn)行后續(xù)),與真實(shí)世界進(jìn)行融合、對(duì)齊。接著,在對(duì)齊的虛擬場(chǎng)景中進(jìn)行渲染,渲染出接近真實(shí)場(chǎng)景的效果,這就是 AR。

手機(jī)如果集成了投影儀、兩個(gè)攝像頭、一面鏡子,手機(jī)在用戶(hù)手中,操作投影儀所對(duì)的方向,投影已知彩色編碼圖像到前方對(duì)象上,產(chǎn)生畸變的彩色編碼圖像被兩個(gè)攝像頭拍攝,拍攝的兩張圖片在手機(jī)處理器進(jìn)行計(jì)算,得到前方對(duì)象的點(diǎn)云信息。鏡子能得到廣角圖像不像攝像頭有景深限制,鏡子得到的廣角圖像,范圍較大,不只是包含了投影儀的投影對(duì)象,也包含前方的場(chǎng)景圖片。

該圖片傳入手機(jī)處理器進(jìn)行計(jì)算,結(jié)合slam算法,計(jì)算出場(chǎng)景的輪廓等信息,再結(jié)合手機(jī)在場(chǎng)景中的相對(duì)位置和視野等信息,這樣就能實(shí)現(xiàn)掃描的點(diǎn)云信息與虛擬場(chǎng)景的融合,在虛擬場(chǎng)景中渲染,得出接近真實(shí)世界的效果。

深度 Phab2 Pro 的 AR 效果演示

而當(dāng)前市場(chǎng)上真正推出的 AR 手機(jī)是 Phab2 Pro,它是由聯(lián)想和谷歌合作的產(chǎn)品,采用了谷歌Project Tango 技術(shù),內(nèi)置三顆攝像頭,包括一顆魚(yú)眼鏡頭和一顆紅外傳感器,可實(shí)現(xiàn)空間定位。

鄒圣兵表示,

“Tango 手機(jī)中攝像機(jī)、兩個(gè)攝像頭、一面鏡子和對(duì)應(yīng)的處理器是一個(gè)整體,是由一個(gè)獨(dú)立廠家提供,沒(méi)有與手機(jī)主板真正集成,而且由于三維重建需要很強(qiáng)的處理器和較大內(nèi)存,這都不是獨(dú)立模塊能達(dá)到的。

如果蘋(píng)果要支持 AR,并且直接集成在主板,AR處理與手機(jī)其他處理是一個(gè)處理器,就要觀察蘋(píng)果是否完成相關(guān)生態(tài)鏈的收購(gòu)整合。目前來(lái)說(shuō),還沒(méi)見(jiàn)到樣機(jī),不好評(píng)判。”

由此可見(jiàn),蘋(píng)果要成功做出一部 AR 手機(jī),技術(shù)是一方面,各技術(shù)的集成也十分關(guān)鍵。不久前,蘋(píng)果宣布自己將獨(dú)立研發(fā) GPU,可能會(huì)將CPU 和 GPU 更好結(jié)合,從而針對(duì) AR、AI 提升移動(dòng)設(shè)備計(jì)算能力。至于iPhone 8 或是后續(xù)產(chǎn)品是否會(huì)有驚艷的表現(xiàn),我們可以保持期待。

此外,AR 眼鏡方面最具代表性的便是微軟 HoloLens,以及 Meta。而今年一月有蔡司員工向國(guó)外科技博客作者確認(rèn),蘋(píng)果正與蔡司合作研發(fā) AR 眼鏡。

綜上,不得不說(shuō),蘋(píng)果對(duì) AR 的野心可不止一點(diǎn)點(diǎn)。當(dāng)然,我們也希望蘋(píng)果能讓 AR 技術(shù)更加成熟,并走向更多的消費(fèi)者。

極客網(wǎng)企業(yè)會(huì)員

免責(zé)聲明:本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。

2017-04-12
蘋(píng)果AR或后發(fā)先至 人才/技術(shù)/專(zhuān)利三者皆備
蘋(píng)果要讓手機(jī)率先支持 AR 功能的消息終于被確認(rèn)了。當(dāng) VR、AR 被滿(mǎn)世界熱捧時(shí),蘋(píng)果似乎一直無(wú)動(dòng)于衷,即便 CEO 庫(kù)克多次對(duì)外表示對(duì) AR 十分感興趣。

長(zhǎng)按掃碼 閱讀全文