1. 程式人生 > 資訊 >蘋果 VR/AR 新專利:用神經網路模擬全身動作,讓 VR 無線傳輸更快

蘋果 VR/AR 新專利:用神經網路模擬全身動作,讓 VR 無線傳輸更快

智東西 7 月 14 日訊息,近日,蘋果的兩項 VR/AR 相關新專利得到了美國專利商標局(U.S. Patent and Trademark Office)授權。

第一項專利是“生成身體姿勢資訊(Generating body pose information)系統”。該系統通過收集身體各個地方的資訊,然後利用這些資訊打造使用者的虛擬化身(avatar)。第二項專利是“自適應無線傳輸(Adaptive wireless transmission schemes)系統”。該系統處理 VR 頭顯裝置和主機之間的通訊。

據悉,蘋果正在開發 AR/VR 頭顯,以及稱為“Apple Glass”的 AR 智慧眼鏡。蘋果正在針對人機互動領域的難題設計不同的解決方案,希望蘋果頭顯產品可以在其他頭顯產品中脫穎而出。

01. 新系統通過蒐集姿態資訊,在虛擬世界打造一個“你”

根據專利報告顯示,蘋果新專利“生成身體姿勢資訊”系統可以通過攝像頭、神經網路系統等方式蒐集使用者的姿態資訊,形成一個使用者的虛擬化身 。

1、用神經網路系統蒐集使用者姿態資訊

單個神經網路系統可以蒐集使用者姿勢資訊;多個神經網路系統協同工作,可以模擬使用者的某個關節;最終,所有系統的資訊全部彙總在一起便可以在虛擬世界打造一個使用者的“分身”。

在這個過程中,不同的硬體裝置都需要機器學習。因為“生成身體姿勢資訊”系統不僅要處理攝像機所蒐集的資料,還需要讓不同的神經網路系統之間“學會”資訊互動。

2、神經網路系統覆蓋身體全關節

神經網路系統會蒐集使用者身體上哪些部位的資訊,蘋果在專利報告中給出了答案。

▲ 多個神經網路系統可以監控使用者的各個關節,共同建立一個全身模型。(來源於:Appleinsider)

“生成身體姿勢資訊”系統的資訊蒐集範圍包括了“脖頸、肩關節、肘關節、腕關節、骨盆關節、膝關節、踝關節和指關節”。該系統不但會對每個部位的資訊蒐集範圍做出界定,而且還會確定各部位之間的連線處在哪裡。

儘管該項專利的列表裡給出了所有建立使用者身體模型需要的基本要素,但似乎並不是很詳盡。比如說,指關節似乎只是重點指代手指,腳趾以及腳部運動似乎並沒有被該系統所關注。

3、用資料打造使用者虛擬化身

蘋果認為,打造良好的沉浸式體驗需要儘可能地蒐集更多有關使用者姿態的資訊。因為 VR 或 AR 應用程式可能會需要依據使用者的靜態姿勢或動態行為,為使用者呈現不同的內容。比如說,VR 遊戲中的守衛需要對使用者不同的攻擊動作做出不同的反應。

事實上,蘋果希望用“生成身體姿勢資訊”系統控制使用者在虛擬世界的化身。比如說,虛擬線上社交 VR Chat 就可能會運用到這個系統來改變使用者的頭像呈現方式。

02. 打通通訊壁壘,新專利使用凝視功能分配資料資源

蘋果的第二項專利“自適應無線傳輸”系統希望能打通頭顯和主機之間通訊壁壘。

1、VR 頭顯遇通訊難題

目前市面上的 VR 頭顯如 Oculus Quest,儘管設計者可以通過增加頭顯的重量,讓頭顯和主機之間的連線部位減少相應重量,但是,連線部位的電線本身就是一個問題。

對此,有人提出用無線通訊系統減輕頭顯的重量,並且取消電線。但事實上,無線通訊系統也會存在很多問題。

比如說,無線通訊系統傳輸資料需要消耗裝置電量,並且無線通訊系統的頻寬比有線通訊更少。再比如,無線通訊系統裡最常見的斷連、其他裝置干擾的問題。

2、新專利採用交錯幀傳輸

面對這些難題,蘋果新專利“自適應無線傳輸”系統提供了一種新的解決方案。

它雖然採用了無線通訊系統,但是減少了一次傳輸的資料量。該方案要求系統傳輸儘可能少的視訊資料。並且,這項專利選擇將網路的頻寬量減半,通過左右眼資料交錯使用,實現交錯幀資料傳輸(interleaved frame transmissions)。

蘋果的新專利認為,資料不必傳輸畫面的每一幀。它將畫面的傳輸幀分成不同類,一類是需要緊急更新的畫面幀,另一類是可以再次使用、沒有更新、較早時間的畫面幀。

▲ 每隻眼睛的交替視訊幀可以將一次傳輸的資料量減半。(來源於:Appleinsider)

3、凝視跟蹤功能加持資料節流

此外,該項專利還用到了凝視跟蹤功能(mention of gaze tracking)。該功能可以通過使用者的凝視,優先更新使用者正在檢視畫面的資料。不僅如此,它還通過注視點顯示技術(foveated display techniques)減少使用者未關注的畫面細節量,再次節省資料傳輸。

但實現這一方案可能需要極高的幀速率(frame rates)。據蘋果專利報告顯示,由於頭顯在眼睛部位,所以“每秒至少達到 100 幀”。

03. 技術會不斷迭代,但並不會全應用於蘋果產品

此前,蘋果在 VR 和 AR 領域具有很多專利申請,並且與這次兩項新專利有一些技術交叉。

比如說在中央凹區域的顯示技術( foveated displays)方面,中心凹是眼睛的一個關鍵區域,它使人們能夠以非常清晰和精確的方式看到東西。2020 年,蘋果又設計了與此次類似的一個系統,該系統可以通過眼動追蹤( eye tracking)來決定將資料資源投放在螢幕哪些地方,並且可以通過凝視檢測功能(using gaze detection)來確保畫面是否完成更新。

再比如說,手勢識別功能。2018 年,蘋果的一項專利曾涉及如何利用頭顯下方的攝像頭來監控使用者的手勢變化,以便系統通過手勢變化管理 3D 文件。2015 年,蘋果的一項專利可以通過機器視覺,遠距離識別人們的手勢。

蘋果每週都會提交大量的專利申請,但新專利的存在僅代表蘋果的研發團隊對該領域感興趣,並不能保證這些專利會出現在蘋果的產品中。

04. 結語:蘋果下場會帶火 VR/AR 裝置嗎?

蘋果兩項在 VR/AR 領域的新專利向我們揭示了一個事實,蘋果已經擁有較為成熟的、針對人機互動領域的難題的解決方案。

根據天風證券分析師郭明錤報告,蘋果可能將在 2022 年中期推出 VR/AR 頭顯裝置。他認為,蘋果頭顯能否成功要看 VR/AR 應用能否提供非常順暢的顯示與操作流程。

據 IDC 稱,到 2022 年,VR/AR 的市場價值約為 560 億美元。當蘋果入場頭顯裝置時,是否能通過新的技術加速 VR/AR 裝置落地,我們靜觀其變。