本公開涉及增強(qiáng)現(xiàn)實(shí)成像和可視化系統(tǒng)。
背景技術(shù):
1、所謂的“智能鏡子”是這樣的鏡子:其在被激活之前看起來是普通的鏡子。一旦被激活,該鏡子便使用顯示技術(shù)以圖形方式將用戶界面和其它可能的顯示信息覆蓋到鏡子表面上。本文公開的系統(tǒng)和方法解決了與智能鏡子技術(shù)相關(guān)的各種挑戰(zhàn)。
技術(shù)實(shí)現(xiàn)思路
1、在一些實(shí)施例中,提供了一種顯示系統(tǒng)。所述顯示系統(tǒng)包括可穿戴顯示設(shè)備,所述可穿戴顯示設(shè)備包括顯示區(qū)域,所述顯示區(qū)域包括被配置為將光引導(dǎo)到用戶的光重定向特征。所述顯示區(qū)域至少部分透明并且被配置為通過所述顯示區(qū)域提供周圍環(huán)境的視圖。所述顯示設(shè)備還包括一個(gè)或多個(gè)硬件處理器和包括計(jì)算機(jī)可執(zhí)行指令的非暫時(shí)性計(jì)算機(jī)可讀存儲介質(zhì)。當(dāng)由所述一個(gè)或多個(gè)硬件處理器執(zhí)行時(shí),所述指令使所述一個(gè)或多個(gè)硬件處理器執(zhí)行操作,所述操作包括:通過所述顯示區(qū)域確定所述用戶的映像(reflection)在所述用戶的視野內(nèi);以及隨后在所述顯示區(qū)域中顯示增強(qiáng)現(xiàn)實(shí)內(nèi)容,所述增強(qiáng)現(xiàn)實(shí)內(nèi)容增強(qiáng)所述映像。
2、在一些其它實(shí)施例中,提供了一種用于顯示圖像的方法。所述方法包括提供可穿戴顯示設(shè)備,所述可穿戴顯示設(shè)備包括顯示區(qū)域,所述顯示區(qū)域包括被配置為將光引導(dǎo)到用戶的光重定向特征。所述顯示區(qū)域至少部分透明,從而通過所述顯示區(qū)域提供周圍環(huán)境的視圖。所述方法進(jìn)一步包括通過所述顯示區(qū)域確定所述用戶的映像在所述用戶的視野內(nèi);以及隨后在所述顯示區(qū)域中顯示增強(qiáng)現(xiàn)實(shí)內(nèi)容。所述增強(qiáng)現(xiàn)實(shí)內(nèi)容增強(qiáng)所述映像。
3、在另外一些實(shí)施例中,提供了一種顯示系統(tǒng)。所述顯示系統(tǒng)包括可穿戴顯示設(shè)備,所述可穿戴顯示設(shè)備包括顯示區(qū)域,所述顯示區(qū)域包括被配置為將光引導(dǎo)到用戶的光重定向特征。所述顯示區(qū)域至少部分透明并且被配置為通過所述顯示區(qū)域提供周圍環(huán)境的視圖。所述顯示設(shè)備還包括一個(gè)或多個(gè)硬件處理器和包括計(jì)算機(jī)可執(zhí)行指令的非暫時(shí)性計(jì)算機(jī)可讀存儲介質(zhì)。當(dāng)由所述一個(gè)或多個(gè)硬件處理器執(zhí)行時(shí),所述指令使所述一個(gè)或多個(gè)硬件處理器執(zhí)行操作,所述操作包括:通過所述顯示區(qū)域確定映像在所述用戶的視野內(nèi)。
4、在一些實(shí)施例中,提供了一種用于顯示圖像的方法。所述方法包括提供可穿戴顯示設(shè)備,所述可穿戴顯示設(shè)備包括顯示區(qū)域,所述顯示區(qū)域包括被配置為將光引導(dǎo)到用戶的光重定向特征。所述顯示區(qū)域至少部分透明并且被配置為通過所述顯示區(qū)域提供周圍環(huán)境的視圖。所述方法進(jìn)一步包括通過所述顯示區(qū)域確定映像在所述用戶的視野內(nèi)。
5、在另外一些實(shí)施例中,一種顯示系統(tǒng)包括可穿戴顯示設(shè)備,所述可穿戴顯示設(shè)備包括顯示區(qū)域,所述顯示區(qū)域包括被配置為將光引導(dǎo)到用戶的光重定向特征。所述顯示區(qū)域至少部分透明并且被配置為通過所述顯示區(qū)域提供周圍環(huán)境的視圖。所述顯示設(shè)備還包括:面向外的相機(jī);一個(gè)或多個(gè)硬件處理器;以及包括計(jì)算機(jī)可執(zhí)行指令的非暫時(shí)性計(jì)算機(jī)可讀存儲介質(zhì),當(dāng)由所述一個(gè)或多個(gè)硬件處理器執(zhí)行時(shí),所述計(jì)算機(jī)可執(zhí)行指令使所述一個(gè)或多個(gè)硬件處理器執(zhí)行各種操作。所述操作包括使用所述面向外的相機(jī)被動(dòng)地收集圖像信息;確定所述圖像信息是否包含映像;確定所述圖像信息是否包含與所述用戶的健康分析相關(guān)的數(shù)據(jù);以及執(zhí)行所述健康分析。
6、在一些實(shí)施例中,提供了一種用于顯示圖像的方法。所述方法包括提供可穿戴顯示設(shè)備,所述可穿戴顯示設(shè)備包括顯示區(qū)域,所述顯示區(qū)域包括被配置為將光引導(dǎo)到用戶的光重定向特征,其中所述顯示區(qū)域至少部分透明并且被配置為通過所述顯示區(qū)域提供周圍環(huán)境的視圖。所述顯示設(shè)備還包括面向外的相機(jī)。所述方法進(jìn)一步包括使用所述面向外的相機(jī)被動(dòng)地收集圖像信息;確定所述圖像信息是否包含映像;確定所述圖像信息是否包含與所述用戶的健康分析相關(guān)的數(shù)據(jù);以及執(zhí)行所述健康分析。
7、下面提供了其它示例性實(shí)施例。
8、下面是與利用映像的增強(qiáng)現(xiàn)實(shí)系統(tǒng)和方法相關(guān)的示例性實(shí)施例。
9、1.一種用于顯示圖像的方法,所述方法包括:提供可穿戴顯示設(shè)備,所述可穿戴顯示設(shè)備包括:顯示區(qū)域,其包括被配置為將光引導(dǎo)到用戶的光重定向特征,其中所述顯示區(qū)域至少部分透明,從而通過所述顯示區(qū)域提供周圍環(huán)境的視圖;通過所述顯示區(qū)域確定所述用戶的映像在所述用戶的視野內(nèi);以及隨后在所述顯示區(qū)域中顯示增強(qiáng)現(xiàn)實(shí)內(nèi)容,所述增強(qiáng)現(xiàn)實(shí)內(nèi)容增強(qiáng)所述映像。
10、2.根據(jù)實(shí)施例1所述的方法,其中所述顯示區(qū)域被配置為輸出光以形成在多個(gè)深度平面上設(shè)定的多個(gè)圖像,其中所述圖像中的一個(gè)或多個(gè)包括所述增強(qiáng)現(xiàn)實(shí)內(nèi)容。
11、3.根據(jù)實(shí)施例2所述的方法,其中所述顯示設(shè)備包括波導(dǎo)的堆疊,所述波導(dǎo)中的至少一些包括所述光重定向特征,其中所述波導(dǎo)被配置為耦入(in-couple)來自光源的光并且耦出(out-couple)光以輸出所述光來形成所述多個(gè)圖像。
12、4.根據(jù)實(shí)施例3所述的方法,其中每個(gè)波導(dǎo)被配置為針對單個(gè)對應(yīng)的深度平面輸出圖像。
13、5.根據(jù)實(shí)施例1所述的方法,其中所述可穿戴顯示設(shè)備進(jìn)一步包括相機(jī),所述相機(jī)被配置為捕獲所述用戶的周圍環(huán)境的圖像。
14、6.根據(jù)實(shí)施例5所述的方法,其中確定所述用戶的映像在所述用戶的視野內(nèi)包括:將由所述相機(jī)捕獲的圖像與所存儲的圖像信息進(jìn)行比較以確定所捕獲的圖像與所存儲的圖像信息之間是否匹配。
15、7.根據(jù)實(shí)施例6所述的方法,其中所存儲的圖像信息包括所述用戶的外觀的獨(dú)特特征。
16、8.根據(jù)實(shí)施例6所述的方法,其中所存儲的圖像信息包括所述可穿戴顯示設(shè)備的獨(dú)特特征。
17、9.根據(jù)實(shí)施例5所述的方法,其中確定所述用戶的映像在所述用戶的視野內(nèi)進(jìn)一步包括執(zhí)行所述用戶的虹膜識別。
18、10.根據(jù)實(shí)施例1所述的方法,進(jìn)一步包括通過向所述用戶提供光學(xué)或聽覺信號中的一者或全部兩者將所述用戶吸引到反射表面。
19、11.根據(jù)實(shí)施例1所述的方法,其中確定所述用戶的映像在所述用戶的視野內(nèi)包括檢測指示反射表面的獨(dú)特標(biāo)識符。
20、12.根據(jù)實(shí)施例11所述的方法,其中所述獨(dú)特標(biāo)識符是所述反射表面上或鄰近所述反射表面的視覺指示符,其中檢測所述獨(dú)特標(biāo)識符包括利用所述相機(jī)捕獲所述獨(dú)特標(biāo)識符的圖像。
21、13.根據(jù)實(shí)施例11所述的方法,其中檢測獨(dú)特標(biāo)識符包括檢測廣播電磁輻射的信標(biāo),其中所述可穿戴顯示設(shè)備包括接收器,所述接收器被配置為接收所述電磁輻射,其中檢測所述信標(biāo)包括檢測所述電磁輻射。
22、14.根據(jù)實(shí)施例1所述的方法,進(jìn)一步包括,在隨后顯示增強(qiáng)現(xiàn)實(shí)內(nèi)容之前:檢測所述用戶是靜止的,其中直至確定所述用戶是靜止的才執(zhí)行隨后顯示增強(qiáng)現(xiàn)實(shí)內(nèi)容。
23、15.根據(jù)實(shí)施例1所述的方法,其中隨后顯示增強(qiáng)現(xiàn)實(shí)內(nèi)容包括顯示具有用戶可選選項(xiàng)的虛擬菜單。
24、16.根據(jù)實(shí)施例15所述的方法,其中所述顯示設(shè)備包括相機(jī),所述相機(jī)被配置為檢測用戶的姿勢或表情以選擇所述用戶可選選項(xiàng)。
25、17.根據(jù)實(shí)施例1所述的方法,其中所述顯示設(shè)備包括相機(jī),所述相機(jī)被配置為檢測用戶注視持續(xù)時(shí)間或瞳孔面積中的一者或全部兩者,其中隨后顯示增強(qiáng)現(xiàn)實(shí)內(nèi)容包括根據(jù)用戶注視持續(xù)時(shí)間或瞳孔面積中的一者或全部兩者而修改所述增強(qiáng)現(xiàn)實(shí)內(nèi)容的類型和定時(shí)(timing)中的一者或全部兩者。
26、18.根據(jù)實(shí)施例1所述的方法,其中所述顯示設(shè)備包括相機(jī),所述相機(jī)被配置為檢測所述用戶的情緒狀態(tài),其中隨后顯示增強(qiáng)現(xiàn)實(shí)內(nèi)容包括基于所述用戶的情緒狀態(tài)顯示增強(qiáng)現(xiàn)實(shí)內(nèi)容。
27、19.根據(jù)實(shí)施例1所述的方法,進(jìn)一步包括:確定所述用戶的身份。
28、20.根據(jù)實(shí)施例19所述的方法,其中在確定所述用戶的映像在所述用戶的視野內(nèi)之后執(zhí)行確定所述用戶的身份。
29、21.根據(jù)實(shí)施例19所述的方法,其中隨后顯示增強(qiáng)現(xiàn)實(shí)內(nèi)容包括顯示所述用戶的獨(dú)特信息。
30、22.根據(jù)實(shí)施例19所述的方法,進(jìn)一步包括收集有關(guān)所述用戶的活動(dòng)的信息。
31、23.根據(jù)實(shí)施例1所述的方法,進(jìn)一步包括將有關(guān)所述用戶的活動(dòng)的信息發(fā)送到與提供所述用戶的映像的反射表面相關(guān)聯(lián)的接收站。
32、24.根據(jù)實(shí)施例1所述的方法,進(jìn)一步包括在隨后顯示增強(qiáng)現(xiàn)實(shí)內(nèi)容之前確定所述用戶的位置,其中隨后顯示增強(qiáng)現(xiàn)實(shí)內(nèi)容包括:顯示特定于所述用戶的位置的增強(qiáng)現(xiàn)實(shí)內(nèi)容。
33、25.根據(jù)實(shí)施例24所述的方法,其中顯示增強(qiáng)現(xiàn)實(shí)內(nèi)容包括顯示來自所述用戶所在的商店或商店的一部分的銷售要約(sales?offer)。
34、26.根據(jù)實(shí)施例25所述的方法,進(jìn)一步包括:確定所述用戶的身份;訪問所述用戶的購買或?yàn)g覽歷史;以及根據(jù)所述購買或?yàn)g覽歷史生成銷售要約。
35、27.根據(jù)實(shí)施例1所述的方法,其中所述增強(qiáng)現(xiàn)實(shí)內(nèi)容包括覆蓋所述用戶的映像的衣服的圖像。
36、28.根據(jù)實(shí)施例1所述的方法,其中所述增強(qiáng)現(xiàn)實(shí)內(nèi)容包括覆蓋所述用戶的映像和修改所述用戶的衣服的特性的圖像。
37、29.根據(jù)實(shí)施例28所述的方法,其中所述特性包括顏色、紋理和圖案中的一者或多者。
38、30.根據(jù)實(shí)施例1所述的方法,進(jìn)一步包括將所述增強(qiáng)現(xiàn)實(shí)內(nèi)容和所述用戶的映像中的一者或全部兩者分發(fā)給一個(gè)或多個(gè)其他用戶。
39、31.根據(jù)實(shí)施例1所述的方法,進(jìn)一步包括通過將所述增強(qiáng)現(xiàn)實(shí)內(nèi)容上傳到除所述用戶之外的個(gè)人可訪問的遠(yuǎn)程服務(wù)器來共享所述增強(qiáng)現(xiàn)實(shí)內(nèi)容。
40、32.根據(jù)實(shí)施例1所述的方法,其中所述增強(qiáng)現(xiàn)實(shí)內(nèi)容包括補(bǔ)充重復(fù)使用的產(chǎn)品的警報(bào)。
41、33.根據(jù)實(shí)施例32所述的方法,其中所述警報(bào)是美容警報(bào),所述美容警報(bào)包括補(bǔ)充美容產(chǎn)品的提醒。
42、34.根據(jù)實(shí)施例1所述的方法,進(jìn)一步包括:跨延長的時(shí)間間隔捕獲所述用戶的一個(gè)或多個(gè)圖像;存儲所述圖像或從所述圖像導(dǎo)出的數(shù)據(jù);以及執(zhí)行當(dāng)前圖像與所存儲的圖像或數(shù)據(jù)之間的比較,其中隨后顯示增強(qiáng)現(xiàn)實(shí)內(nèi)容包括顯示所述比較的結(jié)果。
43、35.根據(jù)實(shí)施例34所述的方法,其中顯示所述比較的結(jié)果包括顯示所述用戶的一個(gè)或多個(gè)較早的圖像。
44、36.根據(jù)實(shí)施例34所述的方法,其中顯示所述比較的結(jié)果包括顯示健康或美容產(chǎn)品或者健康或美容治療的建議。
45、37.根據(jù)實(shí)施例36所述的方法,其中顯示建議包括:顯示所述健康或美容產(chǎn)品或者健康或美容治療的選項(xiàng);以及通過用所述用戶的映像覆蓋預(yù)期結(jié)果的圖像來顯示所述健康或美容產(chǎn)品或者健康或美容治療的所述預(yù)期結(jié)果。
46、38.根據(jù)實(shí)施例34所述的方法,其中所述延長的時(shí)間間隔包括多個(gè)月或多年。
47、39.根據(jù)實(shí)施例34所述的方法,其中每天執(zhí)行捕獲一個(gè)或多個(gè)圖像。
48、40.根據(jù)實(shí)施例34所述的方法,其中執(zhí)行比較包括執(zhí)行健康分析。
49、41.根據(jù)實(shí)施例40所述的方法,其中執(zhí)行健康分析包括檢測體形、皮膚蒼白度、皮膚特征的變化。
50、42.根據(jù)實(shí)施例40所述的方法,其中執(zhí)行健康分析包括實(shí)時(shí)地與醫(yī)務(wù)人員交互。
51、43.根據(jù)實(shí)施例1所述的方法,其中所述增強(qiáng)現(xiàn)實(shí)內(nèi)容包括執(zhí)行任務(wù)的警報(bào)。
52、44.根據(jù)實(shí)施例43所述的方法,其中所述任務(wù)是重復(fù)的任務(wù)。
53、45.根據(jù)實(shí)施例43所述的方法,其中所述重復(fù)的任務(wù)包括用牙線清潔牙齒、服用藥物和訂購藥物中的一者或多者。
54、46.根據(jù)實(shí)施例1所述的方法,其中所述增強(qiáng)現(xiàn)實(shí)內(nèi)容包括所述用戶的醫(yī)學(xué)信息。
55、47.根據(jù)實(shí)施例46所述的方法,其中所述醫(yī)學(xué)信息包括體重、身高和體重指數(shù)中的一者或多者。
56、48.根據(jù)實(shí)施例1所述的方法,進(jìn)一步包括訪問來自秤、溫度計(jì)、血壓計(jì)和心率監(jiān)測器中的一者或多者的數(shù)據(jù),其中隨后顯示增強(qiáng)現(xiàn)實(shí)內(nèi)容包括顯示所訪問的數(shù)據(jù)或從所訪問的數(shù)據(jù)導(dǎo)出的信息中的一者或全部兩者。
57、49.根據(jù)實(shí)施例1所述的方法,進(jìn)一步包括:從不同角度捕獲所述用戶的多個(gè)圖像;檢測當(dāng)前圖像與參考圖像或參考數(shù)據(jù)之間的差異;其中隨后顯示增強(qiáng)現(xiàn)實(shí)內(nèi)容包括顯示檢測差異的結(jié)果。
58、50.根據(jù)實(shí)施例1所述的方法,其中隨后顯示增強(qiáng)現(xiàn)實(shí)內(nèi)容包括將醫(yī)學(xué)成像覆蓋到所述用戶的映像上。
59、51.根據(jù)實(shí)施例1所述的方法,其中隨后顯示增強(qiáng)現(xiàn)實(shí)內(nèi)容包括將運(yùn)動(dòng)圖像覆蓋到所述用戶的映像上,所述運(yùn)動(dòng)圖像包括人的線圖或圖像,其中所述人的線圖或圖像顯示與特定運(yùn)動(dòng)相關(guān)的動(dòng)作和身體姿勢。
60、52.根據(jù)實(shí)施例1所述的方法,其中隨后顯示增強(qiáng)現(xiàn)實(shí)內(nèi)容包括顯示用于確定所述用戶的映像的尺寸的虛擬標(biāo)尺。
61、53.一種顯示系統(tǒng),包括:可穿戴顯示設(shè)備,其包括:顯示區(qū)域,所述顯示區(qū)域包括被配置為將光引導(dǎo)到用戶的光重定向特征,其中所述顯示區(qū)域至少部分透明,從而通過所述顯示區(qū)域提供周圍環(huán)境的視圖;硬件處理器;以及包括計(jì)算機(jī)可執(zhí)行指令的非暫時(shí)性計(jì)算機(jī)可讀存儲介質(zhì),當(dāng)由所述硬件處理器執(zhí)行時(shí),所述計(jì)算機(jī)可執(zhí)行指令配置所述硬件處理器執(zhí)行操作,所述操作包括:通過所述顯示區(qū)域確定所述用戶的映像在所述用戶的視野內(nèi);以及隨后在所述顯示區(qū)域中顯示增強(qiáng)現(xiàn)實(shí)內(nèi)容,所述增強(qiáng)現(xiàn)實(shí)內(nèi)容增強(qiáng)所述映像。
62、54.根據(jù)實(shí)施例53所述的系統(tǒng),其中所述顯示區(qū)域包括多組光重定向特征,所述多組光重定向特征被配置為在多個(gè)深度平面上輸出多個(gè)圖像,每組光定向特征被配置為輸出光以在所述多個(gè)深度平面中的一個(gè)上形成圖像。
63、55.根據(jù)實(shí)施例54所述的系統(tǒng),其中所述顯示設(shè)備包括波導(dǎo)的堆疊,所述波導(dǎo)中的至少一些包括所述光重定向特征,其中所述波導(dǎo)被配置為耦入來自光源的光并且耦出光以輸出所述光來形成所述多個(gè)圖像。
64、56.根據(jù)實(shí)施例55所述的系統(tǒng),其中每個(gè)波導(dǎo)被配置為針對單個(gè)對應(yīng)的深度平面輸出圖像。
65、57.根據(jù)實(shí)施例53所述的系統(tǒng),其中所述可穿戴顯示設(shè)備進(jìn)一步包括相機(jī),所述相機(jī)被配置為捕獲所述用戶的周圍環(huán)境的圖像。
66、58.根據(jù)實(shí)施例53所述的系統(tǒng),其中確定所述用戶的映像在所述用戶的視野內(nèi)包括:將由所述相機(jī)捕獲的圖像與所存儲的圖像信息進(jìn)行比較,以確定所捕獲的圖像與所存儲的圖像信息之間是否匹配。
67、59.根據(jù)實(shí)施例58所述的系統(tǒng),其中所存儲的圖像信息包括所述用戶的外觀的獨(dú)特特征。
68、60.根據(jù)實(shí)施例59所述的系統(tǒng),其中所存儲的圖像信息包括所述可穿戴顯示設(shè)備的獨(dú)特的光學(xué)可觀察特征。
69、61.根據(jù)實(shí)施例58所述的系統(tǒng),其中確定所述用戶的映像在所述用戶的視野內(nèi)進(jìn)一步包括執(zhí)行所述用戶的虹膜識別。
70、62.根據(jù)實(shí)施例53所述的系統(tǒng),其中確定所述用戶的映像在所述用戶的視野內(nèi)包括檢測指示反射表面的獨(dú)特標(biāo)識符的存在。
71、63.根據(jù)實(shí)施例53所述的系統(tǒng),其中所述操作進(jìn)一步包括,在隨后顯示增強(qiáng)現(xiàn)實(shí)內(nèi)容之前:檢測所述用戶是靜止的,其中直至確定所述用戶是靜止的才執(zhí)行隨后顯示增強(qiáng)現(xiàn)實(shí)內(nèi)容。
72、64.根據(jù)實(shí)施例53所述的系統(tǒng),其中隨后顯示增強(qiáng)現(xiàn)實(shí)內(nèi)容包括顯示具有用戶可選選項(xiàng)的虛擬菜單。
73、65.根據(jù)實(shí)施例64所述的系統(tǒng),其中所述顯示設(shè)備包括相機(jī),所述相機(jī)被配置為檢測用戶的姿勢或表情以選擇所述用戶可選選項(xiàng)。
74、66.根據(jù)實(shí)施例64所述的系統(tǒng),其中所述顯示設(shè)備包括相機(jī),所述相機(jī)被配置為檢測用戶注視持續(xù)時(shí)間或瞳孔面積中的一者或全部兩者,其中隨后顯示增強(qiáng)現(xiàn)實(shí)內(nèi)容包括根據(jù)用戶注視持續(xù)時(shí)間或瞳孔面積中的一者或全部兩者修改所述增強(qiáng)現(xiàn)實(shí)內(nèi)容的類型和定時(shí)中的一者或全部兩者。
75、67.根據(jù)實(shí)施例53所述的系統(tǒng),其中所述顯示設(shè)備包括相機(jī),所述相機(jī)被配置為檢測所述用戶的情緒狀態(tài),其中隨后顯示增強(qiáng)現(xiàn)實(shí)內(nèi)容包括基于所述用戶的情緒狀態(tài)顯示增強(qiáng)現(xiàn)實(shí)內(nèi)容。
76、68.根據(jù)實(shí)施例53所述的系統(tǒng),其中所述操作進(jìn)一步包括:確定所述用戶的身份。
77、69.根據(jù)實(shí)施例68所述的系統(tǒng),其中在確定所述用戶的映像在所述用戶的視野內(nèi)之后執(zhí)行確定所述用戶的身份。
78、70.根據(jù)實(shí)施例68所述的系統(tǒng),其中隨后顯示增強(qiáng)現(xiàn)實(shí)內(nèi)容包括顯示所述用戶的獨(dú)特信息。
79、71.根據(jù)實(shí)施例68所述的系統(tǒng),其中所述操作進(jìn)一步包括收集有關(guān)所述用戶的活動(dòng)的信息。
80、72.根據(jù)實(shí)施例53所述的系統(tǒng),其中所述操作進(jìn)一步包括將有關(guān)所述用戶的活動(dòng)的信息發(fā)送到與提供所述用戶的映像的反射表面相關(guān)聯(lián)的接收站。
81、73.根據(jù)實(shí)施例53所述的系統(tǒng),其中所述操作進(jìn)一步包括在隨后顯示增強(qiáng)現(xiàn)實(shí)內(nèi)容之前確定所述用戶的位置,其中隨后顯示增強(qiáng)現(xiàn)實(shí)內(nèi)容包括:顯示特定于所述用戶的位置的增強(qiáng)現(xiàn)實(shí)內(nèi)容。
82、74.根據(jù)實(shí)施例74所述的系統(tǒng),其中顯示增強(qiáng)現(xiàn)實(shí)內(nèi)容包括顯示來自所述用戶所在的商店或商店的一部分的銷售要約。
83、75.根據(jù)實(shí)施例74所述的系統(tǒng),其中所述操作進(jìn)一步包括:確定所述用戶的身份;訪問所述用戶的購買或?yàn)g覽歷史;以及根據(jù)所述購買或?yàn)g覽歷史生成銷售要約。
84、76.根據(jù)實(shí)施例53所述的系統(tǒng),其中所述增強(qiáng)現(xiàn)實(shí)內(nèi)容包括覆蓋所述用戶的映像的衣服的圖像。
85、77.根據(jù)實(shí)施例53所述的系統(tǒng),其中所述增強(qiáng)現(xiàn)實(shí)內(nèi)容包括覆蓋所述用戶的映像和修改所述用戶的衣服的特性的圖像。
86、78.根據(jù)實(shí)施例77所述的系統(tǒng),其中所述特性包括顏色、紋理和圖案中的一者或多者。
87、79.根據(jù)實(shí)施例53所述的系統(tǒng),其中所述操作進(jìn)一步包括將所述增強(qiáng)現(xiàn)實(shí)內(nèi)容和所述用戶的映像中的一者或全部兩者分發(fā)給一個(gè)或多個(gè)其他用戶。
88、80.根據(jù)實(shí)施例53所述的系統(tǒng),其中所述操作進(jìn)一步包括通過將所述增強(qiáng)現(xiàn)實(shí)內(nèi)容上傳到除所述用戶之外的個(gè)人可訪問的遠(yuǎn)程服務(wù)器來共享所述增強(qiáng)現(xiàn)實(shí)內(nèi)容。
89、81.根據(jù)實(shí)施例53所述的系統(tǒng),其中所述增強(qiáng)現(xiàn)實(shí)內(nèi)容包括補(bǔ)充重復(fù)使用的產(chǎn)品的警報(bào)。
90、82.根據(jù)實(shí)施例81所述的系統(tǒng),其中所述警報(bào)是美容警報(bào),所述美容警報(bào)包括補(bǔ)充美容產(chǎn)品的提醒。
91、83.根據(jù)實(shí)施例53所述的系統(tǒng),其中所述操作進(jìn)一步包括:跨延長的時(shí)間間隔捕獲所述用戶的一個(gè)或多個(gè)圖像;存儲所述圖像或從所述圖像導(dǎo)出的數(shù)據(jù);以及執(zhí)行當(dāng)前圖像與所存儲的圖像或數(shù)據(jù)之間的比較,其中隨后顯示增強(qiáng)現(xiàn)實(shí)內(nèi)容包括顯示所述比較的結(jié)果。
92、84.根據(jù)實(shí)施例83所述的系統(tǒng),其中顯示所述比較的結(jié)果包括顯示所述用戶的一個(gè)或多個(gè)較早的圖像。
93、85.根據(jù)實(shí)施例83所述的系統(tǒng),其中顯示所述比較的結(jié)果包括顯示健康或美容產(chǎn)品或者健康或美容治療的建議。
94、86.根據(jù)實(shí)施例85所述的系統(tǒng),其中顯示建議包括:顯示所述健康或美容產(chǎn)品或者健康或美容治療的選項(xiàng);以及通過用所述用戶的映像覆蓋預(yù)期結(jié)果的圖像來顯示所述健康或美容產(chǎn)品或者健康或美容治療的所述預(yù)期結(jié)果。
95、87.根據(jù)實(shí)施例83所述的系統(tǒng),其中所述延長的時(shí)間間隔包括多個(gè)月或多年。
96、88.根據(jù)實(shí)施例83所述的系統(tǒng),其中每天執(zhí)行捕獲一個(gè)或多個(gè)圖像。
97、89.根據(jù)實(shí)施例83所述的系統(tǒng),其中執(zhí)行比較包括執(zhí)行健康分析。
98、90.根據(jù)實(shí)施例89所述的系統(tǒng),其中執(zhí)行健康分析包括檢測體形、皮膚蒼白度、皮膚特征的變化。
99、91.根據(jù)實(shí)施例90所述的方法,其中執(zhí)行健康分析包括實(shí)時(shí)地與醫(yī)務(wù)人員交互。
100、92.根據(jù)實(shí)施例53所述的系統(tǒng),其中所述增強(qiáng)現(xiàn)實(shí)內(nèi)容包括執(zhí)行任務(wù)的警報(bào)。
101、93.根據(jù)實(shí)施例92所述的系統(tǒng),其中所述任務(wù)是重復(fù)的任務(wù)。
102、94.根據(jù)實(shí)施例93所述的系統(tǒng),其中所述重復(fù)的任務(wù)包括用牙線清潔牙齒、服用藥物和訂購藥物中的一者或多者。
103、95.根據(jù)實(shí)施例53所述的系統(tǒng),其中所述增強(qiáng)現(xiàn)實(shí)內(nèi)容包括所述用戶的醫(yī)學(xué)信息。
104、96.根據(jù)實(shí)施例95所述的系統(tǒng),其中所述醫(yī)學(xué)信息包括體重、身高和體重指數(shù)中的一者或多者。
105、97.根據(jù)實(shí)施例96所述的系統(tǒng),其中所述操作進(jìn)一步包括訪問來自秤、溫度計(jì)、血壓計(jì)和心率監(jiān)測器中的一者或多者的數(shù)據(jù),其中隨后顯示增強(qiáng)現(xiàn)實(shí)內(nèi)容包括顯示所訪問的數(shù)據(jù)或從所訪問的數(shù)據(jù)導(dǎo)出的信息中的一者或全部兩者。
106、98.根據(jù)實(shí)施例53所述的系統(tǒng),其中所述操作進(jìn)一步包括:從不同角度捕獲所述用戶的多個(gè)圖像;檢測當(dāng)前圖像與參考圖像或參考數(shù)據(jù)之間的差異;其中隨后顯示增強(qiáng)現(xiàn)實(shí)內(nèi)容包括顯示檢測差異的結(jié)果。
107、99.根據(jù)實(shí)施例53所述的系統(tǒng),其中隨后顯示增強(qiáng)現(xiàn)實(shí)內(nèi)容包括將醫(yī)學(xué)成像覆蓋到所述用戶的映像上。
108、100.根據(jù)實(shí)施例53所述的系統(tǒng),其中隨后顯示增強(qiáng)現(xiàn)實(shí)內(nèi)容包括將運(yùn)動(dòng)圖像覆蓋到所述用戶的映像上,所述運(yùn)動(dòng)圖像包括人的線圖或圖像,其中所述人的線圖或圖像顯示與特定運(yùn)動(dòng)相關(guān)的動(dòng)作和身體姿勢。
109、101.根據(jù)實(shí)施例53所述的系統(tǒng),其中隨后顯示增強(qiáng)現(xiàn)實(shí)內(nèi)容包括顯示用于確定所述用戶的映像的尺寸的虛擬標(biāo)尺。
110、102.一種顯示系統(tǒng),包括:可穿戴顯示設(shè)備,其包括:顯示區(qū)域,所述顯示區(qū)域包括被配置為將光引導(dǎo)到用戶的光重定向特征,其中所述顯示區(qū)域至少部分透明,從而通過所述顯示區(qū)域提供周圍環(huán)境的視圖;硬件處理器;以及包括計(jì)算機(jī)可執(zhí)行指令的非暫時(shí)性計(jì)算機(jī)可讀存儲介質(zhì),當(dāng)由所述硬件處理器執(zhí)行時(shí),所述計(jì)算機(jī)可執(zhí)行指令配置所述硬件處理器執(zhí)行操作,所述操作包括:通過所述顯示區(qū)域確定映像在所述用戶的視野內(nèi)。
111、103.根據(jù)實(shí)施例102所述的顯示系統(tǒng),其中確定所述映像在所述用戶的視野內(nèi)包括:分析所述映像的圖像,以及確定所述映像中的方向特征是否被反轉(zhuǎn)。
112、104.根據(jù)實(shí)施例102所述的顯示系統(tǒng),其中所述用戶在所述映像中,并且其中所述操作進(jìn)一步包括:捕獲所述用戶的映像的圖像;以及基于所捕獲的所述用戶的圖像執(zhí)行健康分析。
113、105.根據(jù)實(shí)施例104所述的顯示系統(tǒng),其中所述健康分析包括神經(jīng)學(xué)測試。
114、106.根據(jù)實(shí)施例104所述的顯示系統(tǒng),其中所述健康分析包括以下一者或多者:顱神經(jīng)測試、運(yùn)動(dòng)檢查、可觀察到的身體異常的檢查、肌肉張力和體積的檢查、肌肉的功能測試、個(gè)體肌肉群的力量測試、反射測試、協(xié)調(diào)測試和步態(tài)測試。
115、107.根據(jù)實(shí)施例102所述的顯示系統(tǒng),其中所述操作進(jìn)一步包括與其它顯示系統(tǒng)共享有關(guān)所述映像的信息。
116、108.根據(jù)實(shí)施例107所述的顯示系統(tǒng),其中所述操作進(jìn)一步包括:從另一顯示系統(tǒng)接收共享信息,以及顯示與所述另一顯示系統(tǒng)的用戶所體驗(yàn)的視圖相對應(yīng)的增強(qiáng)現(xiàn)實(shí)內(nèi)容。
117、109.根據(jù)實(shí)施例102所述的顯示系統(tǒng),其中所述顯示系統(tǒng)被配置為確定由曲面鏡提供的放大率。
118、110.根據(jù)實(shí)施例109所述的顯示系統(tǒng),其中所述顯示系統(tǒng)被配置為在顯示所述映像中的特征的圖像的同時(shí)校正所述放大率。
119、111.根據(jù)實(shí)施例109所述的顯示系統(tǒng),其中所述顯示系統(tǒng)被配置為在確定所述映像中的特征的尺寸的同時(shí)校正所述放大率。
120、112.一種用于顯示圖像的方法,所述方法包括:提供可穿戴顯示設(shè)備,所述可穿戴顯示設(shè)備包括顯示區(qū)域,所述顯示區(qū)域包括被配置為將光引導(dǎo)到用戶的光重定向特征,其中所述顯示區(qū)域至少部分透明,從而通過所述顯示區(qū)域提供周圍環(huán)境的視圖;通過所述顯示區(qū)域確定映像在所述用戶的視野內(nèi)。
121、113.根據(jù)實(shí)施例111所述的方法,其中確定所述映像在所述用戶的視野內(nèi)包括分析所述映像的圖像,并確定所述映像中的方向特征是否被反轉(zhuǎn)。
122、114.根據(jù)實(shí)施例111所述的方法,其中所述用戶在所述映像中,并且進(jìn)一步包括:捕獲所述用戶的映像的圖像;以及基于所捕獲的所述用戶的圖像執(zhí)行健康分析。
123、115.根據(jù)實(shí)施例113所述的方法,其中所述健康分析包括神經(jīng)學(xué)測試。
124、116.根據(jù)實(shí)施例113所述的方法,其中執(zhí)行所述健康分析包括執(zhí)行以下一者或多者:顱神經(jīng)測試、運(yùn)動(dòng)檢查、可觀察到的身體異常的檢查、肌肉張力和體積的檢查、肌肉的功能測試、個(gè)體肌肉群的力量測試、反射測試、協(xié)調(diào)測試和步態(tài)測試。
125、117.根據(jù)實(shí)施例113所述的方法,進(jìn)一步包括與其它顯示系統(tǒng)共享有關(guān)所述映像的信息。
126、118.根據(jù)實(shí)施例113所述的方法,進(jìn)一步包括:從另一顯示系統(tǒng)接收共享信息,以及顯示與所述另一顯示系統(tǒng)的用戶所體驗(yàn)的視圖相對應(yīng)的增強(qiáng)現(xiàn)實(shí)內(nèi)容。
127、119.根據(jù)實(shí)施例111所述的方法,進(jìn)一步包括確定由曲面鏡提供的放大率。
128、120.根據(jù)實(shí)施例118所述的方法,進(jìn)一步包括在顯示所述映像中的特征的圖像的同時(shí)校正所述放大率。
129、121.根據(jù)實(shí)施例118所述的方法,進(jìn)一步包括在校正所述放大率的同時(shí)確定所述映像中的特征的尺寸。
130、122.一種顯示系統(tǒng),包括:可穿戴顯示設(shè)備,其包括顯示區(qū)域,所述顯示區(qū)域包括被配置為將光引導(dǎo)到用戶的光重定向特征,其中所述顯示區(qū)域至少部分透明,從而通過所述顯示區(qū)域提供周圍環(huán)境的視圖;面向外的相機(jī);硬件處理器;以及包括計(jì)算機(jī)可執(zhí)行指令的非暫時(shí)性計(jì)算機(jī)可讀存儲介質(zhì),當(dāng)由所述硬件處理器執(zhí)行時(shí),所述計(jì)算機(jī)可執(zhí)行指令配置所述硬件處理器執(zhí)行操作,所述操作包括:使用所述面向外的相機(jī)被動(dòng)地收集圖像信息;確定所述圖像信息是否包含映像;確定所述圖像信息是否包含與所述用戶的健康分析相關(guān)的數(shù)據(jù);以及執(zhí)行所述健康分析。
131、123.根據(jù)實(shí)施例120所述的顯示系統(tǒng),其中所述硬件處理器被配置為在所述用戶穿戴著所述可穿戴顯示設(shè)備的同時(shí)基本連續(xù)地被動(dòng)地收集所述圖像信息,并且間歇地確定所述圖像信息包含與所述健康分析相關(guān)的數(shù)據(jù)。
132、124.根據(jù)實(shí)施例120所述的顯示系統(tǒng),其中所述硬件處理器被配置為在多個(gè)周的持續(xù)時(shí)間內(nèi)重復(fù)地執(zhí)行所述健康分析。
133、125.根據(jù)實(shí)施例120所述的顯示系統(tǒng),其中所述圖像信息包括靜止圖像。
134、126.根據(jù)實(shí)施例120所述的顯示系統(tǒng),其中所述圖像信息包括視頻。
135、127.一種用于顯示圖像的方法,所述方法包括:提供可穿戴顯示設(shè)備,所述可穿戴顯示設(shè)備包括:顯示區(qū)域,其包括被配置為將光引導(dǎo)到用戶的光重定向特征,其中所述顯示區(qū)域至少部分透明,從而通過所述顯示區(qū)域提供周圍環(huán)境的視圖;以及面向外的相機(jī);使用所述面向外的相機(jī)被動(dòng)地收集圖像信息;確定所述圖像信息是否包含映像;確定所述圖像信息是否包含與所述用戶的健康分析相關(guān)的數(shù)據(jù);以及執(zhí)行所述健康分析。
136、128.根據(jù)實(shí)施例125所述的方法,其中在所述用戶穿戴著所述可穿戴顯示設(shè)備的同時(shí)基本連續(xù)地執(zhí)行被動(dòng)地收集所述圖像信息,并且其中在所述用戶穿戴著所述可穿戴顯示設(shè)備的同時(shí)間歇地執(zhí)行確定所述圖像信息是否包含與健康分析相關(guān)的數(shù)據(jù)。
137、129.根據(jù)實(shí)施例125所述的方法,進(jìn)一步包括在多個(gè)周的持續(xù)時(shí)間內(nèi)重復(fù)以下操作:確定所述圖像信息是否包含映像;確定所述圖像信息是否包含與所述用戶的健康分析相關(guān)的數(shù)據(jù);以及執(zhí)行所述健康分析。
138、130.根據(jù)實(shí)施例125所述的方法,其中被動(dòng)地收集圖像信息包括收集靜止圖像。
139、131.根據(jù)實(shí)施例125所述的方法,其中被動(dòng)地收集圖像信息包括收集視頻。
140、以下是涉及使用基于圖像的線索的鏡子檢測的示例性實(shí)施例。
141、1.一種用于檢測環(huán)境中的鏡子的方法,所述方法包括:在包括計(jì)算機(jī)硬件的增強(qiáng)現(xiàn)實(shí)設(shè)備(ard)的控制下,所述ard包括被配置為對用戶周圍的環(huán)境進(jìn)行成像的面向外的成像系統(tǒng):使用所述面向外的成像系統(tǒng)獲得所述環(huán)境的圖像,所述圖像包括目標(biāo)對象,其中所述目標(biāo)對象可以包括至少部分地圍繞所述鏡子的框架;至少部分地基于對所述圖像的分析來識別指示所述鏡子的線索;至少部分地基于所識別的線索確認(rèn)所述鏡子的存在;以及至少部分地基于所確認(rèn)的所述環(huán)境中的所述鏡子的存在執(zhí)行動(dòng)作。
142、2.根據(jù)實(shí)施例1所述的方法,其中識別所述線索包括:識別所述圖像中的第一多個(gè)關(guān)鍵點(diǎn);訪問所述環(huán)境的世界地圖,其中所述世界地圖包括有關(guān)所述環(huán)境中的實(shí)體對象的信息;識別所述世界地圖中的第二多個(gè)關(guān)鍵點(diǎn);以及將所述第一多個(gè)關(guān)鍵點(diǎn)與所述第二多個(gè)關(guān)鍵點(diǎn)進(jìn)行比較,以確定所述第一多個(gè)關(guān)鍵點(diǎn)是否為所述第二多個(gè)關(guān)鍵點(diǎn)在所述鏡子中的映像。
143、3.根據(jù)實(shí)施例2所述的方法,其中將所述第一多個(gè)關(guān)鍵點(diǎn)與所述第二多個(gè)關(guān)鍵點(diǎn)進(jìn)行比較包括確定由所述第一多個(gè)關(guān)鍵點(diǎn)形成的第一幾何形狀與由所述第二多個(gè)關(guān)鍵點(diǎn)形成的第二幾何形狀之間的幾何關(guān)系。
144、4.根據(jù)實(shí)施例2或?qū)嵤├?所述的方法,其中所述第一多個(gè)關(guān)鍵點(diǎn)包括第一相鄰關(guān)鍵點(diǎn)三元組,并且其中所述第二多個(gè)關(guān)鍵點(diǎn)包括第二相鄰關(guān)鍵點(diǎn)三元組。
145、5.根據(jù)實(shí)施例4所述的方法,其中確定所述第一多個(gè)關(guān)鍵點(diǎn)是否為所述第二多個(gè)關(guān)鍵點(diǎn)在所述鏡子中的映像包括:確定所述第一相鄰關(guān)鍵點(diǎn)三元組之間的開放角和所述第二相鄰關(guān)鍵點(diǎn)三元組之間的開放角。
146、6.根據(jù)實(shí)施例3至5中任一項(xiàng)所述的方法,其中確定由所述第一多個(gè)關(guān)鍵點(diǎn)形成的所述第一幾何形狀與由所述第二多個(gè)關(guān)鍵點(diǎn)形成的所述第二幾何形狀之間的幾何關(guān)系包括分別軸向變換所述第一幾何形狀或所述第二幾何形狀。
147、7.根據(jù)實(shí)施例2至6中任一項(xiàng)所述的方法,其中所述線索包括以下一者或多者:所述第一多個(gè)關(guān)鍵點(diǎn)與所述第二多個(gè)關(guān)鍵點(diǎn)之間的匹配;或所述第一幾何形狀與所述第二幾何形狀之間的匹配。
148、8.根據(jù)實(shí)施例1至7中任一項(xiàng)所述的方法,其中識別所述線索包括在所述環(huán)境的圖像中識別所述目標(biāo)對象中的反射對象。
149、9.根據(jù)實(shí)施例8所述的方法,其中所述反射對象包括所述用戶的頭部的鏡像、所述ard的鏡像、所述環(huán)境中的實(shí)體對象的鏡像、或所述環(huán)境中的文本的鏡像。
150、10.根據(jù)實(shí)施例1至9中任一項(xiàng)所述的方法,其中識別所述線索包括:識別所述目標(biāo)對象的邊界;測量所述目標(biāo)對象的邊界處的第一深度;測量出現(xiàn)在所述目標(biāo)對象的邊界內(nèi)的對象的第二深度;以及比較所述第一深度與所述第二深度以確定所述第一深度是否與所述第二深度匹配。
151、11.根據(jù)實(shí)施例10所述的方法,其中所述線索包括所述第一深度與所述第二深度之間的不匹配。
152、12.根據(jù)實(shí)施例1至11中任一項(xiàng)所述的方法,其中識別所述線索包括識別所述環(huán)境的圖像中的所述目標(biāo)對象的特征。
153、13.根據(jù)實(shí)施例12所述的方法,其中所述特征包括以下一者或多者:尺寸、位置、表面法線、框架、形狀或與所述目標(biāo)對象相關(guān)聯(lián)的標(biāo)簽。
154、14.根據(jù)實(shí)施例13所述的方法,其中所述標(biāo)簽包括光學(xué)標(biāo)簽,所述光學(xué)標(biāo)簽包含指示所述鏡子的存在的信息。
155、15.根據(jù)實(shí)施例1至14中任一項(xiàng)所述的方法,其中確認(rèn)所述鏡子的存在包括由所述ard向與所述目標(biāo)對象相關(guān)聯(lián)的標(biāo)簽發(fā)送信號,并從所述標(biāo)簽接收響應(yīng),其中所述響應(yīng)包括指示所述鏡子的存在的信息。
156、16.根據(jù)實(shí)施例1至14中任一項(xiàng)所述的方法,其中確認(rèn)所述鏡子的存在包括從與目標(biāo)對象相關(guān)聯(lián)的標(biāo)簽接收信號,其中所述信號包括指示所述鏡子的存在的信息。
157、17.根據(jù)實(shí)施例15或16所述的方法,其中所述信號包括電磁信號或聲信號。
158、18.根據(jù)實(shí)施例1至17中任一項(xiàng)所述的方法,其中執(zhí)行動(dòng)作包括:訪問所述環(huán)境的世界地圖;以及至少部分地基于所確認(rèn)的所述鏡子的存在更新所述環(huán)境的世界地圖。
159、19.根據(jù)實(shí)施例1至18中任一項(xiàng)所述的方法,其中執(zhí)行動(dòng)作包括響應(yīng)于對所述鏡子的存在的確認(rèn),使用所述鏡子進(jìn)行遠(yuǎn)端臨場會話。
160、20.根據(jù)實(shí)施例1至19中任一項(xiàng)所述的方法,其中所述目標(biāo)對象包括以下一者或多者:門道、窗戶或鏡子。
161、21.一種用于檢測環(huán)境中的反射表面的方法,所述方法包括:在包括計(jì)算機(jī)硬件的增強(qiáng)現(xiàn)實(shí)設(shè)備(ard)的控制下,所述ard包括被配置為對用戶周圍的環(huán)境進(jìn)行成像的面向外的成像系統(tǒng):使用所述面向外的成像系統(tǒng)獲得所述環(huán)境的圖像,所述圖像包括目標(biāo)對象,其中所述目標(biāo)對象可以包括反射表面;至少部分地基于對所述圖像的分析來識別指示所述反射表面的線索;以及至少部分地基于所識別的線索確認(rèn)所述反射表面的存在。
162、22.根據(jù)實(shí)施例21所述的方法,其中識別所述線索包括:識別由所述圖像中的第一多個(gè)關(guān)鍵點(diǎn)形成的第一幾何圖形;訪問所述環(huán)境的世界地圖,其中所述世界地圖包括有關(guān)所述環(huán)境中的實(shí)體對象的信息;識別由所述世界地圖中的第二多個(gè)關(guān)鍵點(diǎn)形成的第二幾何圖形;以及計(jì)算所述第一幾何圖形與所述第二幾何圖形之間的幾何關(guān)系,以確定所述第一幾何圖形是否為所述第二幾何圖形的反射圖像。
163、23.根據(jù)實(shí)施例22所述的方法,其中所述第一多個(gè)關(guān)鍵點(diǎn)包括第一關(guān)鍵點(diǎn)三元組,并且其中所述第二多個(gè)關(guān)鍵點(diǎn)包括第二關(guān)鍵點(diǎn)三元組。
164、24.根據(jù)實(shí)施例23所述的方法,其中計(jì)算所述幾何關(guān)系包括:確定所述第一關(guān)鍵點(diǎn)三元組之間的開放角和所述第二關(guān)鍵點(diǎn)三元組之間的開放角。
165、25.根據(jù)實(shí)施例22至24中任一項(xiàng)所述的方法,其中計(jì)算所述幾何關(guān)系包括分別軸向變換所述第一幾何形狀或所述第二幾何形狀。
166、26.根據(jù)實(shí)施例22至25中任一項(xiàng)所述的方法,其中計(jì)算所述幾何關(guān)系包括確定所述第一幾何形狀的第一尺寸與所述第二幾何形狀的第二尺寸之間的放大量。
167、27.根據(jù)實(shí)施例22至26中任一項(xiàng)所述的方法,其中所述線索包括所述第一幾何形狀與所述第二幾何形狀之間的匹配。
168、28.根據(jù)實(shí)施例21至27中任一項(xiàng)所述的方法,其中識別所述線索包括在所述環(huán)境的圖像中識別所述目標(biāo)對象中的反射對象。
169、29.根據(jù)實(shí)施例28所述的方法,其中所述反射對象包括所述用戶的頭部的鏡像、所述ard的鏡像、所述環(huán)境中的實(shí)體對象的鏡像、或所述環(huán)境中的文本的鏡像。
170、30.根據(jù)實(shí)施例21至29中任一項(xiàng)所述的方法,其中識別所述線索包括:識別所述目標(biāo)對象的邊界;測量所述目標(biāo)對象的邊界處的第一深度;測量出現(xiàn)在所述目標(biāo)對象的邊界內(nèi)的對象的第二深度;以及比較所述第一深度與所述第二深度以確定所述第一深度是否與所述第二深度匹配。
171、31.根據(jù)實(shí)施例30所述的方法,其中所述線索包括所述第一深度與所述第二深度之間的不匹配。
172、32.根據(jù)實(shí)施例21至31中任一項(xiàng)所述的方法,其中識別所述線索包括識別所述環(huán)境的圖像中的所述目標(biāo)對象的特征。
173、33.根據(jù)實(shí)施例32所述的方法,其中所述特征包括以下一者或多者:尺寸、位置、表面法線、框架、形狀或與所述目標(biāo)對象相關(guān)聯(lián)的標(biāo)簽。
174、34.根據(jù)實(shí)施例33所述的方法,其中所述標(biāo)簽包括光學(xué)標(biāo)簽,所述光學(xué)標(biāo)簽包含指示所述反射表面的存在的信息。
175、35.根據(jù)實(shí)施例21至34中任一項(xiàng)所述的方法,其中確認(rèn)所述反射表面的存在包括由所述ard向與所述目標(biāo)對象相關(guān)聯(lián)的標(biāo)簽發(fā)送信號,并從所述標(biāo)簽接收響應(yīng),其中所述響應(yīng)包括指示所述反射表面的存在的信息。
176、36.根據(jù)實(shí)施例21至34中任一項(xiàng)所述的方法,其中確認(rèn)所述反射表面的存在包括從與目標(biāo)對象相關(guān)聯(lián)的標(biāo)簽接收信號,其中所述信號包括指示所述反射表面的存在的信息。
177、37.根據(jù)實(shí)施例35或36所述的方法,其中所述信號包括電磁信號或聲信號。
178、38.根據(jù)實(shí)施例21至37中任一項(xiàng)所述的方法,其中執(zhí)行動(dòng)作包括:訪問所述環(huán)境的世界地圖;以及至少部分地基于所確認(rèn)的所述反射表面的存在更新所述環(huán)境的世界地圖。
179、39.根據(jù)實(shí)施例21至38中任一項(xiàng)所述的方法,其中執(zhí)行動(dòng)作包括響應(yīng)于對所述反射表面的存在的確認(rèn),使用所述反射表面進(jìn)行遠(yuǎn)端臨場會話。
180、40.根據(jù)實(shí)施例21至39中任一項(xiàng)所述的方法,其中所述目標(biāo)對象包括以下一者或多者:門道、窗戶或鏡子。
181、41.一種增強(qiáng)現(xiàn)實(shí)設(shè)備(ard),包括計(jì)算機(jī)硬件和被配置為對用戶周圍的環(huán)境進(jìn)行成像的面向外的成像系統(tǒng),所述增強(qiáng)現(xiàn)實(shí)系統(tǒng)被編程為執(zhí)行實(shí)施例1至40中的任一方法。
182、以下是涉及使用基于傳感器的線索的鏡子檢測的示例性實(shí)施例。
183、1.一種用于檢測環(huán)境中的鏡子的方法,所述方法包括:在包括計(jì)算機(jī)硬件的增強(qiáng)現(xiàn)實(shí)設(shè)備(ard)的控制下,所述ard包括被配置為對用戶周圍的環(huán)境進(jìn)行成像的面向外的相機(jī)和被配置為確定所述環(huán)境中的實(shí)體對象的移動(dòng)的慣性測量單元(imu):檢測所述實(shí)體對象在目標(biāo)對象中的反射圖像,其中所述目標(biāo)對象可以是鏡子;收集與所述反射圖像相關(guān)聯(lián)的第一移動(dòng)數(shù)據(jù);收集與所述實(shí)體對象相關(guān)聯(lián)的第二移動(dòng)數(shù)據(jù);將所述第一移動(dòng)數(shù)據(jù)與所述第二移動(dòng)數(shù)據(jù)進(jìn)行比較,以識別指示所述鏡子的存在的線索;以及至少部分地基于所識別的線索確認(rèn)所述鏡子的存在。
184、2.根據(jù)實(shí)施例1所述的方法,其中所述實(shí)體對象包括所述用戶的身體的至少一部分。
185、3.根據(jù)實(shí)施例2所述的方法,其中所述實(shí)體對象包括所述用戶的頭部或手。
186、4.根據(jù)實(shí)施例1至3中任一項(xiàng)所述的方法,其中收集所述第一移動(dòng)數(shù)據(jù)和收集所述第二移動(dòng)數(shù)據(jù)由所述面向外的相機(jī)執(zhí)行。
187、5.根據(jù)實(shí)施例4所述的方法,其中所述第一移動(dòng)數(shù)據(jù)包括指示所述反射圖像在一時(shí)間段內(nèi)的位置變化的圖像,并且其中所述第二移動(dòng)數(shù)據(jù)包括指示所述實(shí)體對象在所述時(shí)間段內(nèi)的位置變化的圖像。
188、6.根據(jù)實(shí)施例1至3中任一項(xiàng)所述的方法,其中收集所述第一移動(dòng)數(shù)據(jù)由所述面向外的相機(jī)執(zhí)行,并且收集所述第二移動(dòng)數(shù)據(jù)由所述imu執(zhí)行。
189、7.根據(jù)實(shí)施例6所述的方法,其中所述第一移動(dòng)數(shù)據(jù)包括指示所述反射圖像在一時(shí)間段內(nèi)的位置變化的圖像,并且其中所述第二移動(dòng)數(shù)據(jù)包括所述實(shí)體對象在所述時(shí)間段內(nèi)的位置變化。
190、8.根據(jù)實(shí)施例5或?qū)嵤├?所述的方法,其中將所述第一移動(dòng)數(shù)據(jù)與所述第二移動(dòng)數(shù)據(jù)進(jìn)行比較以識別所述線索包括:產(chǎn)生與所述反射圖像相關(guān)聯(lián)的第一軌跡,所述第一軌跡至少部分地基于所述第一移動(dòng)數(shù)據(jù);產(chǎn)生與所述反射圖像相關(guān)聯(lián)的第二軌跡,所述第二軌跡至少部分地基于所述第二移動(dòng)數(shù)據(jù);以及計(jì)算所述第一軌跡和所述第二軌跡的協(xié)方差。
191、9.根據(jù)實(shí)施例8所述的方法,其中所述線索包括確定所述協(xié)方差小于閾值。
192、10.根據(jù)實(shí)施例1至9中任一項(xiàng)所述的方法,其中確認(rèn)所述鏡子的存在包括由所述ard向與所述目標(biāo)對象相關(guān)聯(lián)的標(biāo)簽發(fā)送信號,并從所述標(biāo)簽接收響應(yīng),其中所述響應(yīng)包括指示所述鏡子的存在的信息。
193、11.根據(jù)實(shí)施例1至10中任一項(xiàng)所述的方法,其中確認(rèn)所述鏡子的存在包括從與目標(biāo)對象相關(guān)聯(lián)的標(biāo)簽接收信號,其中所述信號包括指示所述鏡子的存在的信息。
194、12.根據(jù)實(shí)施例10或?qū)嵤├?1所述的方法,其中所述信號包括電磁信號或聲信號。
195、13.一種用于檢測環(huán)境中的反射表面的方法,所述方法包括:在包括計(jì)算機(jī)硬件的增強(qiáng)現(xiàn)實(shí)設(shè)備(ard)的控制下,所述ard包括被配置為對用戶周圍的環(huán)境進(jìn)行成像的面向外的相機(jī)和被配置為跟蹤所述環(huán)境中的實(shí)體對象的移動(dòng)的慣性測量單元(imu):檢測實(shí)體對象在目標(biāo)對象中的反射圖像,其中所述目標(biāo)對象可以包括反射表面;收集與所述反射圖像相關(guān)聯(lián)的第一移動(dòng)數(shù)據(jù);收集與所述實(shí)體對象相關(guān)聯(lián)的第二移動(dòng)數(shù)據(jù);將所述第一移動(dòng)數(shù)據(jù)與所述第二移動(dòng)數(shù)據(jù)進(jìn)行比較,以識別指示所述反射表面的存在的線索。
196、14.根據(jù)實(shí)施例13所述的方法,其中所述實(shí)體對象包括所述用戶的身體的至少一部分。
197、15.根據(jù)實(shí)施例14所述的方法,其中所述實(shí)體對象包括所述用戶的頭部或手。
198、16.根據(jù)實(shí)施例13至15中任一項(xiàng)所述的方法,其中收集所述第一移動(dòng)數(shù)據(jù)和收集所述第二移動(dòng)數(shù)據(jù)包括:由所述面向外的相機(jī)在一時(shí)間段內(nèi)獲得圖像;識別在所述圖像中所述反射圖像的各個(gè)位置;基于所識別的所述反射圖像的各個(gè)位置計(jì)算第一軌跡;識別在所述圖像中所述實(shí)體對象的各個(gè)位置;以及基于所識別的所述實(shí)體對象的各個(gè)位置計(jì)算第二軌跡。
199、17.根據(jù)實(shí)施例13至15中任一項(xiàng)所述的方法,其中收集所述第一移動(dòng)數(shù)據(jù)由所述面向外的相機(jī)執(zhí)行,并且收集所述第二移動(dòng)數(shù)據(jù)由所述imu執(zhí)行。
200、18.根據(jù)實(shí)施例13至17中任一項(xiàng)所述的方法,其中識別所述線索包括:計(jì)算所述第一移動(dòng)數(shù)據(jù)與所述第二移動(dòng)數(shù)據(jù)之間的協(xié)方差;以及確定所述協(xié)方差是否小于閾值。
201、19.根據(jù)實(shí)施例18所述的方法,其中響應(yīng)于確定所述協(xié)方差小于所述閾值而識別所述線索。
202、20.一種用于檢測環(huán)境中的反射表面的增強(qiáng)現(xiàn)實(shí)(ar)系統(tǒng),所述ar系統(tǒng)包括:被配置為對用戶周圍的環(huán)境進(jìn)行成像的面向外的相機(jī);被配置為測量一對象的移動(dòng)的慣性測量單元;以及被配置為執(zhí)行實(shí)施例1至19中的任一方法的硬件處理器。
203、21.一種用于檢測環(huán)境中的反射表面的方法,所述方法包括:在包括計(jì)算機(jī)硬件的增強(qiáng)現(xiàn)實(shí)設(shè)備(ard)的控制下,所述ard包括被配置為發(fā)送信號或接收來自所述ard外部的一對象的信號的多個(gè)傳感器:識別目標(biāo)對象,其中所述目標(biāo)對象可包括反射表面;向所述目標(biāo)對象附近的區(qū)域發(fā)送信號;從與所述目標(biāo)對象相關(guān)聯(lián)的一對象接收所述信號的反饋;以及分析所述反饋以確認(rèn)所述目標(biāo)對象包括反射表面。
204、22.根據(jù)實(shí)施例21所述的方法,其中所述信號包括電磁信號或聲信號。
205、23.根據(jù)實(shí)施例22所述的方法,其中電磁信號包括光信號。
206、24.根據(jù)實(shí)施例23所述的方法,其中發(fā)送所述信號包括使光束朝著所述目標(biāo)對象閃爍。
207、25.根據(jù)實(shí)施例21所述的方法,其中所述反饋包括被所述目標(biāo)對象反射的所述信號的一部分。
208、26.根據(jù)實(shí)施例21至25中任一項(xiàng)所述的方法,其中所述目標(biāo)對象包括鏡子。
209、27.根據(jù)實(shí)施例21至26中任一項(xiàng)所述的方法,其中分析所述反饋包括:確定所述反饋的強(qiáng)度;以及如果所述反饋的強(qiáng)度超過閾值,則確認(rèn)所述目標(biāo)對象包括反射表面。
210、28.一種用于檢測用戶環(huán)境中的反射表面的方法,所述方法包括:在包括計(jì)算機(jī)硬件的增強(qiáng)現(xiàn)實(shí)設(shè)備(ard)的控制下,所述ard包括被配置為發(fā)送信號或接收來自所述ard外部的目標(biāo)對象的信號的多個(gè)傳感器:接收指示反射表面在所述環(huán)境中的存在的信號;識別可能與所接收的信號相關(guān)聯(lián)的所述目標(biāo)對象;以及確認(rèn)所述目標(biāo)對象與所述反射表面相關(guān)聯(lián)。
211、29.根據(jù)實(shí)施例28所述的方法,其中所述信號包括電磁信號或聲信號。
212、30.根據(jù)實(shí)施例28或?qū)嵤├?9所述的方法,其中所述目標(biāo)對象包括被配置為發(fā)射所述信號的射頻識別標(biāo)記(tag)。
213、31.根據(jù)實(shí)施例28所述的方法,其中確認(rèn)所述目標(biāo)對象與所述反射表面相關(guān)聯(lián)包括:使用所述ard的成像系統(tǒng)獲得所述環(huán)境的圖像,所述圖像包括所述目標(biāo)對象;以及至少部分地基于對所述圖像的分析來識別線索。
214、32.根據(jù)實(shí)施例31所述的方法,其中識別所述線索包括:識別所述圖像中的第一多個(gè)關(guān)鍵點(diǎn);訪問所述環(huán)境的世界地圖,其中所述世界地圖包括有關(guān)所述環(huán)境中的實(shí)體對象的信息;識別所述世界地圖中的第二多個(gè)關(guān)鍵點(diǎn);將所述第一多個(gè)關(guān)鍵點(diǎn)與所述第二多個(gè)關(guān)鍵點(diǎn)進(jìn)行比較,以確定所述第一多個(gè)關(guān)鍵點(diǎn)是否為所述第二多個(gè)關(guān)鍵點(diǎn)在所述反射表面中的映像。
215、33.根據(jù)實(shí)施例32所述的方法,其中將所述第一多個(gè)關(guān)鍵點(diǎn)與所述第二多個(gè)關(guān)鍵點(diǎn)進(jìn)行比較包括確定由所述第一多個(gè)關(guān)鍵點(diǎn)形成的第一幾何形狀與由所述第二多個(gè)關(guān)鍵點(diǎn)形成的第二幾何形狀之間的幾何關(guān)系。
216、34.根據(jù)實(shí)施例32或?qū)嵤├?3所述的方法,其中所述第一多個(gè)關(guān)鍵點(diǎn)包括第一相鄰關(guān)鍵點(diǎn)三元組,并且其中所述第二多個(gè)關(guān)鍵點(diǎn)包括第二相鄰關(guān)鍵點(diǎn)三元組。
217、35.根據(jù)實(shí)施例34所述的方法,其中確定所述第一多個(gè)關(guān)鍵點(diǎn)是否為所述第二多個(gè)關(guān)鍵點(diǎn)在所述鏡子中的映像包括:確定所述第一相鄰關(guān)鍵點(diǎn)三元組之間的開放角和所述第二相鄰關(guān)鍵點(diǎn)三元組之間的開放角。
218、36.根據(jù)實(shí)施例33至35中任一項(xiàng)所述的方法,其中確定由所述第一多個(gè)關(guān)鍵點(diǎn)形成的所述第一幾何形狀與由所述第二多個(gè)關(guān)鍵點(diǎn)形成的所述第二幾何形狀之間的幾何關(guān)系包括分別軸向變換所述第一幾何形狀或所述第二幾何形狀。
219、37.根據(jù)實(shí)施例32至36中任一項(xiàng)所述的方法,其中所述線索包括以下一者或多者:所述第一多個(gè)關(guān)鍵點(diǎn)與所述第二多個(gè)關(guān)鍵點(diǎn)之間的匹配;或所述第一幾何形狀與所述第二幾何形狀之間的匹配。
220、38.根據(jù)實(shí)施例31至37中任一項(xiàng)所述的方法,其中識別所述線索包括在所述環(huán)境的圖像中識別所述目標(biāo)對象中的反射對象。
221、39.根據(jù)實(shí)施例38所述的方法,其中所述反射對象包括所述用戶的頭部的鏡像、所述ard的鏡像、所述環(huán)境中的實(shí)體對象的鏡像、或所述用戶的所述環(huán)境中的文本的鏡像。
222、40.根據(jù)實(shí)施例31至39中任一項(xiàng)所述的方法,其中識別所述線索包括:識別所述目標(biāo)對象的邊界;測量所述目標(biāo)對象的邊界處的第一深度;測量出現(xiàn)在所述目標(biāo)對象的邊界內(nèi)的對象的第二深度;以及比較所述第一深度與所述第二深度以確定所述第一深度是否與所述第二深度匹配。
223、41.根據(jù)實(shí)施例40所述的方法,其中所述線索包括所述第一深度與所述第二深度之間的不匹配。
224、42.根據(jù)實(shí)施例31至41中任一項(xiàng)所述的方法,其中識別所述線索包括識別所述環(huán)境的圖像中的所述目標(biāo)對象的特征。
225、43.根據(jù)實(shí)施例42所述的方法,其中所述特征包括以下一者或多者:尺寸、位置、表面法線、框架、形狀或與所述目標(biāo)對象相關(guān)聯(lián)的標(biāo)簽。
226、44.根據(jù)實(shí)施例43所述的方法,其中所述標(biāo)簽包括光學(xué)標(biāo)簽,所述光學(xué)標(biāo)簽包含指示所述鏡子的存在的信息。
227、45.根據(jù)實(shí)施例28所述的方法,其中確認(rèn)所述目標(biāo)對象與所述反射表面相關(guān)聯(lián)包括:檢測實(shí)體對象在所述目標(biāo)對象中的反射圖像;收集與所述反射圖像相關(guān)聯(lián)的第一移動(dòng)數(shù)據(jù);收集與所述目標(biāo)對象相關(guān)聯(lián)的第二移動(dòng)數(shù)據(jù);將所述第一移動(dòng)數(shù)據(jù)與所述第二移動(dòng)數(shù)據(jù)進(jìn)行比較,以識別指示所述反射表面的存在的線索。
228、46.根據(jù)實(shí)施例45所述的方法,其中所述實(shí)體對象包括所述用戶的身體的至少一部分。
229、47.根據(jù)實(shí)施例46所述的方法,其中所述實(shí)體對象包括所述用戶的頭部或手。
230、48.根據(jù)實(shí)施例45至47中任一項(xiàng)所述的方法,其中收集所述第一移動(dòng)數(shù)據(jù)和收集所述第二移動(dòng)數(shù)據(jù)包括:由面向外的相機(jī)在一時(shí)間段內(nèi)獲得圖像;識別在所述圖像中所述反射圖像的各個(gè)位置;基于所識別的所述反射圖像的各個(gè)位置計(jì)算第一軌跡;識別在所述圖像中所述實(shí)體對象的各個(gè)位置;以及基于所識別的所述實(shí)體對象的各個(gè)位置計(jì)算第二軌跡。
231、49.根據(jù)實(shí)施例45至47中任一項(xiàng)所述的方法,其中收集所述第一移動(dòng)數(shù)據(jù)由所述ar系統(tǒng)的面向外的成像系統(tǒng)執(zhí)行,并且收集所述第二移動(dòng)數(shù)據(jù)由所述ar系統(tǒng)的慣性測量單元執(zhí)行。
232、50.根據(jù)實(shí)施例45至49中任一項(xiàng)所述的方法,其中識別所述線索包括:計(jì)算所述第一移動(dòng)數(shù)據(jù)與所述第二移動(dòng)數(shù)據(jù)之間的協(xié)方差;以及確定所述協(xié)方差是否小于閾值。
233、51.根據(jù)實(shí)施例50所述的方法,其中響應(yīng)于確定所述協(xié)方差小于所述閾值而識別所述線索。
234、52.一種增強(qiáng)現(xiàn)實(shí)系統(tǒng),包括一個(gè)或多個(gè)傳感器,并且被配置為執(zhí)行實(shí)施例21至51中的任一方法。
235、以下是涉及在存在反射表面的情況下的增強(qiáng)現(xiàn)實(shí)世界地圖的示例性實(shí)施例。
236、1.一種用于校正三維(3d)世界地圖的方法,所述方法包括:在包括計(jì)算機(jī)硬件的增強(qiáng)現(xiàn)實(shí)(ar)系統(tǒng)的控制下,所述ar系統(tǒng)包括被配置為對用戶周圍的環(huán)境進(jìn)行成像的面向外的相機(jī),所述ar系統(tǒng)與存儲所述3d世界地圖的數(shù)據(jù)存儲器通信:通過所述面向外的相機(jī)檢測所述用戶周圍的環(huán)境中的反射表面的存在;確定與所述反射表面相關(guān)聯(lián)的信息;從所述數(shù)據(jù)存儲器訪問與所述環(huán)境相關(guān)聯(lián)的3d視覺地圖;以及至少部分地基于與所述反射表面相關(guān)聯(lián)的所確定的信息更新所述3d世界地圖。
237、2.根據(jù)實(shí)施例1所述的方法,其中所述反射表面包括鏡子的反射表面。
238、3.根據(jù)實(shí)施例1所述的方法,其中所述檢測所述反射表面的存在包括以下一者或多者:通過所述面向外的相機(jī)檢測所述用戶在所述反射表面上的反射圖像;檢測與所述反射表面相關(guān)聯(lián)的光學(xué)標(biāo)簽;確定所述反射表面與支撐所述反射表面的壁之間的深度不連續(xù)性;或接收與所述反射表面的存在相關(guān)聯(lián)的信號。
239、4.根據(jù)實(shí)施例1至3中任一項(xiàng)所述的方法,其中確定與所述反射表面相關(guān)聯(lián)的信息包括確定所述環(huán)境中的對象的反射圖像的存在。
240、5.根據(jù)實(shí)施例1至3中任一項(xiàng)所述的方法,其中確定與所述反射表面相關(guān)聯(lián)的信息包括確定以下一者或多者:所述鏡子的大小、形狀、位置或語義信息。
241、6.根據(jù)實(shí)施例1至5中任一項(xiàng)所述的方法,其中更新所述3d世界地圖包括從所述3d視覺地圖移除由所述環(huán)境中的對象的反射圖像導(dǎo)致的偽影(artifact)。
242、7.根據(jù)實(shí)施例6所述的方法,其中所述偽影包括所述環(huán)境中的所述對象的反射圖像。
243、8.一種用于生成三維(3d)世界地圖的方法,所述方法包括:在包括計(jì)算機(jī)硬件的增強(qiáng)現(xiàn)實(shí)(ar)系統(tǒng)的控制下,所述ar系統(tǒng)包括被配置為對用戶周圍的環(huán)境進(jìn)行成像的面向外的相機(jī),所述ar系統(tǒng)與存儲所述3d世界地圖的數(shù)據(jù)存儲器通信:通過所述面向外的相機(jī)檢測所述用戶周圍的環(huán)境中的反射表面的存在;確定與所述反射表面相關(guān)聯(lián)的信息;確定所述環(huán)境中的對象的反射圖像的存在;以及至少部分地基于與所述反射表面相關(guān)聯(lián)的所確定的信息生成3d世界地圖,其中所述3d世界地圖將對象的反射圖像正確地識別為非實(shí)體對象。
244、9.根據(jù)實(shí)施例8所述的方法,其中生成所述3d世界地圖包括不將所述對象的反射圖像解釋為所述環(huán)境中的實(shí)際對象。
245、10.根據(jù)實(shí)施例8或9所述的方法,其中生成所述3d世界地圖包括在所述世界地圖中包括所述對象的反射圖像,并將所述對象的反射圖像標(biāo)記為反射圖像。
246、11.根據(jù)實(shí)施例8至10中任一項(xiàng)所述的方法,其中生成所述3d世界地圖包括排除所述世界地圖中的所述對象的反射圖像。
247、12.一種用于校正三維(3d)世界地圖的增強(qiáng)現(xiàn)實(shí)(ar)系統(tǒng),所述增強(qiáng)現(xiàn)實(shí)系統(tǒng)包括:被配置為獲取用戶周圍的環(huán)境的圖像的面向外的相機(jī);存儲所述3d世界地圖和所述圖像的數(shù)據(jù)存儲器;以及與所述數(shù)據(jù)存儲器通信的計(jì)算機(jī)硬件,所述計(jì)算機(jī)硬件被編程為:使用由所述面向外的相機(jī)獲取的所述圖像檢測所述用戶周圍的所述環(huán)境中的反射表面的存在;確定與所述反射表面相關(guān)聯(lián)的信息;從所述數(shù)據(jù)存儲器訪問與所述環(huán)境相關(guān)聯(lián)的所述3d世界地圖;以及至少部分地基于與所述反射表面相關(guān)聯(lián)的所確定的信息更新所述3d世界地圖。
248、13.根據(jù)實(shí)施例12所述的系統(tǒng),其中所述反射表面包括鏡子的反射表面。
249、14.根據(jù)實(shí)施例12或13所述的系統(tǒng),其中為了檢測所述反射表面的存在,所述計(jì)算機(jī)硬件被編程為執(zhí)行以下一者或多者:通過所述面向外的相機(jī)檢測所述用戶在所述反射表面上的反射圖像;檢測與所述反射表面相關(guān)聯(lián)的光學(xué)標(biāo)簽;確定所述反射表面與支撐所述反射表面的壁之間的深度不連續(xù)性;或接收與所述反射表面的存在相關(guān)聯(lián)的信號。
250、15.根據(jù)實(shí)施例12至14中任一項(xiàng)所述的系統(tǒng),其中為了確定與所述反射表面相關(guān)聯(lián)的信息,所述計(jì)算機(jī)硬件被編程為確定所述環(huán)境中對象的反射圖像的存在。
251、16.根據(jù)實(shí)施例12至15中任一項(xiàng)所述的系統(tǒng),其中為了更新所述3d世界地圖,所述計(jì)算機(jī)硬件被編程為從所述3d世界地圖中移除由所述環(huán)境中的所述對象的反射圖像導(dǎo)致的偽影。
252、17.根據(jù)實(shí)施例16所述的系統(tǒng),其中所述偽影包括所述環(huán)境中的所述對象的反射圖像。
253、18.根據(jù)實(shí)施例12至17中任一項(xiàng)所述的系統(tǒng),其中為了確定與所述反射表面相關(guān)聯(lián)的信息,所述計(jì)算機(jī)硬件被編程為確定以下一者或多者:所述反射表面的大小、形狀、位置或語義信息。
254、19.一種用于生成三維(3d)世界地圖的增強(qiáng)現(xiàn)實(shí)(ar)系統(tǒng),所述增強(qiáng)現(xiàn)實(shí)系統(tǒng)包括:被配置為獲取用戶周圍的環(huán)境的圖像的面向外的相機(jī);存儲所述3d世界地圖和所述圖像的數(shù)據(jù)存儲器;以及與所述數(shù)據(jù)存儲器通信的計(jì)算機(jī)硬件,所述計(jì)算機(jī)硬件被編程為:使用由所述面向外的相機(jī)獲取的所述圖像檢測所述用戶周圍的所述環(huán)境中的反射表面的存在;確定與所述反射表面相關(guān)聯(lián)的信息;確定所述環(huán)境中的對象的反射圖像的存在;以及至少部分地基于與所述反射表面相關(guān)聯(lián)的所確定的信息生成3d世界地圖,其中所述3d世界地圖將對象的反射圖像正確地識別為非實(shí)體對象。
255、20.根據(jù)實(shí)施例19所述的系統(tǒng),其中為了生成所述3d世界地圖,所述計(jì)算機(jī)硬件被編程為不將所述對象的反射圖像解釋為所述環(huán)境中的實(shí)際對象。
256、21.根據(jù)實(shí)施例19或20所述的系統(tǒng),其中為了生成所述3d世界地圖,所述計(jì)算機(jī)硬件被編程為排除所述世界地圖中的所述對象的反射圖像。
257、22.根據(jù)實(shí)施例19所述的系統(tǒng),其中為了生成所述3d世界地圖,所述計(jì)算機(jī)硬件被編程為包括所述世界地圖中的所述對象的反射圖像,并將所述對象的反射圖像標(biāo)記為反射圖像。
258、23.一種用于處理三維(3d)世界地圖的方法,所述方法包括:在包括計(jì)算機(jī)硬件的增強(qiáng)現(xiàn)實(shí)(ar)系統(tǒng)的控制下,所述ar系統(tǒng)包括被配置為對用戶周圍的環(huán)境進(jìn)行成像的面向外的相機(jī),所述ar系統(tǒng)與存儲所述3d世界地圖的數(shù)據(jù)存儲器通信:通過所述面向外的相機(jī)對所述用戶的環(huán)境進(jìn)行成像;檢測所述用戶的所述環(huán)境中的反射表面的存在;以及至少部分地基于所述反射表面的存在而處理所述3d世界地圖。
259、24.根據(jù)實(shí)施例23所述的方法,其中處理所述3d世界地圖包括:識別由先前未檢測到的所述反射表面的存在引起的所述3d世界地圖中的偽影;以及從所述3d世界地圖中移除所述偽影。
260、25.根據(jù)實(shí)施例23或?qū)嵤├?4所述的方法,其中處理所述3d世界地圖包括更新所述世界地圖,使得所述3d世界地圖不包括由所述反射表面的存在導(dǎo)致的偽影。
261、26.一種ar系統(tǒng),其被配置為執(zhí)行實(shí)施例8至11或?qū)嵤├?3至25中的任一項(xiàng)的方法。
262、以下是涉及增強(qiáng)現(xiàn)實(shí)遠(yuǎn)端臨場(telepresence)的示例性實(shí)施例。
263、1.一種用于在增強(qiáng)現(xiàn)實(shí)遠(yuǎn)端臨場會話中共享圖像的方法,所述方法包括:在遠(yuǎn)端臨場會話期間,在與第一通話者相關(guān)聯(lián)的第一增強(qiáng)現(xiàn)實(shí)設(shè)備和與第二通話者相關(guān)聯(lián)的第二增強(qiáng)現(xiàn)實(shí)設(shè)備之間建立雙向通信連接,所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備包括被配置為對所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備前面的區(qū)域進(jìn)行成像的第一面向外的相機(jī);通過所述第一面向外的相機(jī)檢測所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備前面的區(qū)域中是否存在鏡子;通過所述第一面向外的相機(jī)檢測所述第一通話者在所述鏡子中的第一圖像;經(jīng)由所述通信連接向所述第二增強(qiáng)現(xiàn)實(shí)設(shè)備傳送所述第一通話者的所述第一圖像的一部分;以及在所述遠(yuǎn)端臨場會話期間通過所述第二增強(qiáng)現(xiàn)實(shí)設(shè)備向所述第二通話者顯示所述第一通話者的所述第一圖像的所述一部分。
264、2.根據(jù)實(shí)施例1所述的方法,其中響應(yīng)于檢測到所述鏡子的存在而執(zhí)行建立所述雙向通信連接。
265、3.根據(jù)實(shí)施例1或?qū)嵤├?所述的方法,進(jìn)一步包括:識別所述第一圖像的一區(qū)域,所述區(qū)域包括遮擋所述第一用戶的面部的所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備的圖像;取代所識別的區(qū)域中的所述第一用戶的面部的未被遮擋部分的圖像以提供未被遮擋的面部圖像,其中傳送所述第一圖像的所述一部分包括傳送所述未被遮擋的面部圖像。
266、4.根據(jù)實(shí)施例3所述的方法,其中所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備包括被配置為對所述第一用戶的眼睛進(jìn)行成像的眼睛跟蹤相機(jī),并且其中取代所述第一用戶的面部的未被遮擋部分的圖像包括在所識別的區(qū)域中插入所述第一用戶的眼睛的圖像。
267、5.根據(jù)實(shí)施例1至4中任一項(xiàng)所述的方法,進(jìn)一步包括:經(jīng)由所述通信連接從所述第二增強(qiáng)現(xiàn)實(shí)設(shè)備接收所述第二通話者的第二圖像;以及在所述遠(yuǎn)端臨場會話期間通過所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備向所述第一通話者顯示所述第二通話者的所述第二圖像。
268、6.根據(jù)實(shí)施例5所述的方法,其中顯示所述第二通話者的所述第二圖像包括顯示所述第二圖像,使得其遮擋所述鏡子中的所述第一通話者的所述第一圖像。
269、7.根據(jù)實(shí)施例5或?qū)嵤├?所述的方法,其中顯示所述第二通話者的所述第二圖像包括向所述第一通話者顯示額外的虛擬內(nèi)容。
270、8.根據(jù)實(shí)施例1至7中任一項(xiàng)所述的方法,其中顯示所述第一通話者的第一圖像的一部分包括向所述第二通話者顯示額外的虛擬內(nèi)容。
271、9.根據(jù)實(shí)施例7或?qū)嵤├?所述的方法,其中所顯示的額外的虛擬內(nèi)容包括混合效果、羽化效果、發(fā)光效果或特殊特征效果。
272、10.根據(jù)實(shí)施例1至9中任一項(xiàng)所述的方法,其中所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備、所述第二增強(qiáng)現(xiàn)實(shí)設(shè)備、或者所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備和所述第二增強(qiáng)現(xiàn)實(shí)設(shè)備兩者都包括頭戴式顯示器。
273、11.根據(jù)實(shí)施例1至10中任一項(xiàng)所述的方法,其中所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備、所述第二增強(qiáng)現(xiàn)實(shí)設(shè)備、或者所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備和所述第二增強(qiáng)現(xiàn)實(shí)設(shè)備兩者都包括被配置為在多個(gè)深度平面處呈現(xiàn)圖像的光場顯示器。
274、12.一種用于在增強(qiáng)現(xiàn)實(shí)遠(yuǎn)端臨場會話中共享圖像的方法,所述方法包括:在與第一通話者相關(guān)聯(lián)的第一增強(qiáng)現(xiàn)實(shí)設(shè)備和與第二通話者相關(guān)聯(lián)的第二增強(qiáng)現(xiàn)實(shí)設(shè)備之間建立雙向通信,所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備包括被配置為對所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備前面的區(qū)域進(jìn)行成像的第一面向外的相機(jī);檢測所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備前面的區(qū)域中是否存在反射表面;通過所述第一面向外的相機(jī)捕獲從所述反射表面反射的所述第一通話者的第一圖像;以及向所述第二增強(qiáng)現(xiàn)實(shí)設(shè)備發(fā)送所述第一通話者的所述第一圖像的至少一部分。
275、13.根據(jù)實(shí)施例12所述的方法,進(jìn)一步包括:通過所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備接收所述第二通話者的第二圖像;以及通過所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備顯示所述第二通話者的所述第二圖像的至少一部分。
276、14.根據(jù)實(shí)施例13所述的方法,其中顯示所述第二通話者的所述第二圖像的至少一部分包括顯示所述第二圖像,使得其遮擋所述鏡子中的所述第一通話者的所述第一圖像。
277、15.根據(jù)實(shí)施例13所述的方法,進(jìn)一步包括通過所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備處理所述第二通話者的所述第二圖像。
278、16.根據(jù)實(shí)施例12所述的方法,進(jìn)一步包括通過所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備處理所述第一通話者的所述第一圖像。
279、17.根據(jù)實(shí)施例12所述的方法,其中將所述第一通話者的所述第一圖像發(fā)送到所述第二增強(qiáng)現(xiàn)實(shí)設(shè)備包括:將所述第一通話者的所述第一圖像發(fā)送到服務(wù)器計(jì)算機(jī)系統(tǒng);通過所述服務(wù)器計(jì)算機(jī)系統(tǒng)處理所述第一通話者的所述第一圖像;以及將所述第一通話者的所述第一圖像發(fā)送到所述第二增強(qiáng)現(xiàn)實(shí)設(shè)備。
280、18.根據(jù)實(shí)施例12至17中任一項(xiàng)所述的方法,其中所述第一通話者的所述第一圖像的處理包括以下至少一者:將虛擬內(nèi)容應(yīng)用于所述第一通話者的所述第一圖像;裁剪所述第一通話者的所述第一圖像的一部分;將背景應(yīng)用于所述第一通話者的所述第一圖像;調(diào)整所述第一通話者的所述第一圖像的大??;識別所述第一通話者的所述第一圖像的一區(qū)域,所述區(qū)域包括遮擋所述第一通話者的面部的所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備的圖像,并取代所識別的區(qū)域中的所述第一用戶的面部的未被遮擋部分的圖像以提供所述第一通話者的面部的未被遮擋的圖像;或者識別未被所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備捕獲的所述第一通話者的身體的一區(qū)域獲并將所識別的區(qū)域添加到所述第一通話者的所述第一圖像。
281、19.根據(jù)實(shí)施例18所述的方法,其中所述虛擬內(nèi)容包括混合效果、羽化效果、發(fā)光效果或特殊特征效果。
282、20.根據(jù)實(shí)施例18所述的方法,其中所述背景包含與游戲、電影、書籍、藝術(shù)、音樂、現(xiàn)有物理元素或虛擬對象相關(guān)聯(lián)的元素。
283、21.根據(jù)實(shí)施例18至20中任一項(xiàng)所述的方法,其中所述背景是動(dòng)畫。
284、22.一種用于在第一通話者與第二通話者之間進(jìn)行電話會議的增強(qiáng)現(xiàn)實(shí)系統(tǒng),所述系統(tǒng)包括:與第一通話者相關(guān)聯(lián)的第一增強(qiáng)現(xiàn)實(shí)設(shè)備,所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備包括第一面向外的相機(jī)以及計(jì)算機(jī)處理器,所述第一面向外的相機(jī)被配置為對所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備前面的區(qū)域進(jìn)行成像,所述計(jì)算機(jī)處理器被配置為與網(wǎng)絡(luò)通信并被編程為:在所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備和與第二通話者相關(guān)聯(lián)的第二增強(qiáng)現(xiàn)實(shí)設(shè)備之間建立雙向通信;檢測所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備前面的區(qū)域中是否存在反射表面;通過所述第一面向外的相機(jī)檢測從所述反射表面反射的所述第一通話者的第一圖像;向所述第二增強(qiáng)現(xiàn)實(shí)設(shè)備發(fā)送所述第一通話者的所述第一圖像的至少一部分;通過所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備接收所述第二通話者的第二圖像;以及通過所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備顯示所述第二通話者的所述第二圖像的至少一部分。
285、23.根據(jù)實(shí)施例22所述的系統(tǒng),其中所述計(jì)算機(jī)處理器被進(jìn)一步編程為通過所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備顯示所述第二通話者的所述第二圖像的至少一部分,使得其遮擋所述鏡子中的所述第一通話者的所述第一圖像。
286、24.根據(jù)實(shí)施例22所述的系統(tǒng),其中所述計(jì)算機(jī)處理器被進(jìn)一步編程為通過所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備處理所述第二通話者的所述第二圖像。
287、25.根據(jù)實(shí)施例22所述的系統(tǒng),其中所述計(jì)算機(jī)處理器被進(jìn)一步編程為通過所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備處理所述第一通話者的所述第一圖像。
288、26.根據(jù)實(shí)施例22所述的系統(tǒng),其中將所述第一通話者的所述第一圖像的至少一部分發(fā)送到所述第二增強(qiáng)現(xiàn)實(shí)設(shè)備包括:將所述第一通話者的所述第一圖像發(fā)送到服務(wù)器計(jì)算機(jī)系統(tǒng);通過所述服務(wù)器計(jì)算機(jī)系統(tǒng)處理所述第一通話者的所述第一圖像;以及將所述第一通話者的所述第一圖像發(fā)送到所述第二增強(qiáng)現(xiàn)實(shí)設(shè)備。
289、27.根據(jù)實(shí)施例24至26中任一項(xiàng)所述的系統(tǒng),其中所述第一通話者的所述第一圖像的處理包括以下至少一者:將虛擬內(nèi)容應(yīng)用于所述第一通話者的所述第一圖像;裁剪第一通話者的所述第一張圖像的一部分;將背景應(yīng)用于所述第一通話者的所述第一圖像;調(diào)整所述第一通話者的所述第一圖像的大??;識別所述第一通話者的所述第一圖像的一區(qū)域,所述區(qū)域包括遮擋所述第一通話者的面部的所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備的圖像,并取代所識別的區(qū)域中的所述第一用戶的面部的未被遮擋部分的圖像以提供所述第一通話者的面部的未被遮擋的圖像;或者識別未被所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備捕獲的所述第一通話者的身體的一區(qū)域并將所識別的區(qū)域添加到所述第一通話者的所述第一圖像。
290、28.根據(jù)實(shí)施例27所述的系統(tǒng),其中所述虛擬內(nèi)容包括混合效果、羽化效果、發(fā)光效果或特殊特征效果。
291、29.根據(jù)實(shí)施例27所述的系統(tǒng),其中所述背景包含與游戲、電影、書籍、藝術(shù)、音樂、現(xiàn)有物理元素或虛擬對象相關(guān)聯(lián)的元素。
292、30.根據(jù)實(shí)施例22至29中任一項(xiàng)所述的系統(tǒng),其中所述背景是動(dòng)畫。
293、31.一種用于在第一通話者與第二通話者之間進(jìn)行電話會議的增強(qiáng)現(xiàn)實(shí)系統(tǒng),所述系統(tǒng)包括:與第一通話者相關(guān)聯(lián)的第一增強(qiáng)現(xiàn)實(shí)設(shè)備和與第二通話者相關(guān)聯(lián)的第二增強(qiáng)現(xiàn)實(shí)設(shè)備,所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備包括第一面向外的相機(jī)以及計(jì)算機(jī)處理器,所述第一面向外的相機(jī)被配置為對所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備前面的區(qū)域進(jìn)行成像,所述計(jì)算機(jī)處理器被配置為與網(wǎng)絡(luò)通信并被編程為:在所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備與所述第二增強(qiáng)現(xiàn)實(shí)設(shè)備之間建立雙向通信連接;通過所述第一面向外的相機(jī)檢測所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備前面的區(qū)域中是否存在鏡子;通過所述第一面向外的相機(jī)檢測所述第一通話者在所述鏡子中的第一圖像;經(jīng)由所述通信連接向所述第二增強(qiáng)現(xiàn)實(shí)設(shè)備傳送所述第一通話者的所述第一圖像的一部分;以及在所述遠(yuǎn)端臨場會話期間通過所述第二增強(qiáng)現(xiàn)實(shí)設(shè)備向所述第二通話者顯示所述第一通話者的所述第一圖像的所述一部分。
294、32.根據(jù)實(shí)施例31所述的系統(tǒng),其中響應(yīng)于檢測到所述鏡子的存在而執(zhí)行建立所述雙向通信連接。
295、33.根據(jù)實(shí)施例31或?qū)嵤├?2所述的系統(tǒng),所述計(jì)算機(jī)處理器被進(jìn)一步編程為:識別所述第一圖像的一區(qū)域,所述區(qū)域包括遮擋所述第一用戶的面部的所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備的圖像;取代所識別的區(qū)域中的所述第一用戶的面部的未被遮擋部分的圖像以提供未被遮擋的面部圖像,其中傳送所述第一圖像的所述一部分包括傳送所述未被遮擋的面部圖像。
296、34.根據(jù)實(shí)施例33所述的系統(tǒng),其中所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備包括被配置為對所述第一用戶的眼睛進(jìn)行成像的眼睛跟蹤相機(jī),并且其中取代所述第一用戶的面部的未被遮擋部分的圖像包括在所識別的區(qū)域中插入所述第一用戶的眼睛的圖像。
297、35.根據(jù)實(shí)施例31至34中任一項(xiàng)所述的系統(tǒng),所述計(jì)算機(jī)處理器被進(jìn)一步編程為:經(jīng)由所述通信連接從所述第二增強(qiáng)現(xiàn)實(shí)設(shè)備接收所述第二通話者的第二圖像;在所述遠(yuǎn)端臨場會話期間通過所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備向所述第一通話者顯示所述第二通話者的所述第二圖像。
298、36.根據(jù)實(shí)施例35所述的系統(tǒng),其中顯示所述第二通話者的所述第二圖像包括顯示所述第二圖像,使得其遮擋所述第一通話者在所述鏡子中的所述第一圖像。
299、37.根據(jù)實(shí)施例35或?qū)嵤├?6所述的系統(tǒng),其中顯示所述第二通話者的所述第二圖像包括向所述第一通話者顯示額外的虛擬內(nèi)容。
300、38.根據(jù)實(shí)施例31至37中任一項(xiàng)所述的系統(tǒng),其中顯示所述第一通話者的所述第一圖像的所述一部分包括向所述第二通話者顯示額外的虛擬內(nèi)容。
301、39.根據(jù)實(shí)施例37或?qū)嵤├?8所述的系統(tǒng),其中所顯示的額外的虛擬內(nèi)容包括混合效果、羽化效果、發(fā)光效果或特殊特征效果。
302、40.根據(jù)實(shí)施例31至39中任一項(xiàng)所述的系統(tǒng),其中所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備、所述第二增強(qiáng)現(xiàn)實(shí)設(shè)備、或者所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備和所述第二增強(qiáng)現(xiàn)實(shí)設(shè)備兩者都包括頭戴式顯示器。
303、41.根據(jù)實(shí)施例31至40中任一項(xiàng)所述的方法,其中所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備、所述第二增強(qiáng)現(xiàn)實(shí)設(shè)備、或者所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備和所述第二增強(qiáng)現(xiàn)實(shí)設(shè)備兩者都包括被配置為在多個(gè)深度平面處呈現(xiàn)圖像的光場顯示器。
304、42.一種用于進(jìn)行電話會議的增強(qiáng)現(xiàn)實(shí)系統(tǒng),所述系統(tǒng)包括:計(jì)算機(jī)系統(tǒng),其被配置為同與第一用戶相關(guān)聯(lián)的第一增強(qiáng)現(xiàn)實(shí)設(shè)備和與第二用戶相關(guān)聯(lián)的第二增強(qiáng)現(xiàn)實(shí)設(shè)備進(jìn)行通信,所述計(jì)算機(jī)系統(tǒng)包括:網(wǎng)絡(luò)接口;非暫時(shí)性數(shù)據(jù)存儲器;以及被配置為與所述網(wǎng)絡(luò)接口和所述非暫時(shí)性數(shù)據(jù)存儲器通信的硬件處理器,所述處理器被編程為:從所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備接收第一消息,所述第一消息包括建立與所述第二增強(qiáng)現(xiàn)實(shí)設(shè)備的雙向通信的請求;在所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備與所述第二增強(qiáng)現(xiàn)實(shí)設(shè)備之間建立雙向通信;從所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備接收第二消息,所述第二消息包括由所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備從所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備前面的反射表面捕獲的所述第一通話者的圖像;將所述第二消息發(fā)送到所述第二增強(qiáng)現(xiàn)實(shí)設(shè)備;從所述第二增強(qiáng)現(xiàn)實(shí)設(shè)備接收第三消息,所述第三消息包括由所述第二增強(qiáng)現(xiàn)實(shí)設(shè)備從所述第二增強(qiáng)現(xiàn)實(shí)設(shè)備前面的反射表面捕獲的所述第二通話者的圖像;以及將所述第三消息發(fā)送到所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備。
305、43.一種生成自拍照的方法,所述方法包括:在頭戴式設(shè)備的控制下,所述頭戴式設(shè)備包括被配置為對所述頭戴式設(shè)備前面的區(qū)域進(jìn)行成像的面向外的相機(jī):檢測所述頭戴式設(shè)備的穿戴者的環(huán)境中是否存在反射表面;通過所述面向外的相機(jī)檢測從所述反射表面反射的所述穿戴者的反射圖像;通過所述面向外的相機(jī)獲取包括所述穿戴者的反射圖像的所述反射表面的一部分的圖像;以及識別所述圖像的一區(qū)域,所述區(qū)域包括至少部分地遮擋所述穿戴者的面部的所述頭戴式設(shè)備的圖像,并取代所識別的區(qū)域中的所述穿戴者的面部的未被遮擋部分的圖像以提供所述穿戴者的面部的未被遮擋的圖像。
306、44.根據(jù)實(shí)施例43所述的方法,進(jìn)一步包括以下至少一者:將虛擬內(nèi)容應(yīng)用于所述穿戴者的未被遮擋的圖像;裁剪所述穿戴者的未被遮擋的圖像的一部分;將背景應(yīng)用于所述穿戴者的未被遮擋的圖像;調(diào)整所述穿戴者的未被遮擋的圖像的大小;或者識別未被所述面向外的相機(jī)獲取的圖像捕獲的所述穿戴者的身體的一區(qū)域,并將所識別的區(qū)域添加到所述穿戴者的未被遮擋的圖像。
307、45.一種用于在第一增強(qiáng)現(xiàn)實(shí)設(shè)備與第二增強(qiáng)現(xiàn)實(shí)設(shè)備之間進(jìn)行遠(yuǎn)端臨場會話的增強(qiáng)現(xiàn)實(shí)系統(tǒng),所述增強(qiáng)現(xiàn)實(shí)系統(tǒng)包括:與第一通話者相關(guān)聯(lián)的第一增強(qiáng)現(xiàn)實(shí)設(shè)備的頭戴式顯示器,其中所述第一頭戴式顯示器被配置為在多個(gè)深度平面處呈現(xiàn)虛擬內(nèi)容,所述顯示器的至少一部分是透明的,使得所述透明部分透射來自所述第一通話者的環(huán)境的一部分的光;面向外的成像系統(tǒng),其被配置為對所述頭戴式顯示器前面的區(qū)域進(jìn)行成像;以及計(jì)算機(jī)處理器,其被編程為與網(wǎng)絡(luò)通信并且:至少部分地基于由所述面向外的成像系統(tǒng)獲取的圖像檢測所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備附近是否存在反射表面;在所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備和與第二通話者相關(guān)聯(lián)的第二增強(qiáng)現(xiàn)實(shí)設(shè)備之間建立雙向通信;通過所述面向外的成像系統(tǒng)檢測由所述反射表面反射的第一通話者的第一圖像;將所述第一通話者的所述第一圖像的至少一部分發(fā)送到所述第二增強(qiáng)現(xiàn)實(shí)設(shè)備;通過所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備接收所述第二通話者的第二圖像;以及通過所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備的所述頭戴式顯示器顯示所述第二通話者的所述第二圖像的至少一部分。
308、46.根據(jù)實(shí)施例45所述的增強(qiáng)現(xiàn)實(shí)系統(tǒng),其中所述計(jì)算機(jī)處理器被編程為處理以下至少一者:所述第一通話者的所述第一圖像或所述第二通話者的所述第二圖像。
309、47.根據(jù)實(shí)施例46所述的增強(qiáng)現(xiàn)實(shí)系統(tǒng),其中為了處理至少所述第一圖像或所述第二圖像,所述計(jì)算機(jī)處理器被編程為執(zhí)行以下至少一者:將虛擬內(nèi)容應(yīng)用于所述第一圖像或所述第二圖像,其中所述虛擬內(nèi)容包括以下至少一者:混合效果、羽化效果、發(fā)光效果或另一特殊特征效果;裁剪所述第一圖像或所述第二圖像的一部分;將背景應(yīng)用于所述第一圖像或所述第二圖像;調(diào)整所述第一圖像或所述第二圖像的大小;識別所述第一圖像的一區(qū)域,該區(qū)域包括遮擋所述第一通話者的面部的所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備的圖像,并取代所識別的區(qū)域中的所述第一通話者的面部的未被遮擋部分的圖像以提供所述第一通話者的面部的未被遮擋的圖像;識別所述第二圖像的一區(qū)域,該區(qū)域包括遮擋所述第二通話者的面部的所述第二增強(qiáng)現(xiàn)實(shí)設(shè)備的圖像,并取代所識別的區(qū)域中的所述第二通話者的面部的未被遮擋部分的圖像以提供所述第二通話者的面部的未被遮擋的圖像;識別未被所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備捕獲的所述第一通話者的身體的區(qū)域并將所識別的區(qū)域添加到所述第一通話者的所述第一圖像;或者識別未被所述第二增強(qiáng)現(xiàn)實(shí)設(shè)備捕獲的所述第二通話者的身體的區(qū)域并將所識別的區(qū)域添加到所述第二通話者的所述第二圖像。
310、48.根據(jù)實(shí)施例45所述的增強(qiáng)現(xiàn)實(shí)系統(tǒng),其中使用以下至少一者檢測所述反射表面:面部識別、關(guān)鍵點(diǎn)識別、第一增強(qiáng)現(xiàn)實(shí)設(shè)備的一部分的識別、深度不連續(xù)性、鏡子形狀、或與所述反射表面相關(guān)聯(lián)的光學(xué)標(biāo)簽的識別。
311、49.根據(jù)實(shí)施例45所述的增強(qiáng)現(xiàn)實(shí)系統(tǒng),其中為了顯示所述第二圖像的至少一部分,所述計(jì)算機(jī)處理器被編程為:投射所述第二圖像的所述一部分,使得所述第二圖像的所述一部分遮擋由所述反射表面反射的所述第一通話者的所述第一圖像。
312、50.根據(jù)實(shí)施例45所述的增強(qiáng)現(xiàn)實(shí)系統(tǒng),其中所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備包括被配置為跟蹤所述第一通話者的眼睛移動(dòng)的眼睛跟蹤相機(jī),并且所述計(jì)算機(jī)處理器被進(jìn)一步編程為將所述第一通話者的所述眼睛移動(dòng)發(fā)送到所述第二增強(qiáng)現(xiàn)實(shí)設(shè)備。
313、51.一種用于在第一增強(qiáng)現(xiàn)實(shí)設(shè)備與第二增強(qiáng)現(xiàn)實(shí)設(shè)備之間進(jìn)行遠(yuǎn)端臨場會話的方法,所述方法包括:從所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備接收消息,所述消息包括建立與所述第二增強(qiáng)現(xiàn)實(shí)設(shè)備的雙向通信的請求;在所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備與所述第二增強(qiáng)現(xiàn)實(shí)設(shè)備之間建立雙向通信;從所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備接收第一圖像,所述第一圖像包括由所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備從所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備附近的反射表面捕獲的所述第一通話者的反射圖像;將所述第一圖像發(fā)送到所述第二增強(qiáng)現(xiàn)實(shí)設(shè)備;從所述第二增強(qiáng)現(xiàn)實(shí)設(shè)備接收第二圖像,所述第二圖像包括由所述第二增強(qiáng)現(xiàn)實(shí)設(shè)備從所述第二增強(qiáng)現(xiàn)實(shí)設(shè)備附近的反射表面捕獲的所述第二通話者的一部分;至少部分地基于所述第二圖像生成所述第二通話者的圖像;以及將所述第二通話者的圖像發(fā)送到所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備以在三維環(huán)境中顯示。
314、52.根據(jù)實(shí)施例51所述的方法,其中所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備或所述第二增強(qiáng)現(xiàn)實(shí)設(shè)備中的至少一者包括被配置為在多個(gè)深度平面處呈現(xiàn)圖像的光場顯示器。
315、53.根據(jù)實(shí)施例51所述的方法,其中所述第二通話者的圖像包括多個(gè)補(bǔ)片(patch),并且所述第二圖像包括未被所述第二增強(qiáng)現(xiàn)實(shí)設(shè)備遮擋的所述第二通話者的面部的一部分。
316、54.根據(jù)實(shí)施例51所述的方法,進(jìn)一步包括:接收被所述第二增強(qiáng)現(xiàn)實(shí)設(shè)備遮擋的所述第二通話者的眼睛區(qū)域的補(bǔ)片,并且其中生成所述第二通話者的圖像包括基于未被所述第二增加現(xiàn)實(shí)設(shè)備遮擋的所述第二通話者的面部的所述一部分和被所述第二增強(qiáng)現(xiàn)實(shí)設(shè)備遮擋的所述眼睛區(qū)域的所述補(bǔ)片合成所述第二通話者的圖像。
317、55.根據(jù)實(shí)施例51所述的方法,進(jìn)一步包括:接收所述第二通話者的眼睛區(qū)域的移動(dòng);訪問所述第二通話者的面部模型;以及基于所述眼睛區(qū)域的移動(dòng)和所述面部模型更新所述第二通話者的圖像。
318、56.根據(jù)實(shí)施例51所述的方法,其中至少部分地基于所述第二圖像生成所述第二通話者的圖像包括以下至少一者:裁剪所述第二圖像的一部分,調(diào)整所述第二圖像的大小,或?qū)⒈尘皯?yīng)用于所述第二圖像。
319、57.根據(jù)實(shí)施例51所述的方法,其中生成所述第二通話者的圖像包括:識別未被所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備捕獲的所述第二通話者的身體的一區(qū)域;檢索包括所述第二通話者的身體的所述區(qū)域的第三圖像;以及至少部分地基于從所述第二增強(qiáng)現(xiàn)實(shí)設(shè)備接收的所述第二圖像和所述第三圖像生成所述第二通話者的圖像。
320、58.一種用于在第一增強(qiáng)現(xiàn)實(shí)設(shè)備與第二增強(qiáng)現(xiàn)實(shí)設(shè)備之間進(jìn)行遠(yuǎn)端臨場會話的增強(qiáng)現(xiàn)實(shí)系統(tǒng),所述增強(qiáng)現(xiàn)實(shí)系統(tǒng)包括:計(jì)算機(jī)系統(tǒng),其被配置為同與第一用戶相關(guān)聯(lián)的第一增強(qiáng)現(xiàn)實(shí)設(shè)備和與第二用戶相關(guān)聯(lián)的第二增強(qiáng)現(xiàn)實(shí)設(shè)備進(jìn)行通信,所述計(jì)算機(jī)系統(tǒng)包括:網(wǎng)絡(luò)接口;非暫時(shí)性數(shù)據(jù)存儲器;以及計(jì)算機(jī)處理器,所述計(jì)算機(jī)處理器被編程為與所述網(wǎng)絡(luò)接口和所述非暫時(shí)性數(shù)據(jù)存儲器通信并且:從所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備接收消息,所述消息包括建立與所述第二增強(qiáng)現(xiàn)實(shí)設(shè)備的雙向通信的請求;在所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備與所述第二增強(qiáng)現(xiàn)實(shí)設(shè)備之間建立雙向通信;從所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備接收第一圖像,所述第一圖像包括由所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備從所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備附近的反射表面捕獲的所述第一通話者的反射圖像;將所述第一圖像發(fā)送到所述第二增強(qiáng)現(xiàn)實(shí)設(shè)備;從所述第二增強(qiáng)現(xiàn)實(shí)設(shè)備接收第二圖像,所述第二圖像包括由所述第二增強(qiáng)現(xiàn)實(shí)設(shè)備從所述第二增強(qiáng)現(xiàn)實(shí)設(shè)備附近的反射表面捕獲的所述第二通話者的一部分;至少部分地基于所述第二圖像生成所述第二通話者的圖像;以及將所述第二通話者的圖像發(fā)送到所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備以在三維環(huán)境中顯示。
321、59.根據(jù)實(shí)施例58所述的系統(tǒng),其中所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備或所述第二增強(qiáng)現(xiàn)實(shí)設(shè)備中的至少一者包括被配置為在多個(gè)深度平面處呈現(xiàn)圖像的光場顯示器。
322、60.根據(jù)實(shí)施例58所述的系統(tǒng),其中所述第二通話者的圖像包括多個(gè)補(bǔ)片,并且所述第二圖像包括未被所述第二增強(qiáng)現(xiàn)實(shí)設(shè)備遮擋的所述第二通話者的面部的一部分。
323、61.根據(jù)實(shí)施例60所述的系統(tǒng),所述計(jì)算機(jī)處理器被進(jìn)一步編程為:接收被所述第二增強(qiáng)現(xiàn)實(shí)設(shè)備遮擋的所述第二通話者的眼睛區(qū)域的補(bǔ)片,并且其中為了生成所述第二通話者的圖像,所述計(jì)算機(jī)處理器被編程為基于未被所述第二增加現(xiàn)實(shí)設(shè)備遮擋的所述第二通話者的面部的一部分和被所述第二增強(qiáng)現(xiàn)實(shí)設(shè)備遮擋的所述眼睛區(qū)域的所述補(bǔ)片合成所述第二通話者的圖像。
324、62.根據(jù)實(shí)施例58所述的系統(tǒng),所述計(jì)算機(jī)處理器被進(jìn)一步編程為:接收所述第二通話者的眼睛區(qū)域的移動(dòng);訪問所述第二通話者的面部模型;以及基于所述眼睛區(qū)域的移動(dòng)和所述面部模型更新所述第二通話者的圖像。
325、63.根據(jù)實(shí)施例58所述的系統(tǒng),其中為了至少部分地基于所述第二圖像生成所述第二通話者的圖像,所述計(jì)算機(jī)處理器被編程為執(zhí)行以下至少一者:裁剪所述第二圖像的一部分,調(diào)整所述第二圖像的大小,或?qū)⒈尘皯?yīng)用于所述第二圖像。
326、64.根據(jù)實(shí)施例58所述的系統(tǒng),其中為了生成所述第二通話者的圖像,所述計(jì)算機(jī)處理器被編程為:識別未被所述第一增強(qiáng)現(xiàn)實(shí)設(shè)備捕獲的所述第二通話者的身體的一區(qū)域;檢索包括所述第二通話者的身體的所述區(qū)域的第三圖像;以及至少部分地基于從所述第二增強(qiáng)現(xiàn)實(shí)設(shè)備接收的所述第二圖像和所述第三圖像生成所述第二通話者的圖像。