,但通常數(shù)值是一種折中的選法。
[0024] 所述傳感器組的數(shù)量可以為兩組,所述兩傳感器組的采樣時(shí)間間隔可以相同,時(shí) 間常數(shù)可以不同。由于傳感器準(zhǔn)確性受多種因素制約。由于單獨(dú)傳感器往往不能達(dá)到要求, 當(dāng)用于虛擬現(xiàn)實(shí)頭戴現(xiàn)實(shí)設(shè)備和虛擬現(xiàn)實(shí)耳機(jī)上上時(shí),采用兩組傳感器組來(lái)解決上述問(wèn) 題,可以提高整體的準(zhǔn)確性。在進(jìn)行兩組傳感器單獨(dú)檢測(cè)數(shù)據(jù)的加權(quán)平均值時(shí),權(quán)重系數(shù)w 可以事先人為確定,但需滿(mǎn)足W1+w2=l。如果已知某一組傳感器精準(zhǔn)度會(huì)高些(如使用了款 高端耳機(jī)加低端手機(jī)),則可以把其相應(yīng)的權(quán)重加大,甚至是奶=1。權(quán)重系數(shù)的設(shè)定還可基 于在線(xiàn)統(tǒng)計(jì)分析,即對(duì)兩組傳感器輸出結(jié)果的可靠性進(jìn)行分析從而導(dǎo)出權(quán)重系數(shù)。例如我 們可以計(jì)算9^(〇和0£, 2(〇的方差,對(duì)方差較小的傳感器增加權(quán)重,現(xiàn)有技術(shù)下還存在其 他若干相關(guān)技術(shù)方法,也可以用于本發(fā)明中。
[0025] 一種支持頭部跟蹤的虛擬環(huán)繞聲生成方法,基于主要由耳機(jī)和頭戴式顯示器組成 的虛擬現(xiàn)實(shí)設(shè)備,采用本發(fā)明公開(kāi)的任意一種運(yùn)動(dòng)檢測(cè)方法檢測(cè)用戶(hù)頭部運(yùn)動(dòng)角度,依據(jù) 用戶(hù)頭部運(yùn)動(dòng)角度對(duì)音頻進(jìn)行旋轉(zhuǎn),消除因用戶(hù)頭部運(yùn)動(dòng)帶來(lái)的方向失真,生成能夠跟蹤 頭部運(yùn)動(dòng)的虛擬環(huán)繞聲并通過(guò)耳機(jī)播放,所述傳感器組的數(shù)量為兩組,包括第一傳感器組 和第二傳感器組,所述第一傳感器組設(shè)置在所述頭戴式顯示裝置上,所述第二傳感器組設(shè) 置在耳機(jī)上。所述耳機(jī)和頭戴式顯示器之間可以采用藍(lán)牙或其他任意適宜的方式通信,傳 送相關(guān)數(shù)據(jù)。根據(jù)實(shí)際需要,也可以在頭戴式顯示器和/或耳機(jī)上設(shè)置更多個(gè)傳感器組,下 面以在頭戴式顯示器和耳機(jī)上各設(shè)置一個(gè)傳感器組為例說(shuō)明相應(yīng)的環(huán)繞聲生成方法,當(dāng)采 用更多個(gè)傳感器組時(shí),頭部旋轉(zhuǎn)角度的計(jì)算依據(jù)本發(fā)明提供的多傳感器組融合的運(yùn)動(dòng)檢測(cè) 方法,獲得頭部旋轉(zhuǎn)角度后對(duì)音頻的處理與在頭戴式顯示器和耳機(jī)上各設(shè)置一個(gè)傳感器組 時(shí)相同。
[0026] 所述音頻的內(nèi)容可以是ambisonic聲場(chǎng),或者是object audio等任意適宜的形式。
[0027] 優(yōu)選的,所述頭戴式顯示器為宿主單元,存有和/或能夠從外部獲得音頻和視頻內(nèi) 容,還可以存放或下載或其他虛擬現(xiàn)實(shí)內(nèi)容,所述頭戴式顯示器設(shè)有主數(shù)據(jù)處理單元,在頭 戴式顯示器能夠正常工作的情況下,用于依據(jù)第一傳感器組和第二傳感器組的單組檢測(cè)角 度計(jì)算出用戶(hù)頭部運(yùn)動(dòng)角度的最終檢測(cè)數(shù)據(jù),依據(jù)用戶(hù)頭部運(yùn)動(dòng)角度對(duì)音頻信號(hào)進(jìn)行旋轉(zhuǎn) 并生成所述能夠跟蹤頭部運(yùn)動(dòng)的虛擬環(huán)繞聲。
[0028] 當(dāng)所述頭戴式顯示器的電量不足時(shí),可以直接傳輸音頻到耳機(jī)中,即所述頭戴式 顯示器不計(jì)算用戶(hù)頭部運(yùn)動(dòng)角度的最終檢測(cè)結(jié)果,也不對(duì)音頻信號(hào)進(jìn)行旋轉(zhuǎn)處理,而將其 存儲(chǔ)或從外部獲得的音頻直接傳給耳機(jī),并采用下列任意一種方式處理:
[0029]方式一:由所述耳機(jī)的處理單元依據(jù)第一傳感器組和第二傳感器組的單組檢測(cè)角 度計(jì)算獲得用戶(hù)頭部運(yùn)動(dòng)角度的最終檢測(cè)數(shù)據(jù),并依據(jù)所獲得的用戶(hù)頭部運(yùn)動(dòng)角度進(jìn)行音 頻信號(hào)的旋轉(zhuǎn),生成所述跟蹤頭部運(yùn)動(dòng)的虛擬環(huán)繞聲;
[0030] 方式二:以第二傳感器組的單組檢測(cè)角度用戶(hù)頭部運(yùn)動(dòng)角度的最終檢測(cè)數(shù)據(jù),由 所述耳機(jī)的處理單元進(jìn)行音頻信號(hào)的旋轉(zhuǎn),生成所述跟蹤頭部運(yùn)動(dòng)的虛擬環(huán)繞聲,不關(guān)閉 第一傳感器組,第一傳感器組的單獨(dú)檢測(cè)數(shù)據(jù)依然可以用于頭戴式顯示器視頻等的控制;
[0031] 方式三:以第二傳感器組的單組檢測(cè)角度用戶(hù)頭部運(yùn)動(dòng)角度的最終檢測(cè)數(shù)據(jù),由 所述耳機(jī)的處理單元進(jìn)行音頻信號(hào)的旋轉(zhuǎn),生成所述跟蹤頭部運(yùn)動(dòng)的虛擬環(huán)繞聲,關(guān)閉第 一傳感器組或者關(guān)閉涉及第一傳感器組的融合算法模塊,通??梢赃x優(yōu)關(guān)閉第一傳感器 組,在第一傳感器硬件無(wú)法關(guān)閉時(shí),可以關(guān)閉相關(guān)的融合算法模塊,并將第二傳感器組的單 組檢測(cè)數(shù)據(jù)傳到所述頭戴式顯示器,以便用于視頻等的控制。
[0032] 優(yōu)選的,所述第一傳感器組和第二傳感器組在各自傳感器融合計(jì)算中所用的時(shí)間 常數(shù)可以不相同,例如,其中一個(gè)傳感器組的時(shí)間常數(shù)為0.95,另一個(gè)傳感器組的時(shí)間常數(shù) 為0.99,在這種時(shí)間常數(shù)數(shù)值下,可以獲得良好的聽(tīng)覺(jué)效果。
[0033] 在獲得用戶(hù)頭部運(yùn)動(dòng)角度檢測(cè)結(jié)果后,可以采用任意適宜的方式對(duì)音頻信號(hào)進(jìn)行 旋轉(zhuǎn),以便消除消除因用戶(hù)頭部運(yùn)動(dòng)帶來(lái)的方向失真,生成能夠?qū)崟r(shí)跟蹤頭部運(yùn)動(dòng)的虛擬 環(huán)繞聲,由耳機(jī)進(jìn)行播放。
[0034] 下面給出申請(qǐng)人發(fā)明的一種涉及生成能夠?qū)崟r(shí)跟蹤頭部運(yùn)動(dòng)的虛擬環(huán)繞聲的優(yōu) 選實(shí)施方法,主要為:依據(jù)所獲得的用戶(hù)頭部運(yùn)動(dòng)角度的最終檢測(cè)結(jié)果,生成用于消除用戶(hù) 頭部旋轉(zhuǎn)影響的旋轉(zhuǎn)矩陣,根據(jù)第一音頻信號(hào)(原音頻),獲取第一音頻信號(hào)的調(diào)整參數(shù),根 據(jù)該調(diào)整參數(shù),對(duì)第一音頻信號(hào)進(jìn)行調(diào)整得到第二音頻信號(hào)(虛擬環(huán)繞聲),根據(jù)第二音頻 信號(hào)和該旋轉(zhuǎn)矩陣,生成跟蹤頭部運(yùn)動(dòng)的虛擬環(huán)繞聲,從而可以提高虛擬環(huán)繞聲的真實(shí)性, 如果存儲(chǔ)或從外部獲得的音頻已為第二音頻信號(hào)或虛擬環(huán)繞聲形式,則可以省略有第一音 頻信號(hào)向第二音頻信號(hào)的轉(zhuǎn)換。
[0035] 具體包括:
[0036] 步驟201:獲取音頻文件的第一音頻信號(hào)和用戶(hù)頭部旋轉(zhuǎn)的旋轉(zhuǎn)角度;
[0037] 當(dāng)用戶(hù)通過(guò)耳機(jī)播放音頻文件時(shí),所用設(shè)備終端(頭戴式顯示器或耳機(jī)的相應(yīng)處 理單元)獲取音頻文件的第一音頻信號(hào)和用戶(hù)頭部旋轉(zhuǎn)的旋轉(zhuǎn)角度,該旋轉(zhuǎn)角度采用通過(guò) 前面所述的用戶(hù)運(yùn)動(dòng)角度的最終檢測(cè)數(shù)據(jù)。
[0038]其中,第一音頻信號(hào)可以為一階B格式信號(hào),B格式信號(hào)可以為三聲道信號(hào),也可以 為四聲道信號(hào);如果B格式信號(hào)為三聲道信號(hào),則B格式信號(hào)包括W、X和Y;如果B格式信號(hào)為 四聲道信號(hào),則B格式信號(hào)包括W、X、Y和Z。
[0039] W聲道信號(hào)表不全方向聲波,X聲道信號(hào)、Y聲道信號(hào)和Z聲道信號(hào)表不沿三個(gè)互相 垂直取向的聲波;X聲道信號(hào)表示聽(tīng)著從后至前水平布置,Y聲道信號(hào)表示聽(tīng)著從右至左水 平布置,Z聲道信號(hào)表示聽(tīng)著向上垂直布置。
[0040] 步驟202:根據(jù)該旋轉(zhuǎn)角度,生成旋轉(zhuǎn)矩陣;
[0041] 旋轉(zhuǎn)矩陣用于旋轉(zhuǎn)虛擬環(huán)繞聲,從而使得當(dāng)用戶(hù)頭部旋轉(zhuǎn)時(shí),虛擬環(huán)繞聲不根據(jù) 用戶(hù)頭部的旋轉(zhuǎn)而旋轉(zhuǎn),實(shí)現(xiàn)在現(xiàn)實(shí)生活中聽(tīng)音樂(lè)的效果。
[0042]例如,虛擬環(huán)繞聲的方向在前方,當(dāng)用戶(hù)頭部向左旋轉(zhuǎn)30度,則將該虛擬環(huán)繞聲從 用戶(hù)頭部旋轉(zhuǎn)后的位置處向右旋轉(zhuǎn)30度,從而實(shí)現(xiàn)虛擬環(huán)繞聲的方向還是在原來(lái)的方向 上。
[0043] 如果B格式信號(hào)為三聲道信號(hào),則旋轉(zhuǎn)矩陣為
[0044] 如果B格式信號(hào)為四聲道信號(hào),則旋轉(zhuǎn)矩陣$
3為該旋轉(zhuǎn)角 度。
[0045] 步驟203:根據(jù)第一音頻信號(hào),獲取第一音頻信號(hào)的調(diào)整參數(shù);
[0046] 調(diào)整參數(shù)包括上混階數(shù)和虛擬揚(yáng)聲器的拓?fù)浣Y(jié)構(gòu),虛擬揚(yáng)聲器的拓?fù)浣Y(jié)構(gòu)包括虛 擬揚(yáng)聲器的個(gè)數(shù)和每個(gè)虛擬揚(yáng)聲器的位置等。
[0047] 本步驟可以通過(guò)以下第一種方式或者第二種方式實(shí)現(xiàn),對(duì)于第一種實(shí)現(xiàn)方式,本 步驟可以通過(guò)以下步驟(1)和(2)實(shí)現(xiàn),包括:
[0048] (1):根據(jù)第一音頻信號(hào),獲取第一音頻信號(hào)的錄制場(chǎng)景;
[0049] 錄制場(chǎng)景包括演唱會(huì)場(chǎng)景、商務(wù)會(huì)議場(chǎng)景或者自然環(huán)境場(chǎng)景等。
[0050] 本步驟可以通過(guò)以下步驟(1 -1)和(1 -2)實(shí)現(xiàn),包括:
[0051] (1-1):分析第一音頻信號(hào),得到第一音頻信號(hào)的內(nèi)容;
[0052] 第一音頻信號(hào)的內(nèi)容至少包括指向性信號(hào)比重,還可以包括屬性信息和/或主要 聲源的方向等;屬性信息包括第一音頻信號(hào)包括的對(duì)象、樂(lè)器類(lèi)別和聲音類(lèi)別等。
[0053]其中,分析第一音頻信號(hào),得到第一音頻信號(hào)包括的指向性信號(hào)比重的步驟可以 為:
[0054] 通過(guò)Direct-ambience signal decomposition(指向-環(huán)境信號(hào)分析)算法分析第 一音頻信號(hào),得到第一音頻信號(hào)包括的指向性信號(hào)的比重,也可以得到第一音頻信號(hào)包括 的非指向性信號(hào)的比重。
[0055] 例如,第一音頻信號(hào)中只包含說(shuō)話(huà)的聲音,則第一音頻信號(hào)聽(tīng)起來(lái)就會(huì)有很強(qiáng)的 方向性,則通過(guò)Direct-ambience signal decomposition算法分析第一音頻信號(hào),得到第 一音頻信號(hào)中的指向性信號(hào)的比重較大;再如,第一音頻信號(hào)中包含噪音或者大量混響,則 第一音頻信號(hào)聽(tīng)起來(lái)方向性就不強(qiáng),則通過(guò)Direct-ambience signal decomposition算法 分析第一音頻信號(hào),得到第一