一種深層神經(jīng)網(wǎng)絡(luò)和水聲目標(biāo)聲紋特征提取方法
【技術(shù)領(lǐng)域】
[0001] 本發(fā)明設(shè)及一種神經(jīng)網(wǎng)絡(luò)和特征提取方法，特別是一種深層神經(jīng)網(wǎng)絡(luò)和水聲目標(biāo) 聲紋特征提取方法，屬于目標(biāo)識(shí)別領(lǐng)域。
【背景技術(shù)】
[0002] 水聲信號(hào)中存在著如同指紋一樣可區(qū)分個(gè)體的聲紋特征。船舶福射噪聲主要由發(fā) 電機(jī)、推進(jìn)系統(tǒng)和船上輔助設(shè)備等聲源產(chǎn)生，可W被探測設(shè)備所偵測獲取。偵測到的水聲信 號(hào)中存在著與其多聲源相應(yīng)的區(qū)別與其他型號(hào)船舶的聲紋特征，聲紋特征包含簡單特征和 復(fù)雜特征，聲紋特征中的線譜就是簡單特征，運(yùn)些特征線譜可W用頻率、幅值和寬度描述， 而特征線譜間存在的關(guān)聯(lián)關(guān)系則為復(fù)雜特征，可W更精細(xì)地用重構(gòu)信號(hào)的譜圖表示。目前 用于目標(biāo)識(shí)別的水聲信號(hào)特征提取方法均為淺層神經(jīng)網(wǎng)絡(luò)，尚無利用深層神經(jīng)網(wǎng)絡(luò)進(jìn)行特 征提取，更無利用深層神經(jīng)網(wǎng)絡(luò)進(jìn)行可用于識(shí)別目標(biāo)個(gè)體的聲紋特征提取。
[0003] 近些年來，深度學(xué)習(xí)（De邱Learning)作為機(jī)器學(xué)習(xí) （Machine Leaning)研究中的 一個(gè)新的領(lǐng)域，W其在各個(gè)機(jī)器學(xué)習(xí)任務(wù)中所展現(xiàn)出來的優(yōu)良的性能，得到了廣泛的關(guān)注。 深度學(xué)習(xí)的引入也在一定程度上使得機(jī)器學(xué)習(xí)更加接近其原始的目標(biāo)：人工智能 (Artificial Intelligent)。在經(jīng)典機(jī)器學(xué)習(xí)方法中，人工智能系統(tǒng)基于系統(tǒng)輸入特征學(xué) 習(xí)得到模型，從而實(shí)現(xiàn)分類和識(shí)別。在表示學(xué)習(xí) （Representation Learning)方法中，人工 智能系統(tǒng)不僅學(xué)習(xí)如何從給定特征映射到系統(tǒng)輸出，而且學(xué)習(xí)如何選擇輸入特征。然而在 實(shí)際應(yīng)用中，影響輸入觀察的因素非常多，如何從中抽取出更具代表性的高層特征，是表示 學(xué)習(xí)所面臨的困難。而基于深度學(xué)習(xí)的人工智能系統(tǒng)則實(shí)現(xiàn)了從底層的簡單概念中構(gòu)建得 到高層復(fù)雜概念的能力。深度學(xué)習(xí)之所W被稱為"深度"，是相對支撐向量機(jī)（Support Vector Machine)、提升方法(Boosting)、最大賭方法等"淺層學(xué)習(xí)"方法而言的。深度學(xué)習(xí) 的概念源于人工神經(jīng)網(wǎng)絡(luò)(Adificial化ural Network)的研究，最早由多倫多大學(xué)的 化nton等提出，其中在輸入層和輸出層之間包含超過一個(gè)隱層的神經(jīng)網(wǎng)絡(luò)，即深層神經(jīng)網(wǎng) 絡(luò)(De邱Neural Network),就是一種深度學(xué)習(xí)結(jié)構(gòu)。在神經(jīng)網(wǎng)絡(luò)研究領(lǐng)域，隨機(jī)梯度下降 和誤差反傳算法作為傳統(tǒng)訓(xùn)練多層網(wǎng)絡(luò)的典型算法，在訓(xùn)練包含多個(gè)隱層的神經(jīng)網(wǎng)絡(luò)時(shí)， 難W達(dá)到理想的效果。其中，一個(gè)主要困難源于深層網(wǎng)絡(luò)的非凸目標(biāo)函數(shù)的局部最優(yōu)點(diǎn)普 遍存在，從而使得隨機(jī)初始化的網(wǎng)絡(luò)在訓(xùn)練中容易陷入一個(gè)較差的局部最優(yōu)點(diǎn)。2006年，預(yù) 訓(xùn)練(Pretraining)的概念被引入到了神經(jīng)網(wǎng)絡(luò)研究領(lǐng)域，很好地解決了 D順的模型優(yōu)化所 面臨的問題。隨著深層神經(jīng)網(wǎng)絡(luò)在許多機(jī)器學(xué)習(xí)任務(wù)中取得了良好的性能，神經(jīng)網(wǎng)絡(luò)又迎 來新一輪的研究熱潮。在機(jī)器視覺領(lǐng)域，深層神經(jīng)網(wǎng)絡(luò)在ImageNet競賽中帶來的顯著性能 提升。在自然語言處理領(lǐng)域，循環(huán)神經(jīng)網(wǎng)絡(luò)語言模型被廣泛地應(yīng)用到各個(gè)領(lǐng)域，取得了顯著 優(yōu)于N元文法的性能?；谏窠?jīng)網(wǎng)絡(luò)的方法也被應(yīng)用到了許多自然語言處理任務(wù)中，例如機(jī) 器翻譯，命名體識(shí)別，詞性標(biāo)注，語義分析等。基于深層神經(jīng)網(wǎng)絡(luò)的語音識(shí)別聲學(xué)模型成為 了主流的建模方法，并在信息產(chǎn)業(yè)上取得了成功。

【發(fā)明內(nèi)容】

[0004] 本發(fā)明的技術(shù)解決問題是：克服現(xiàn)有技術(shù)的不足，提供了一種深層神經(jīng)網(wǎng)絡(luò)和水 聲目標(biāo)聲紋特征提取方法，該深層神經(jīng)網(wǎng)絡(luò)根據(jù)水聲目標(biāo)信號(hào)特點(diǎn)進(jìn)行了適應(yīng)性的設(shè)計(jì)， 利用該深層神經(jīng)網(wǎng)絡(luò)可W實(shí)現(xiàn)水聲目標(biāo)信號(hào)基頻、諧波的準(zhǔn)確提取W及原始信號(hào)譜的重 構(gòu)，削弱原始信號(hào)譜中包含的噪聲線譜，對原始信號(hào)譜產(chǎn)生凈化的作用，減小干擾線譜對最 終船舶目標(biāo)個(gè)體識(shí)別的影響，并適應(yīng)頻率漂移。
[0005] 本發(fā)明的技術(shù)解決方案是:一種深層神經(jīng)網(wǎng)絡(luò)，包括輸入層、隱層和輸出層，用于 水聲目標(biāo)聲紋特征的提取，所述輸入層中的節(jié)點(diǎn)數(shù)為水聲目標(biāo)信號(hào)原始信號(hào)譜的頻點(diǎn)數(shù)、 基頻取值范圍內(nèi)的所有頻率的頻點(diǎn)數(shù)W及諧波階次之和，輸出層的節(jié)點(diǎn)數(shù)為原始信號(hào)譜的 頻點(diǎn)數(shù)，所述隱層的層數(shù)大于等于2,隱層的節(jié)點(diǎn)數(shù)小于輸入層的節(jié)點(diǎn)數(shù)。
[0006] 所述深層神經(jīng)網(wǎng)絡(luò)由多個(gè)淺層神經(jīng)網(wǎng)絡(luò)順序堆疊形成，所述淺層神經(jīng)網(wǎng)絡(luò)包括輸 入層、隱層和輸出層，淺層神經(jīng)網(wǎng)絡(luò)的隱層層數(shù)為1。
[0007] 按淺層網(wǎng)絡(luò)堆疊順序依次對淺層神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練，并將在先神經(jīng)淺層網(wǎng)絡(luò)的隱 層輸出作為相鄰在后淺層神經(jīng)網(wǎng)絡(luò)的訓(xùn)練數(shù)據(jù)。
[0008] 對所有淺層網(wǎng)絡(luò)進(jìn)行預(yù)訓(xùn)練，將淺層神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)得到的權(quán)重作為所述深度神經(jīng) 網(wǎng)絡(luò)對應(yīng)層的初始化權(quán)重。
[0009] 在深度神經(jīng)網(wǎng)絡(luò)對應(yīng)層的初始化權(quán)重基礎(chǔ)上，對深層神經(jīng)網(wǎng)絡(luò)的權(quán)重進(jìn)行微調(diào)， 使其性能達(dá)到最優(yōu)。
[0010]所述深層神經(jīng)網(wǎng)絡(luò)和淺層神經(jīng)網(wǎng)絡(luò)的激活函數(shù)為si卵oid函數(shù)。
[0011] 采用批量梯度下降算法對所述深層神經(jīng)網(wǎng)絡(luò)和淺層神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練。
[0012] 所述深層神經(jīng)網(wǎng)絡(luò)和淺層神經(jīng)網(wǎng)絡(luò)進(jìn)行網(wǎng)絡(luò)學(xué)習(xí)的代價(jià)函數(shù)為信號(hào)重構(gòu)的均方 誤差。
[0013] 所述深層神經(jīng)網(wǎng)絡(luò)和淺層神經(jīng)網(wǎng)絡(luò)采用批量梯度下降算法進(jìn)行網(wǎng)絡(luò)權(quán)重更新，具 體由公式：
[0014]
[001引給出，其中，Wi功網(wǎng)絡(luò)j層到i層的權(quán)重系數(shù)，α為學(xué)習(xí)率。
[0016] -種基于深層神經(jīng)網(wǎng)絡(luò)的水聲目標(biāo)聲紋特征提取方法，主要包括：
[0017] 獲取水聲目標(biāo)原始信號(hào)譜的步驟；
[0018] 從水聲目標(biāo)原始信號(hào)譜中提取基頻和諧波的步驟；
[0019] 將提取基頻、諧波W及水聲目標(biāo)原始信號(hào)譜輸入權(quán)利要求1中深層神經(jīng)網(wǎng)絡(luò)對原 始信號(hào)譜進(jìn)行重構(gòu)的步驟。
[0020] 本發(fā)明與現(xiàn)有技術(shù)相比的有益效果是：
[0021] 該深層神經(jīng)網(wǎng)絡(luò)根據(jù)水聲目標(biāo)信號(hào)特點(diǎn)進(jìn)行了適應(yīng)性的設(shè)計(jì)，可W實(shí)現(xiàn)水聲目標(biāo) 信號(hào)基頻、諧波的準(zhǔn)確提取W及原始信號(hào)譜的重構(gòu)，削弱原始信號(hào)譜中包含的噪聲線譜，對 原始信號(hào)譜產(chǎn)生凈化的作用，減小干擾線譜對最終船舶目標(biāo)個(gè)體識(shí)別的影響，與現(xiàn)有方法 相比，本發(fā)明具有一定的抗噪聲干擾和頻率漂移能力。
【附圖說明】
[0022] 圖1為本發(fā)明中深層神經(jīng)網(wǎng)絡(luò)的第一種示意圖；
[0023] 圖2為本發(fā)明中深層神經(jīng)網(wǎng)絡(luò)的第二種示意圖；
[0024] 圖3為本發(fā)明的方法流程圖；
[0025] 圖4為5層自編碼網(wǎng)絡(luò)堆疊形成示意圖；
[0026] 圖5為本發(fā)明實(shí)施例中重構(gòu)誤差隨迭代次數(shù)變化的關(guān)系示意圖；
[0027] 圖6為本發(fā)明實(shí)施例中網(wǎng)絡(luò)的收斂曲線示意圖；
[0028] 圖7為本發(fā)明實(shí)施例中微調(diào)后網(wǎng)絡(luò)的收斂曲線示意圖；
[0029] 圖8為信噪比為-20地時(shí)深層神經(jīng)網(wǎng)絡(luò)的重構(gòu)結(jié)果示意圖；
[0030] 圖9為信噪比為-28地時(shí)深層神經(jīng)網(wǎng)絡(luò)的重構(gòu)結(jié)果示意圖；
[0031] 圖10為原始信號(hào)譜基頻提取誤差統(tǒng)計(jì)圖。
【具體實(shí)施方式】
[0032] 下面結(jié)合附圖對本發(fā)明的【具體實(shí)施方式】進(jìn)行進(jìn)一步的詳細(xì)描述。
[0033] 圖1和圖2為本發(fā)明中深層神經(jīng)網(wǎng)絡(luò)示意圖，從圖1和圖2可知，本發(fā)明提出的一種 深層神經(jīng)網(wǎng)絡(luò)，包括輸入層、隱層和輸出層，所述深層神經(jīng)網(wǎng)絡(luò)主要用于水聲目標(biāo)聲紋特征 的提取，所述輸入層中的節(jié)點(diǎn)數(shù)為水聲目標(biāo)信號(hào)原始信號(hào)譜的頻點(diǎn)數(shù)、基頻取值范圍內(nèi)的 所有頻率的頻點(diǎn)數(shù)W及諧波階次之和，輸出層的節(jié)點(diǎn)數(shù)為原始信號(hào)譜的頻點(diǎn)數(shù)，所述隱層 的層數(shù)大于等于2。
[0034] 深層神經(jīng)網(wǎng)絡(luò)使用原始信號(hào)譜作為監(jiān)督信息，對其進(jìn)行重構(gòu)，網(wǎng)絡(luò)隱層輸出則可 W看成是對輸入信號(hào)的編碼表示。根據(jù)隱層節(jié)點(diǎn)數(shù)的不同，自編碼網(wǎng)絡(luò)可分成兩種：
[0035] (i)隱層節(jié)點(diǎn)數(shù)小于輸入節(jié)點(diǎn)數(shù)，網(wǎng)絡(luò)隱層可看成是對信號(hào)的壓縮編碼；
[0036] (ii)隱層節(jié)點(diǎn)數(shù)大于輸入節(jié)點(diǎn)數(shù)，網(wǎng)絡(luò)隱層可更加充分的刻畫輸入信號(hào)的分布。
[0037] 本發(fā)明關(guān)注的問題是從受噪聲污染的目標(biāo)信號(hào)中重構(gòu)原始信號(hào)譜，而原始信號(hào)譜 為稀疏分布的諧波信號(hào)，因此本發(fā)明采用第一種結(jié)構(gòu)。
[0038] 所述深層神經(jīng)網(wǎng)絡(luò)可直接根據(jù)需要對輸入層、隱層和輸出層分別進(jìn)行設(shè)定，也可 由多個(gè)淺層神經(jīng)網(wǎng)絡(luò)順序堆疊形成，所述淺層神經(jīng)網(wǎng)絡(luò)包括輸入層、隱層和輸出層，其中隱 層的層數(shù)為1。
[0039] 當(dāng)采用多個(gè)淺層神經(jīng)網(wǎng)絡(luò)順序堆疊形成時(shí)，為了取得更好的效果，需要預(yù)先對每 一個(gè)淺層神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練和學(xué)習(xí)，進(jìn)行訓(xùn)練時(shí)，需要按淺層網(wǎng)絡(luò)堆疊順序依次對淺層神 經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練，并將在先神經(jīng)淺層網(wǎng)絡(luò)的隱層輸出作為相鄰在后淺層神經(jīng)網(wǎng)絡(luò)的訓(xùn)練數(shù) 據(jù)。在進(jìn)行學(xué)習(xí)時(shí)，需要將所有淺層神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)得到的權(quán)重作為所述深