專利名稱：基于結(jié)構(gòu)的神經(jīng)網(wǎng)絡(luò)建模與優(yōu)化方法
技術(shù)領(lǐng)域：
本發(fā)明涉及一種基于結(jié)構(gòu)的神經(jīng)網(wǎng)絡(luò)建模與優(yōu)化方法，是一種對復(fù)雜非線性系統(tǒng)建模與結(jié)構(gòu)參數(shù)優(yōu)化的方法。
傳統(tǒng)上，用于建模和優(yōu)化的神經(jīng)網(wǎng)絡(luò)是相互獨(dú)立的。用于系統(tǒng)建模的神經(jīng)網(wǎng)絡(luò)大多是前饋神經(jīng)網(wǎng)絡(luò)，包括多層前饋神經(jīng)網(wǎng)絡(luò)、徑向基函數(shù)網(wǎng)絡(luò)和函數(shù)鏈神經(jīng)網(wǎng)絡(luò)等。它們在建模時(shí)存在著模型非結(jié)構(gòu)化、神經(jīng)元的個(gè)數(shù)不易確定、收斂速度慢、局部最小等問題，特別是隨著問題復(fù)雜程度的增加，訓(xùn)練一個(gè)復(fù)雜網(wǎng)絡(luò)所需樣本量和學(xué)習(xí)時(shí)間都急劇增加，而且得到的復(fù)雜網(wǎng)絡(luò)往往并不能揭示問題的層次和結(jié)構(gòu)。并且它們不注重網(wǎng)絡(luò)權(quán)值的意義，因此建立模型后不能直接進(jìn)行參數(shù)優(yōu)化。而用于優(yōu)化的神經(jīng)網(wǎng)絡(luò)主要是反饋網(wǎng)絡(luò)，包括Hopfield網(wǎng)絡(luò)、Boltzmann機(jī)和彈性網(wǎng)(Elastic net)等，它們主要用于求解組合優(yōu)化問題，一般不能用于系統(tǒng)建模。
模塊化網(wǎng)絡(luò)是“分而治之”思想的一種體現(xiàn)，它是基于“任務(wù)分解”或“事件分解”的概念，將一個(gè)復(fù)雜的任務(wù)分解為若干個(gè)較簡單的子任務(wù)，分別交各專家網(wǎng)絡(luò)完成。這些模塊化網(wǎng)絡(luò)可以認(rèn)為是“基于任務(wù)”(或“基于事件”)的網(wǎng)絡(luò)。但是，傳統(tǒng)的模塊化網(wǎng)絡(luò)對于那些不能按“任務(wù)”或“事件”進(jìn)行分解的系統(tǒng)卻無能為力。因此，迫切需要提出一種新的建模與優(yōu)化方法。
為實(shí)現(xiàn)這樣的目的，本發(fā)明提出的基于結(jié)構(gòu)的神經(jīng)網(wǎng)絡(luò)建模與優(yōu)化方法不同于機(jī)理建模的方法，它毋需建立數(shù)學(xué)模型和求解數(shù)學(xué)方程；也不同于傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)建模方法，新網(wǎng)絡(luò)模型的連接權(quán)值具有明確的物理意義。通過對網(wǎng)絡(luò)權(quán)值的調(diào)整，可同時(shí)實(shí)現(xiàn)系統(tǒng)結(jié)構(gòu)參數(shù)的優(yōu)化。
我們知道，在工程中的復(fù)雜非線性系統(tǒng)從“結(jié)構(gòu)”上一般都可以看作是由若干個(gè)相互交連的子系統(tǒng)通過某種形式結(jié)合而成的。因此，在研究較大的非線性系統(tǒng)時(shí)，可以先把復(fù)雜的非線性系統(tǒng)分解為若干個(gè)相對簡單的子系統(tǒng)，再分別對各子系統(tǒng)進(jìn)行研究，建立子系統(tǒng)的模型，然后根據(jù)一定原則將這些子系統(tǒng)模型組合起來形成該非線性系統(tǒng)的模型。
基于結(jié)構(gòu)的神經(jīng)網(wǎng)絡(luò)模型就是這種思想的具體體現(xiàn)。具體講，就是根據(jù)系統(tǒng)的結(jié)構(gòu)特點(diǎn)，將原復(fù)雜非線性系統(tǒng)分解為若干個(gè)相對簡單的子系統(tǒng)，每個(gè)子系統(tǒng)分別以一個(gè)人工神經(jīng)元表示，即建立各子系統(tǒng)的人工神經(jīng)元模型，然后按照各子系統(tǒng)間的固有作用關(guān)系連接起來形成一個(gè)網(wǎng)絡(luò)，該網(wǎng)絡(luò)就是原非線性系統(tǒng)的模型。由于該網(wǎng)絡(luò)不同于已有模式的人工神經(jīng)網(wǎng)絡(luò)，它是依據(jù)系統(tǒng)的真實(shí)結(jié)構(gòu)與組成特點(diǎn)自然形成的，所以稱其為基于結(jié)構(gòu)的神經(jīng)網(wǎng)絡(luò)(Neural networks based on system architecture)。
由于所建立的神經(jīng)網(wǎng)絡(luò)模型是結(jié)構(gòu)化的，各神經(jīng)元之間的連接關(guān)系與子系統(tǒng)間的相互作用是對應(yīng)的，網(wǎng)絡(luò)的部分連接權(quán)值與系統(tǒng)的結(jié)構(gòu)參數(shù)相對應(yīng)，因此，建立模型后，對其連接權(quán)值的進(jìn)行調(diào)整也就是對系統(tǒng)結(jié)構(gòu)參數(shù)的調(diào)整，也就是說可以利用該網(wǎng)絡(luò)模型對系統(tǒng)結(jié)構(gòu)參數(shù)進(jìn)行優(yōu)化。
本發(fā)明建模與優(yōu)化方法按如下步驟進(jìn)行1、子系統(tǒng)劃分在建立基于結(jié)構(gòu)的神經(jīng)網(wǎng)絡(luò)模型時(shí)，首先需要對系統(tǒng)從結(jié)構(gòu)上進(jìn)行正確劃分。即，根據(jù)系統(tǒng)的結(jié)構(gòu)與組成特點(diǎn)，將原系統(tǒng)分解為若干個(gè)子系統(tǒng)。為使子系統(tǒng)問題更為簡單，通常盡可能把復(fù)雜系統(tǒng)分解為若干個(gè)單輸出的子系統(tǒng)。
一般的，非線性系統(tǒng)或稱為全局問題可描述為
Y(t+1)＝f(Y(t)，…，Y(t-Ky+1)；U(t)，…，U(t-Ku+1)；V)式中V＝[v1v2…vl]T——系統(tǒng)的l維結(jié)構(gòu)參數(shù)矢量(不隨時(shí)間變化)U(t)＝[u1(t) u2(t)…um(t)]T——系統(tǒng)在t時(shí)刻的m維輸入矢量(激勵(lì))Y(t)＝[y1(t) y2(t)…yn(t)]T——系統(tǒng)在t時(shí)刻的n維輸出矢量(響應(yīng))Ku——輸入(激勵(lì))的最大延遲階數(shù)Ky——輸出(響應(yīng))的最大延遲階數(shù)f(·)——非線性函數(shù)。
從上式可以看出，系統(tǒng)在(t+1)時(shí)刻的輸出Y(t+1)不僅與系統(tǒng)的輸入激勵(lì)U(t)和系統(tǒng)的結(jié)構(gòu)參數(shù)V有關(guān)，而且依賴于輸入激勵(lì)U(t)的Ky個(gè)歷史輸入信號和輸出響應(yīng)Y(t)的Ku個(gè)歷史輸出信號。
經(jīng)過分解后，該全局問題可轉(zhuǎn)化成由k個(gè)子系統(tǒng)所對應(yīng)的子問題，各子問題可表示如下yi(t+1)=fi(yi(t),...,yi(t-Kyi+1);Ui(t),...,Ui(t-Kui+1);Vi)(i=0,1,2,...,k-1)]]>式中 ——子系統(tǒng)i的li維結(jié)構(gòu)參量(不隨時(shí)間變化) ——子系統(tǒng)i在t時(shí)刻的mi維輸入矢量(激勵(lì))Yi(t)——子系統(tǒng)i在t時(shí)刻的輸出(1維)(響應(yīng))fi(·)——子系統(tǒng)i對應(yīng)的非線性函數(shù)。
這樣，一個(gè)復(fù)雜系統(tǒng)就可以分解為若干相對簡單的子系統(tǒng)。
2、子系統(tǒng)模型的建立建立子系統(tǒng)模型是建立系統(tǒng)基于結(jié)構(gòu)的神經(jīng)網(wǎng)絡(luò)模型的基礎(chǔ)。由于將系統(tǒng)劃分成了若干個(gè)單輸出的子系統(tǒng)，因此可以用單個(gè)的人工神經(jīng)元來建立子系統(tǒng)模型。
為了描述子系統(tǒng)輸入/輸出的動(dòng)態(tài)特性，可以把反映子系統(tǒng)動(dòng)態(tài)特性的時(shí)序數(shù)據(jù)引入神經(jīng)元，確定神經(jīng)元的輸入/輸出。
本發(fā)明把與子系統(tǒng)i有關(guān)的結(jié)構(gòu)參量Vi、子系統(tǒng)i在t時(shí)刻的激勵(lì)Ui(t)及其Ky個(gè)歷史輸入信號和子系統(tǒng)輸出響應(yīng)Y(t)的Ku個(gè)歷史輸出信號作為子系統(tǒng)神經(jīng)元模型的輸入，把子系統(tǒng)輸出Y(t)作為神經(jīng)元的輸出。
由于非線性系統(tǒng)的子系統(tǒng)也可能是非線性系統(tǒng)，因此用普通的人工神經(jīng)元不能建立子系統(tǒng)的正確模型。本發(fā)明使用函數(shù)鏈神經(jīng)元(Functional link neuron，F(xiàn)LN)來建立子系統(tǒng)模型。
函數(shù)鏈神經(jīng)元是函數(shù)鏈人工神經(jīng)網(wǎng)絡(luò)(Functional link artificial neural network，F(xiàn)LANN)的一種特殊形式。由于FLANN是一種具有扁平結(jié)構(gòu)的單層網(wǎng)絡(luò)，拋棄了傳統(tǒng)的多層前饋網(wǎng)絡(luò)所必需的隱含層，只采用單層的結(jié)構(gòu)就可實(shí)現(xiàn)具有隱含層網(wǎng)絡(luò)的功能。特別地，當(dāng)FLANN的輸出矢量為一維時(shí)，該單層網(wǎng)絡(luò)就退化為一個(gè)神經(jīng)元，稱其為函數(shù)鏈神經(jīng)元(FLN)。
通過對函數(shù)鏈神經(jīng)元性能(包括可學(xué)習(xí)性，函數(shù)逼近能力，輸出誤差，全局最小，算法收斂性等)進(jìn)行深入的理論分析與證明，表明該類型神經(jīng)元具有良好的非線性逼近能力，并且可以證明當(dāng)使用正交的函數(shù)型擴(kuò)展時(shí)，即正交的函數(shù)鏈神經(jīng)元可以任意精度逼近非線性映射，并且不存在局部最小等問題。因此，它是建立單輸出子系統(tǒng)模型的理想神經(jīng)元類型之一。
本發(fā)明以實(shí)驗(yàn)數(shù)據(jù)或仿真數(shù)據(jù)作為訓(xùn)練樣本，運(yùn)用某種學(xué)習(xí)算法(例如BP算法)分別對各子系統(tǒng)的神經(jīng)元模型進(jìn)行訓(xùn)練，直到它們能夠很好地逼近各個(gè)子系統(tǒng)的輸入/輸出關(guān)系為止，即得到各子系統(tǒng)的神經(jīng)元模型。由于單個(gè)神經(jīng)元的學(xué)習(xí)算法要簡單的多，因此可以大大減小算法的復(fù)雜程度，對于提高學(xué)習(xí)效率，減少學(xué)習(xí)時(shí)間都是十分有效的。
3、基于結(jié)構(gòu)的神經(jīng)網(wǎng)絡(luò)模型建立根據(jù)系統(tǒng)的結(jié)構(gòu)與組成特點(diǎn)以及各子系統(tǒng)間的相互作用關(guān)系，將所得到的各子系統(tǒng)的神經(jīng)元模型連接起來，就形成一個(gè)基于結(jié)構(gòu)的神經(jīng)網(wǎng)絡(luò)。只要各子系統(tǒng)的神經(jīng)元模型能夠很好地表達(dá)對應(yīng)的子系統(tǒng)，那么由它們連接起來形成的網(wǎng)絡(luò)模型就可表示原復(fù)雜非線性系統(tǒng)的輸入/輸出關(guān)系，即得到了原非線性系統(tǒng)的基于結(jié)構(gòu)的神經(jīng)網(wǎng)絡(luò)模型。
4、結(jié)構(gòu)參數(shù)優(yōu)化在建立子系統(tǒng)模型時(shí)是把系統(tǒng)的結(jié)構(gòu)參數(shù)作為模型的輸入?yún)?shù)的，那么只要對該模型稍加改動(dòng)就可以進(jìn)行參數(shù)優(yōu)化。
本發(fā)明在各神經(jīng)元中那些與結(jié)構(gòu)參數(shù)相對應(yīng)的輸入變量vi之前，增加一個(gè)輸入值為1的新輸入層。這樣，原來作為輸入的變量vi就成為新輸入層的待優(yōu)化的權(quán)值W′i。由于這些新權(quán)值與系統(tǒng)的結(jié)構(gòu)參數(shù)相對應(yīng)，具有明確的物理意義。因此，為了獲得系統(tǒng)的最優(yōu)性能而對這些權(quán)值進(jìn)行修正，其實(shí)就是對系統(tǒng)結(jié)構(gòu)參數(shù)的改變，亦即實(shí)現(xiàn)了對系統(tǒng)結(jié)構(gòu)參數(shù)的優(yōu)化。
將這些改進(jìn)后的神經(jīng)元模型仍然按照原來的連接方式將它們連接起來，那么得到網(wǎng)絡(luò)模型就是可用于結(jié)構(gòu)參數(shù)優(yōu)化的網(wǎng)絡(luò)模型。
再根據(jù)優(yōu)化目標(biāo)，選擇一種優(yōu)化算法(例如GA算法)對網(wǎng)絡(luò)權(quán)值進(jìn)行優(yōu)化即可。需要指出，優(yōu)化時(shí)只修改那些新增加的與系統(tǒng)結(jié)構(gòu)參數(shù)相對應(yīng)的權(quán)值w′i，而其他在建模時(shí)已訓(xùn)練好的權(quán)值保持不變。
根據(jù)優(yōu)化時(shí)給出的條件不同，分兩種情況討論。
情況一用戶給出非線性系統(tǒng)的理想輸出模式。
此時(shí)，對該系統(tǒng)的參數(shù)優(yōu)化問題可以表述為對于給定的理想輸出樣本Y，在與輸出樣本相同的激勵(lì)下，通過網(wǎng)絡(luò)的自學(xué)習(xí)，修正那些表征待優(yōu)化的結(jié)構(gòu)參數(shù)的權(quán)值W′，而其余權(quán)值不變，最終使得下式成立|Y-Y*(W′)|≤ε式中 Y*(W′)——基于結(jié)構(gòu)的神經(jīng)網(wǎng)絡(luò)模型的輸出W′i(i＝1，2，…，n)——神經(jīng)元θ1中表征待優(yōu)化的結(jié)構(gòu)參數(shù)的權(quán)值ε—預(yù)先設(shè)定的精度那么，所得到的權(quán)值W′＝[W′1，W′2，…，W′n]即為滿足要求的優(yōu)化解。
情況二用戶給出非線性系統(tǒng)的優(yōu)化性能指標(biāo)。
用戶給出的性能指標(biāo)可能是一個(gè)(對應(yīng)單目標(biāo)優(yōu)化)，也可能是多個(gè)性能指標(biāo)(對應(yīng)多目標(biāo)優(yōu)化)。對于多目標(biāo)優(yōu)化問題，可以將其轉(zhuǎn)化為一個(gè)單目標(biāo)的優(yōu)化問題，因此仍然可以按照單目標(biāo)優(yōu)化問題求解。
設(shè)將多目標(biāo)優(yōu)化的評價(jià)指標(biāo)轉(zhuǎn)化成單目標(biāo)優(yōu)化問題的綜合評價(jià)指標(biāo)為Ψ。其中，Ψ是系統(tǒng)輸出模式y(tǒng)的函數(shù)，而y是系統(tǒng)結(jié)構(gòu)參數(shù)的函數(shù)。此時(shí)，對該系統(tǒng)的優(yōu)化問題可描述為通過網(wǎng)絡(luò)的自學(xué)習(xí)，修正那些表征待優(yōu)化的結(jié)構(gòu)參數(shù)的權(quán)值W′，使得在要求的輸入激勵(lì)u下，網(wǎng)絡(luò)的輸出模式Y(jié)*的(綜合)性能指標(biāo)Ψ最優(yōu)(一般可認(rèn)為是最小)。即minΨ(Y*(W′)式中 Y*(W′)——基于結(jié)構(gòu)的神經(jīng)網(wǎng)絡(luò)模型的輸出W′(i＝1，2，…，n)——神經(jīng)元θ1中表征待優(yōu)化的結(jié)構(gòu)參數(shù)的權(quán)值那么，所得到的權(quán)值W′＝[W′1，W′2，…，W′n]即為滿足要求的優(yōu)化解。
本發(fā)明提供的新的建模與優(yōu)化方法與現(xiàn)有的神經(jīng)網(wǎng)絡(luò)建模與優(yōu)化方法相比，具有系統(tǒng)建模和參數(shù)優(yōu)化的雙重功能，其優(yōu)點(diǎn)如下(1)基于結(jié)構(gòu)的神經(jīng)網(wǎng)絡(luò)模型在本質(zhì)上是結(jié)構(gòu)化的，這體現(xiàn)在網(wǎng)絡(luò)模型的結(jié)構(gòu)是與系統(tǒng)的結(jié)構(gòu)相對應(yīng)的；(2)網(wǎng)絡(luò)中神經(jīng)元個(gè)數(shù)是確定的，取決于所劃分的子系統(tǒng)個(gè)數(shù)；(3)神經(jīng)元之間的連接不是盲目的，神經(jīng)元之間根據(jù)系統(tǒng)結(jié)構(gòu)和組成特點(diǎn)相互連接；(4)網(wǎng)絡(luò)的部分連接權(quán)值具有物理意義，通過對基于結(jié)構(gòu)的神經(jīng)網(wǎng)絡(luò)模型進(jìn)行適當(dāng)改造，把原來作為輸入的結(jié)構(gòu)參數(shù)作為新的網(wǎng)絡(luò)連接權(quán)值，使得網(wǎng)絡(luò)的部分連接權(quán)值與系統(tǒng)的結(jié)構(gòu)參數(shù)相對應(yīng)，具有明確的物理意義。
(5)訓(xùn)練速度快，用一個(gè)人工神經(jīng)元模擬一個(gè)子系統(tǒng)，子系統(tǒng)模型結(jié)構(gòu)簡單，并且可以單獨(dú)訓(xùn)練，使訓(xùn)練速度明顯加快；(6)建模后可以直接進(jìn)行參數(shù)優(yōu)化，由于網(wǎng)絡(luò)的部分連接權(quán)值與系統(tǒng)的結(jié)構(gòu)參數(shù)相對應(yīng)，具有明確的物理意義，因此，當(dāng)建模完成后，對這些權(quán)值的調(diào)整實(shí)質(zhì)上就是調(diào)整對應(yīng)的系統(tǒng)結(jié)構(gòu)參數(shù)。也就是說，基于結(jié)構(gòu)的神經(jīng)網(wǎng)絡(luò)不但可用于非線性系統(tǒng)建模，而且還可以進(jìn)一步對結(jié)構(gòu)參數(shù)進(jìn)行優(yōu)化，這是傳統(tǒng)神經(jīng)網(wǎng)絡(luò)所不具有的。
(7)有益于新系統(tǒng)的開發(fā)，如果利用本發(fā)明建立一個(gè)子系統(tǒng)模型庫，那么，當(dāng)設(shè)計(jì)一個(gè)系統(tǒng)時(shí)，只要從其中挑選出需要的子系統(tǒng)模型，然后根據(jù)一定規(guī)則將它們連接起來就建立了該系統(tǒng)模型。如果子系統(tǒng)模型的連接方式不同，還可以得到結(jié)構(gòu)類型不同的新系統(tǒng)，這對于新系統(tǒng)的開發(fā)也是十分有益的。
總之，基于結(jié)構(gòu)的神經(jīng)網(wǎng)絡(luò)建模與優(yōu)化方法解決了傳統(tǒng)神經(jīng)網(wǎng)絡(luò)建模與優(yōu)化時(shí)存在的模型非結(jié)構(gòu)化、神經(jīng)元的個(gè)數(shù)不易確定、收斂速度慢、局部最小等缺點(diǎn)。新方法為非線性系統(tǒng)，特別是大型、嚴(yán)重非線性系統(tǒng)的系統(tǒng)建模與結(jié)構(gòu)參數(shù)優(yōu)化提供了一條新的途徑，并且對開發(fā)新的系統(tǒng)也具有十分重要的意義。


及
具體實(shí)施例方式為更好地理解本發(fā)明的技術(shù)方案，以下以Y2-Hc10型先導(dǎo)式溢流閥為實(shí)施例，對其進(jìn)行建模與優(yōu)化。
圖1為Y2-Hc10型先導(dǎo)式溢流閥的結(jié)構(gòu)簡圖。
如圖1所示，先導(dǎo)式溢流閥是由先導(dǎo)閥和主閥組成的。圖中，1為閥體，2為主閥芯座，3為主閥芯，4為閥套，5為主閥彈簧，6為先導(dǎo)閥體，7為錐閥座，8為錐閥(先導(dǎo)閥)，9為先導(dǎo)閥彈簧(調(diào)壓彈簧)，10為調(diào)壓螺釘，11為調(diào)壓手槍。P口、T口和X口分別為進(jìn)油口、溢油口和外控口。
建模與優(yōu)化按以下步驟進(jìn)行1、先導(dǎo)式溢流閥的子系統(tǒng)劃分先導(dǎo)式溢流閥是一個(gè)較復(fù)雜的非線性系統(tǒng)，可看作是若干非線性元件(例如液阻，液容，液感等)通過適當(dāng)形式連接而構(gòu)成的，它從結(jié)構(gòu)上可看作是由7個(gè)子系統(tǒng)組成的。分別為①液感元件1——對應(yīng)于主閥芯的質(zhì)量—彈簧子系統(tǒng)；②液感元件2——對應(yīng)于先導(dǎo)閥芯的質(zhì)量—彈簧子系統(tǒng)；③可變液阻1——對應(yīng)于主閥溢流口的溢流子系統(tǒng)；④可變液阻2——對應(yīng)于先導(dǎo)閥溢流口的溢流子系統(tǒng)；⑤固定液阻——對應(yīng)于主閥芯上的固定阻尼孔子系統(tǒng)；⑥液容元件1——對應(yīng)于主閥受控腔的流量連續(xù)性子系統(tǒng)；⑦液容元件2——對應(yīng)于先導(dǎo)閥受控腔的流量連續(xù)性子系統(tǒng)；其中，可變液阻1和可變液阻2分別是由于主閥芯和先導(dǎo)閥芯的運(yùn)動(dòng)，引起主閥和先導(dǎo)閥開口量變化而產(chǎn)生的；主閥受控腔是指主閥下腔、與其相連的管道以及油泵容腔的一半所構(gòu)成的控制體；先導(dǎo)閥受控腔是指先導(dǎo)閥的右腔。2、先導(dǎo)式溢流閥各子系統(tǒng)模型的建立由于每個(gè)子系統(tǒng)都是單輸出子系統(tǒng)，因此可分別用一個(gè)函數(shù)鏈神經(jīng)元來模擬一個(gè)子系統(tǒng)。
以液感元件1為例，它對應(yīng)于主閥芯的質(zhì)量—彈簧子系統(tǒng)，它表現(xiàn)為主閥芯受力后的運(yùn)動(dòng)特性。其對應(yīng)的函數(shù)鏈神經(jīng)元模型記為神經(jīng)元1。
圖2為函數(shù)鏈神經(jīng)元1的模型圖。
其中圖2a為函數(shù)鏈神經(jīng)元1的完整模型，圖2b為其簡化模型，圖2c為其改進(jìn)后用于優(yōu)化的簡化表示模型。
如圖2所示，動(dòng)態(tài)時(shí)由于主閥芯受到液壓力、彈簧力、穩(wěn)態(tài)液動(dòng)力和瞬態(tài)液動(dòng)力的共同作用而產(chǎn)生加速度，從而引起主閥芯位移的變化。影響該子系統(tǒng)的結(jié)構(gòu)參數(shù)主要包括M、k1、xt1、D、D1和L1等。這里，選擇主閥芯在t時(shí)刻的位移量(亦即主閥口開度)x1(t)作為子系統(tǒng)的輸出。以中間狀態(tài)變量(包括其歷史信號)以及結(jié)構(gòu)參數(shù)組成的矢量U1＝[Mk1xt1DD1L1p1(t)p2(t)x1(t-1)x1(t-2)]T作為子系統(tǒng)的輸入(如圖2a)。其中p1、p2分別為主閥芯下、上端壓力；x1(t-1)、x1(t-2)為主閥芯位移的一、二階時(shí)延(輸出的歷史信號)。以三角函數(shù)系{u，sin(πu)，cos(πu)，sin(2πu)，cos(2πu)，…}作為函數(shù)鏈神經(jīng)元的函數(shù)擴(kuò)展集，則U1經(jīng)過函數(shù)型擴(kuò)展模塊生成的擴(kuò)展矢量作為函數(shù)鏈神經(jīng)元的輸入。其簡化形式如圖2b所示。利用該子系統(tǒng)輸入輸出的訓(xùn)練樣本，運(yùn)用BP算法對其神經(jīng)元模型進(jìn)行訓(xùn)練，直到它很好地逼近該子系統(tǒng)的輸入/輸出關(guān)系時(shí)，就得到了該子系統(tǒng)的神經(jīng)元模型。
類似地，也可得出其余各子系統(tǒng)的函數(shù)鏈神經(jīng)元簡化模型。3、先導(dǎo)式溢流閥基于結(jié)構(gòu)的神經(jīng)網(wǎng)絡(luò)模型的建立根據(jù)先導(dǎo)式溢流閥的功能結(jié)構(gòu)、各子系統(tǒng)間的相互作用關(guān)系以及變量間的因果關(guān)系，可以很容易地將上述7個(gè)子系統(tǒng)模型連接起來，形成基于結(jié)構(gòu)的神經(jīng)網(wǎng)絡(luò)模型。
圖3為先導(dǎo)式溢流閥基于結(jié)構(gòu)的神經(jīng)網(wǎng)絡(luò)模型圖。
具體連接方法是神經(jīng)元1的輸出分別與自身(神經(jīng)元1)以及神經(jīng)元3、6、7的輸入相連；神經(jīng)元2的輸出分別與自身(神經(jīng)元2)以及神經(jīng)元4和7的輸入相連；神經(jīng)元3的輸出與神經(jīng)元6的輸入相連；神經(jīng)元4的輸出與神經(jīng)元7的輸入相連；神經(jīng)元5的輸出分別與神經(jīng)元6和7的輸入相連；神經(jīng)元6的輸出分別與自身(神經(jīng)元6)以及神經(jīng)元1、3、5的輸入相連；神經(jīng)元7的輸出分別與自身(神經(jīng)元7)以及神經(jīng)元1、2、4和5的輸入相連。整個(gè)網(wǎng)絡(luò)的輸入(激勵(lì))為系統(tǒng)輸入油量qin(t)，輸出為主閥下腔壓力p1(t)。
可以看出，除了系統(tǒng)的輸出外，還可以得到另外6個(gè)中間狀態(tài)變量，分別為p2(t)、x1(t)、x2(t)、q0(t)、q1(t)、q2(t)。當(dāng)然，也可以根據(jù)需要選擇其它神經(jīng)元的輸出作為整個(gè)網(wǎng)絡(luò)的輸出，那么同樣也可以得到其它的另外6個(gè)中間狀態(tài)變量。4、先導(dǎo)式溢流閥結(jié)構(gòu)參數(shù)優(yōu)化優(yōu)化時(shí)需要對網(wǎng)絡(luò)中的神經(jīng)元模型進(jìn)行適當(dāng)?shù)母脑臁榉奖闫鹨?，仍然以子系統(tǒng)1的函數(shù)鏈神經(jīng)元(神經(jīng)元1)為例。在神經(jīng)元1(圖2b))的結(jié)構(gòu)參數(shù)輸入前增加一個(gè)輸入為1的新輸入層，那么原來作為輸入的結(jié)構(gòu)參數(shù)就成為新輸入層的權(quán)值 …、 。由于這些新權(quán)值分別與結(jié)構(gòu)參數(shù)M、xt1、D、D1、k1、L1一一對應(yīng)，因此具有明確的物理意義。圖2c)是其改進(jìn)后的簡化表示模型，依此可以分別對其余6個(gè)子系統(tǒng)的神經(jīng)元模型進(jìn)行改造。
根據(jù)前述的原理，將這7個(gè)改進(jìn)后的函數(shù)鏈神經(jīng)元模型仍然按照Y2-Hc10型先導(dǎo)式溢流閥的結(jié)構(gòu)特點(diǎn)和各子系統(tǒng)間已知的相互作用關(guān)系，連接起來形成先導(dǎo)式溢流閥改進(jìn)后用于優(yōu)化的網(wǎng)絡(luò)模型。
圖4為先導(dǎo)式溢流閥改進(jìn)后用于優(yōu)化的基于結(jié)構(gòu)的神經(jīng)網(wǎng)絡(luò)模型圖。
通過對這些新增加的與結(jié)構(gòu)參數(shù)相對應(yīng)的權(quán)值進(jìn)行調(diào)整，使網(wǎng)絡(luò)具有理想的的輸入/輸出性能，這樣就可以實(shí)現(xiàn)系統(tǒng)結(jié)構(gòu)參數(shù)的優(yōu)化。
權(quán)利要求
1.一種基于結(jié)構(gòu)的神經(jīng)網(wǎng)絡(luò)建模與優(yōu)化方法，其特征在于按如下步驟進(jìn)行1)根據(jù)系統(tǒng)的結(jié)構(gòu)與組成特點(diǎn)，將原系統(tǒng)分解為若干個(gè)單輸出的子系統(tǒng)；2)使用函數(shù)鏈神經(jīng)元來建立子系統(tǒng)模型，把與子系統(tǒng)有關(guān)的結(jié)構(gòu)參量、子系統(tǒng)在t時(shí)刻的激勵(lì)及其歷史輸入信號和響應(yīng)的歷史輸出信號作為神經(jīng)元的輸入，把子系統(tǒng)輸出作為神經(jīng)元的輸出，并運(yùn)用學(xué)習(xí)算法分別對各子系統(tǒng)的神經(jīng)元模型進(jìn)行訓(xùn)練，使之逼近各個(gè)子系統(tǒng)的輸入/輸出關(guān)系，得到各子系統(tǒng)的神經(jīng)元模型；3)將所得到的各子系統(tǒng)的神經(jīng)元模型連接起來，得到原系統(tǒng)的基于結(jié)構(gòu)的神經(jīng)網(wǎng)絡(luò)模型；4)在各神經(jīng)元中與結(jié)構(gòu)參數(shù)相對應(yīng)的輸入變量之前，增加一個(gè)輸入值為1的新輸入層，得到與系統(tǒng)的結(jié)構(gòu)參數(shù)相對應(yīng)的新輸入層權(quán)值，并對這些權(quán)值進(jìn)行修正；5)將改進(jìn)后的神經(jīng)元模型仍按原來的連接方式連接起來，得到可用于結(jié)構(gòu)參數(shù)優(yōu)化的網(wǎng)絡(luò)模型。6)根據(jù)優(yōu)化目標(biāo)，選擇一種優(yōu)化算法對網(wǎng)絡(luò)權(quán)值進(jìn)行優(yōu)化，修改新增加的與系統(tǒng)結(jié)構(gòu)參數(shù)相對應(yīng)的權(quán)值，而其它在建模時(shí)已訓(xùn)練好的權(quán)值保持不變。
全文摘要
一種基于結(jié)構(gòu)的神經(jīng)網(wǎng)絡(luò)建模與優(yōu)化方法,根據(jù)系統(tǒng)的結(jié)構(gòu)與組成特點(diǎn),將原復(fù)雜非線性系統(tǒng)分解為若干個(gè)相對簡單的子系統(tǒng),用單個(gè)的人工函數(shù)鏈神經(jīng)元來建立子系統(tǒng)模型,根據(jù)子系統(tǒng)的結(jié)構(gòu)參量、激勵(lì)和響應(yīng)以及它們的歷史信號來確定神經(jīng)元的輸入/輸出,得到各子系統(tǒng)的神經(jīng)元模型后,按照各子系統(tǒng)間的固有作用關(guān)系連接起來形成一個(gè)基于結(jié)構(gòu)的神經(jīng)網(wǎng)絡(luò)模型,并利用該網(wǎng)絡(luò)模型對系統(tǒng)結(jié)構(gòu)參數(shù)進(jìn)行優(yōu)化。本發(fā)明具有系統(tǒng)建模和參數(shù)優(yōu)化的雙重功能,解決了傳統(tǒng)神經(jīng)網(wǎng)絡(luò)建模與優(yōu)化時(shí)存在的模型非結(jié)構(gòu)化、神經(jīng)元的個(gè)數(shù)不易確定、收斂速度慢等缺點(diǎn),為非線性系統(tǒng)的建模與結(jié)構(gòu)參數(shù)優(yōu)化提供了一條新途徑,對開發(fā)新的系統(tǒng)也具有十分重要的意義。
文檔編號G06N3/00GK1349198SQ0113904
公開日2002年5月15日 申請日期2001年12月4日 優(yōu)先權(quán)日2001年12月4日
發(fā)明者詹永麒, 施光林, 喬俊偉 申請人:上海交通大學(xué)