本發(fā)明涉及水泥燒成系統(tǒng)熟料游離鈣的預(yù)測(cè)領(lǐng)域，特別是涉及一種基于深度信念網(wǎng)絡(luò)模型的水泥熟料游離鈣含量預(yù)測(cè)方法。

背景技術(shù)：

水泥熟料游離鈣(free calcium oxide in cement clinker,fCaO)是水泥生料經(jīng)分解爐的預(yù)分解、回轉(zhuǎn)窯高溫煅燒，最后經(jīng)篦冷機(jī)冷卻而沒有參加化學(xué)反應(yīng)，以游離態(tài)存在于水泥熟料中的氧化鈣。水泥熟料fCaO含量高低是影響水泥安定性的主要因素，能夠直接反映物料在回轉(zhuǎn)窯燒成帶的燒成狀況。如果水泥熟料fCaO含量過高，物料在回轉(zhuǎn)窯煅燒的不充分，熟料強(qiáng)度低，水泥內(nèi)部形成局部膨脹應(yīng)力，使其變形或開裂，對(duì)水泥強(qiáng)度、安定性均有一定影響。反之，其含量過低時(shí)，熟料往往呈過燒狀態(tài)，甚至是死燒，此時(shí)的熟料質(zhì)量不僅缺乏活性，而且也造成了能源浪費(fèi)，增加了水泥生產(chǎn)成本。目前，國(guó)內(nèi)外關(guān)于水泥熟料fCaO含量的測(cè)量方法主要有在線分析儀測(cè)量方法和離線采樣化驗(yàn)方法。在線分析儀測(cè)量的方法可以實(shí)現(xiàn)對(duì)水泥熟料游離鈣含量實(shí)時(shí)檢測(cè)，但設(shè)備成本較大，維護(hù)費(fèi)用高，并且測(cè)量的準(zhǔn)確性容易受到現(xiàn)場(chǎng)煙塵和實(shí)際工況的影響，精度也不高。離線采樣化驗(yàn)方法需每隔1-2個(gè)小時(shí)現(xiàn)場(chǎng)取樣離線化驗(yàn)得到水泥熟料fCaO的含量，由于水泥熟料燒成過程具有一定時(shí)間的延時(shí)，離線分析獲得fCaO含量相對(duì)于指導(dǎo)燒成系統(tǒng)的控制具有很大的滯后性。因此，水泥熟料fCaO含量預(yù)測(cè)的實(shí)現(xiàn)對(duì)保證水泥熟料質(zhì)量和實(shí)現(xiàn)水泥燒成系統(tǒng)節(jié)能減排具有重要意義。

眾多國(guó)內(nèi)外工藝、自控專家對(duì)此做了大量的研究工作，濟(jì)南大學(xué)劉文光等針對(duì)水泥廠熟料質(zhì)量指標(biāo)游離鈣含量難以在線測(cè)量的問題，提出一種基于最小二乘支持向量機(jī)(lssvm)的軟測(cè)量建模方法，仿真實(shí)驗(yàn)研究表明，最小二乘支持 向量機(jī)建模具有良好的學(xué)習(xí)能力和泛化性能，且對(duì)數(shù)據(jù)樣本的依賴程度低，是一種有效的軟測(cè)量建模方法；沈陽(yáng)理工大學(xué)王秀蓮等在構(gòu)建局部建模數(shù)據(jù)集時(shí)，同時(shí)考慮了數(shù)據(jù)樣本之間的加權(quán)歐氏距離與向量的夾角，使得訓(xùn)練數(shù)據(jù)的選取更加具有實(shí)際意義，并建立基于局部pso-lssvm算法的軟測(cè)量模型，計(jì)算得到當(dāng)前fCaO含量值；合肥工業(yè)大學(xué)蔣妍妍等基于改進(jìn)粒子群優(yōu)化lssvm的水泥熟料fCaO軟測(cè)量研究，利用改進(jìn)的粒子群優(yōu)化算法對(duì)最小二乘支持向量機(jī)模型的重要參數(shù)進(jìn)行迭代尋優(yōu)，解決了fCaO含量的測(cè)量問題提供了一些可行的方案。但是以往的算法泛化能力差、應(yīng)用性不強(qiáng)、精度低。因此，有必要尋求一種精確度高、應(yīng)用性強(qiáng)的預(yù)測(cè)方法實(shí)現(xiàn)對(duì)水泥熟料fCaO含量準(zhǔn)確預(yù)測(cè)。

技術(shù)實(shí)現(xiàn)要素：

針對(duì)水泥水泥游離鈣(fCaO)含量難以實(shí)時(shí)在線預(yù)測(cè)的問題，本發(fā)明提供一種基于深度信念網(wǎng)絡(luò)模型(deep belief network,DBN)的水泥熟料fCaO含量預(yù)測(cè)方法。

為解決上述技術(shù)問題，本發(fā)明是通過以下方案實(shí)現(xiàn)的：

一種基于深度信念網(wǎng)絡(luò)模型的水泥熟料游離鈣含量預(yù)測(cè)方法，實(shí)現(xiàn)該方法所需設(shè)備包括測(cè)量?jī)x表、數(shù)據(jù)通訊接口和中控機(jī)；

所述的測(cè)量?jī)x表用于測(cè)量水泥熟料游離鈣含量的輔助變量，即窯主機(jī)電流、二次風(fēng)溫、窯尾溫度和煙室NO_x；

所述的數(shù)據(jù)通訊接口用于將現(xiàn)場(chǎng)測(cè)量?jī)x表測(cè)量的數(shù)據(jù)傳輸?shù)街锌貦C(jī)，所述的中控機(jī)用于運(yùn)行深度信念網(wǎng)絡(luò)的水泥熟料fCaO含量預(yù)測(cè)算法，根據(jù)水泥燒成系統(tǒng)的窯主機(jī)電流、二次風(fēng)溫、窯尾溫度和煙室NO_x，預(yù)測(cè)出輸出變量水泥熟料fCaO含量；

該方法內(nèi)容包括如下步驟：

步驟一：根據(jù)水泥工藝初步選取能反映水泥熟料燒成情況的主要變量為輔助變量集合，預(yù)測(cè)變量為水泥熟料fCaO的含量；

在步驟一中，所述的輔助變量集合為：窯主機(jī)電流、二次風(fēng)溫、窯尾溫度、煙室NO_x、二室篦下壓力、分解爐出口溫度、窯頭負(fù)壓、煙室O₂、煙室CO、窯轉(zhuǎn)速、三次風(fēng)溫和預(yù)熱器出口溫度；由于初步選取的輔助變量集合維度高，故對(duì)輔助變量數(shù)據(jù)進(jìn)行降維，以降低數(shù)據(jù)訓(xùn)練和預(yù)測(cè)的難度；

步驟二：數(shù)據(jù)采集及分類，通過現(xiàn)場(chǎng)儀表和操作員記錄表分別采集各個(gè)輔助變量和水泥熟料fCaO含量的現(xiàn)場(chǎng)數(shù)據(jù)，采用灰色關(guān)聯(lián)度分析方法對(duì)初始輔助變量集合降維；由于數(shù)據(jù)樣本的單位不盡相同，故在訓(xùn)練之前對(duì)數(shù)據(jù)進(jìn)行統(tǒng)一單位，對(duì)數(shù)據(jù)進(jìn)行歸一化處理，確保各權(quán)值的收斂速度大致相同，得到輸入輸出都在0到1之間，加快訓(xùn)練網(wǎng)絡(luò)的收斂速度；

在步驟二中，所述采用灰色關(guān)聯(lián)度分析方法對(duì)初始輔助變量集合降維，就是對(duì)初始輔助變量集合的數(shù)據(jù)進(jìn)行灰色關(guān)聯(lián)度計(jì)算，刪除與游離鈣灰色關(guān)聯(lián)度小的變量，進(jìn)而實(shí)現(xiàn)對(duì)初始輔助變量集合降維，獲得最終的軟測(cè)量模型輸入輔助變量集合為：窯主機(jī)電流、二次風(fēng)溫、窯尾溫度和煙室NO_x，輸出變量為水泥熟料fCaO含量；將最終的軟測(cè)量模型輸入輔助變量集合代入深度信念網(wǎng)絡(luò)模型進(jìn)行預(yù)訓(xùn)練，訓(xùn)練出水泥熟料fCaO含量的預(yù)測(cè)模型；

步驟三：根據(jù)深度信念網(wǎng)絡(luò)的算法及樣本數(shù)據(jù)量確定深度信念網(wǎng)絡(luò)結(jié)構(gòu)中的參數(shù)：學(xué)習(xí)率ε、權(quán)重w_ij、偏置和隱單元個(gè)數(shù)，將在步驟二中采集并歸一化處理后的數(shù)據(jù)作為樣本進(jìn)行無(wú)監(jiān)督訓(xùn)練，訓(xùn)練深度信念網(wǎng)絡(luò)的參數(shù)，進(jìn)而實(shí)現(xiàn)對(duì)整個(gè)網(wǎng)絡(luò)權(quán)重和偏置的優(yōu)化；

步驟四：采用反向傳播算法對(duì)在步驟三中所確定的深度信念網(wǎng)絡(luò)結(jié)構(gòu)中的參數(shù)進(jìn)行誤差校正，對(duì)深度信念網(wǎng)絡(luò)結(jié)構(gòu)參數(shù)中隱含層偏置、輸出層偏置和權(quán) 值矩陣進(jìn)行全局搜索調(diào)整，進(jìn)而確定水泥熟料fCaO含量的預(yù)測(cè)模型；

所述采用反向傳播算法對(duì)在步驟三中所確定的深度信念網(wǎng)絡(luò)結(jié)構(gòu)中的參數(shù)進(jìn)行誤差校正，誤差校正的過程是：由于步驟三的學(xué)習(xí)是一個(gè)無(wú)監(jiān)督的學(xué)習(xí)過程，而使用反向傳播算法對(duì)網(wǎng)絡(luò)模型參數(shù)中隱含層偏置、輸出層偏置和權(quán)值矩陣進(jìn)行修正是一個(gè)有監(jiān)督的學(xué)習(xí)過程；誤差反傳是采用從輸出層到輸入層逐層修正的方法，通過這種方法進(jìn)行誤差修正和模型微調(diào)，從而確定水泥熟料fCaO含量的預(yù)測(cè)模型；

步驟五：采集在步驟二中所得到輔助變量集合的實(shí)時(shí)數(shù)據(jù)，并將得到的輔助變量集合的實(shí)時(shí)數(shù)據(jù)進(jìn)行3δ準(zhǔn)則剔除誤差；若當(dāng)前時(shí)刻任一輔助變量被剔除，則一并刪掉同一時(shí)刻其他輔助變量的數(shù)據(jù)，游離鈣保持上一時(shí)刻的預(yù)測(cè)值；若沒有輔助變量被刪除，則將處理完的數(shù)據(jù)傳輸?shù)讲襟E四得到的水泥熟料fCaO含量的預(yù)測(cè)模型算法的中控機(jī)中，進(jìn)而預(yù)測(cè)出水泥熟料fCaO含量。

本發(fā)明具有以下有益效果：

1、根據(jù)水泥燒成系統(tǒng)工藝并結(jié)合灰色關(guān)聯(lián)度分析方法選出輔助變量，準(zhǔn)確地反應(yīng)了水泥燒成系統(tǒng)實(shí)際運(yùn)行狀況，對(duì)保證水泥質(zhì)量、節(jié)能降耗具有重要意義；

2、本發(fā)明建立的水泥熟料fCaO含量預(yù)測(cè)模型具有良好的泛化性能，能夠?qū)χ锌鼗剞D(zhuǎn)窯操作員的操作提供指導(dǎo)，有利于保證燒成系統(tǒng)平穩(wěn)、安全運(yùn)行；

3、本發(fā)明能夠有效地對(duì)水泥熟料fCaO含量進(jìn)行預(yù)測(cè)，進(jìn)而對(duì)在線測(cè)量設(shè)備進(jìn)行補(bǔ)充，甚至替代在線設(shè)備，有效地降低了硬件成本。

附圖說(shuō)明

圖1為本發(fā)明提出的基于深度信念網(wǎng)絡(luò)模型的水泥熟料游離鈣含量預(yù)測(cè)系統(tǒng)的現(xiàn)場(chǎng)接線圖；

圖2為限制玻爾茲曼機(jī)示意圖((Restricted Boltzmann Mzchine,RBM)；

圖3為本發(fā)明的用于水泥熟料游離鈣含量預(yù)測(cè)的深度信念網(wǎng)絡(luò)模型框圖；

圖4為本發(fā)明提出的基于深度信念網(wǎng)絡(luò)模型預(yù)測(cè)水泥熟料游離鈣系統(tǒng)流程的方框圖；

圖5為基于深度信念網(wǎng)絡(luò)模型訓(xùn)練過程中的反向傳播算法學(xué)習(xí)流程圖。

具體實(shí)施方式

下面結(jié)合附圖對(duì)本發(fā)明做進(jìn)一步的詳細(xì)描述。

一種基于深度信念網(wǎng)絡(luò)模型的水泥熟料fCaO含量預(yù)測(cè)方法，圖1所示為基于深度信念網(wǎng)絡(luò)模型的水泥熟料游離鈣預(yù)測(cè)系統(tǒng)的現(xiàn)場(chǎng)接線圖，首先進(jìn)行輔助變量的初步選取，將采集的數(shù)據(jù)與深度信念網(wǎng)絡(luò)相結(jié)合，建立本發(fā)明的用于水泥熟料游離鈣預(yù)測(cè)的深度信念網(wǎng)絡(luò)模型，其框圖如圖3所示；本發(fā)明提出的基于深度信念網(wǎng)絡(luò)模型預(yù)測(cè)水泥熟料游離鈣系統(tǒng)的流程方框圖如圖4所示，采用反向傳播算法對(duì)深度信念網(wǎng)絡(luò)結(jié)構(gòu)進(jìn)進(jìn)行誤差修正，建立基于深度信念網(wǎng)絡(luò)模型訓(xùn)練過程中的反向傳播算法學(xué)習(xí)流程圖如圖5所示，實(shí)現(xiàn)水泥熟料fCaO預(yù)測(cè)模型的建立，其內(nèi)容包括如下步驟：

步驟一 輔助變量選取

由水泥工藝可知，水泥熟料是以石灰石、粘土為主要原料，另加部分校正原料如鐵粉等，按適當(dāng)比例配制成的水泥生料，經(jīng)分解爐的預(yù)分解、回轉(zhuǎn)窯燒成帶高溫煅燒，最后經(jīng)篦冷機(jī)冷卻而獲得的固體顆粒物料被稱為水泥熟料。水泥熟料中沒有參加化學(xué)反應(yīng)，以游離態(tài)存在的氧化鈣稱為游離鈣(fCaO)。水泥熟料fCaO含量對(duì)水泥的安定性有直接影響，且能間接反映物料在燒成帶的燒成狀況，對(duì)于指導(dǎo)回轉(zhuǎn)窯的操作，實(shí)現(xiàn)對(duì)生產(chǎn)的優(yōu)化控制具有重大意義。

根據(jù)水泥系統(tǒng)的工藝原理，確定輔助變量集合為：窯主機(jī)電流、二次風(fēng)溫、 窯尾溫度、煙室NO_x、二室篦下壓力、分解爐出口溫度、窯頭負(fù)壓、煙室O₂、煙室CO、窯轉(zhuǎn)速、三次風(fēng)溫和預(yù)熱器出口溫度。

根據(jù)水泥熟料煅燒工藝可知，窯主電機(jī)電流反映窯內(nèi)窯皮的狀況，可以間接反映窯內(nèi)燒成帶的溫度；二次風(fēng)主要將篦冷機(jī)的熱風(fēng)回收，用于提供煤粉燃燒用的空氣，因此，二次風(fēng)溫能間接反映并影響窯燒成帶的煅燒狀況；窯尾溫度為窯尾距窯燒成帶最近的溫度測(cè)點(diǎn)，同燒成帶煅燒溫度一起表征窯內(nèi)各帶熱力分布狀況；回轉(zhuǎn)窯內(nèi)NO_x的生成過程主要產(chǎn)生于回轉(zhuǎn)窯的燒成帶，燒成帶溫度高，NO_x濃度增加，反之降低，加之其為氣體，可以在負(fù)壓作用下迅速?gòu)臒蓭^(qū)域移動(dòng)到窯尾的煙室氣體分析儀測(cè)量點(diǎn)，所以窯尾煙室所測(cè)量出的NO_x含量可以較真實(shí)地反映出燒成帶區(qū)域的NO_x含量，進(jìn)而反映出燒成帶溫度；篦冷機(jī)用于冷卻水泥熟料，在篦速不變的條件下，燒成帶煅燒溫度越高，水泥熟料顆粒結(jié)構(gòu)越致密，篦冷機(jī)二室壓力越大；分解爐出口溫度能反映水泥生料在分解爐的分解狀況，分解的好壞對(duì)回轉(zhuǎn)窯的煅燒有很大的影響；窯頭保持負(fù)壓狀態(tài)是為了保持回轉(zhuǎn)窯內(nèi)通風(fēng)流暢，負(fù)壓大進(jìn)風(fēng)量大，窯內(nèi)通風(fēng)流暢，更利于回轉(zhuǎn)窯內(nèi)物料的煅燒；煙室O₂含量高，窯內(nèi)通風(fēng)好；煙室CO含量高，窯內(nèi)通風(fēng)不暢不利于窯內(nèi)物料煅燒；窯轉(zhuǎn)速越快、窯內(nèi)物料在窯內(nèi)煅燒時(shí)間短，煅燒不充分；三次風(fēng)是直接從篦冷機(jī)回收進(jìn)分解爐的熱風(fēng)，三次風(fēng)溫度高能加速分解爐內(nèi)物料的分解；預(yù)熱器出口溫度能夠反映預(yù)熱器內(nèi)溫度，溫度越高，物料預(yù)熱的越充分，更利于物料在預(yù)熱器內(nèi)預(yù)分解，減輕分解爐的負(fù)擔(dān)。

步驟二 輔助變量數(shù)據(jù)采集及降維

由于初始輔助變量集合的數(shù)據(jù)維度大，故采用灰色關(guān)聯(lián)度分析方法對(duì)初始輔助變量集合的數(shù)據(jù)進(jìn)行灰色關(guān)聯(lián)度計(jì)算，進(jìn)而實(shí)現(xiàn)對(duì)初始輔助變量集合降維，獲得最終的軟測(cè)量模型輸入輔助變量集合；

初始輔助變量集合：

X_i＝{X_i(k)|k＝1,2…n},i＝1,2…m (1)

熟料游離鈣為：

Y＝{Y(k)|k＝1,2…n} (2)

其中m為輔助變量的維數(shù)，n為一組輔助變量數(shù)據(jù)集的數(shù)據(jù)量。通過式(3)計(jì)算灰色關(guān)聯(lián)系數(shù)，令Δ_i(k)＝|y(k)-x_i(k)|則：

${\mathrm{\ξ}}_i\left(k\right)=\frac{\underset{i}{min}\underset{k}{min}{\mathrm{\Δ}}_i\left(k\right)+\mathrm{\ρ}\underset{i}{\max }\underset{k}{\max }{\mathrm{\Δ}}_i\left(k\right)}{{\mathrm{\Δ}}_i\left(k\right)+\mathrm{\ρ}\underset{i}{\max }\underset{k}{\max }{\mathrm{\Δ}}_i\left(k\right)}---\left(3\right)$

計(jì)算灰色關(guān)聯(lián)度

${\mathrm{\γ}}_i=\frac{1}{n}\underset{k=1}{\overset{n}{\Σ}}{\mathrm{\ξ}}_i\left(k\right),k=1,2...n---\left(4\right)$

采用灰色關(guān)聯(lián)度分析方法進(jìn)行初始輔助變量降維，其中式(1)中X_i代表初始輔助變量集合，式(2)中Y代表初始fCaO集合。采用式(3)和式(4)對(duì)初始輔助變量集合的數(shù)據(jù)進(jìn)行灰色關(guān)聯(lián)度計(jì)算，設(shè)定灰色關(guān)聯(lián)度閾值，刪除與游離鈣灰色關(guān)聯(lián)度小的變量，進(jìn)而實(shí)現(xiàn)對(duì)初始輔助變量集合降維，得到本次軟測(cè)量模型輸入輔助變量集合為:窯主機(jī)電流、二次風(fēng)溫、煙室溫度、煙室NO_x，輸出變量為水泥熟料fCaO。

步驟三 基于深度信念網(wǎng)絡(luò)的預(yù)測(cè)模型

1.深度信念網(wǎng)絡(luò)預(yù)測(cè)模型的初步建立

深度信念網(wǎng)絡(luò)預(yù)測(cè)模型構(gòu)建可以看成有許多限制玻爾茲曼機(jī)(Restricted Boltzmann Mzchine,RBM)堆疊在一起，通過逐層訓(xùn)練限制玻爾茲曼機(jī)來(lái)實(shí)現(xiàn)網(wǎng)絡(luò)的訓(xùn)練。用具體相應(yīng)配置的深度信念網(wǎng)絡(luò)初始化多層感知器權(quán)值時(shí)得到的結(jié)果，往往比隨機(jī)權(quán)值初始化的表現(xiàn)好得多，因此用無(wú)監(jiān)督的深度信念網(wǎng)絡(luò)進(jìn)行預(yù)訓(xùn)練學(xué)習(xí)，然后采用誤差反向傳播算法進(jìn)行微調(diào)。根據(jù)深度信念網(wǎng)絡(luò)的算法 及訓(xùn)練樣本數(shù)據(jù)量確定深度信念網(wǎng)絡(luò)結(jié)構(gòu)，其具體參數(shù)設(shè)置規(guī)則如下：

(1)學(xué)習(xí)率ε

權(quán)值在每次循環(huán)學(xué)習(xí)中的變化受到學(xué)習(xí)率的影響較大。學(xué)習(xí)率小，學(xué)習(xí)時(shí)間長(zhǎng)，收斂速度慢，不過能保證網(wǎng)絡(luò)的誤差值可以達(dá)到最終的極小點(diǎn)。系統(tǒng)的穩(wěn)定性在學(xué)習(xí)率較大時(shí)可能會(huì)較差。通常傾向于選取較小的學(xué)習(xí)速率，其選取范圍一般為0.001到0.10之間以保證系統(tǒng)的穩(wěn)定性；

(2)權(quán)重w_ij

一般情況下，要取小的隨機(jī)值，既保證各神經(jīng)元的輸入值較小，工作在激勵(lì)函數(shù)斜率變化最大的區(qū)域，也防止某些權(quán)值的絕對(duì)值多次學(xué)習(xí)后不合理的無(wú)限增長(zhǎng)。一般權(quán)重初始化來(lái)自正態(tài)分布的(0.001,1)的隨機(jī)數(shù)。本發(fā)明在經(jīng)過RBM預(yù)訓(xùn)練時(shí)采用該辦法來(lái)初始權(quán)值。

(3)偏置

隱含層以及輸出層單元偏置均初始置零。對(duì)于可見單元，由于可見單元在早期階段容易利用隱含層單元使得第i個(gè)特征值以概率p_i激活，所以這里可見單元偏置初時(shí)不為零，而是log(pi/(1-pi))，其中p_i表示訓(xùn)練樣本中第i個(gè)特征處于激活狀態(tài)所占的概率。

(4)隱單元個(gè)數(shù)

如果不考慮計(jì)算復(fù)雜度，防止網(wǎng)絡(luò)過擬合，可以提前預(yù)估隱含層單元個(gè)數(shù)。把模型描述一個(gè)樣本數(shù)據(jù)需要的Bit數(shù)，乘以待學(xué)習(xí)樣本的數(shù)目后，再降低一個(gè)數(shù)量級(jí)即為隱含層單元大概數(shù)目。本發(fā)明根據(jù)訓(xùn)練數(shù)據(jù)選擇50個(gè)單元作為第一層隱含層，第二隱含層則均取20個(gè)單元。如果學(xué)習(xí)樣本數(shù)量巨大，則隱含層單元數(shù)量可相對(duì)增加。

一個(gè)玻爾茲曼機(jī)是具有熱力學(xué)能量函數(shù)定義的概率分布玻爾茲曼分布的， 一種基于能量理論的概率模型。設(shè)狀態(tài)隨機(jī)變量x，能量函數(shù)E(x)。一個(gè)典型的玻爾茲曼機(jī)是一個(gè)無(wú)項(xiàng)循環(huán)圖，其能量定義為

E(x,h)＝-b'x-c'h-x'Wh-x'Ux-h'Vh (5)

如果對(duì)玻爾茲曼機(jī)加以約束條件，層內(nèi)無(wú)互聯(lián)，可得到限制玻爾茲曼機(jī)(Restricted Boltzmann Mzchine,RBM)，如圖2所示。

如果一個(gè)限制玻爾茲曼機(jī)有n個(gè)可見節(jié)點(diǎn)和m個(gè)隱含層節(jié)點(diǎn)，用向量v表示可見節(jié)點(diǎn)狀態(tài)，向量h表示隱含層節(jié)點(diǎn)，那么，對(duì)于一組給定的狀態(tài)(v,h)，限制玻爾茲曼機(jī)作為一個(gè)系統(tǒng)所具備的能量定義為：

$E(v,h/\mathrm{\θ})=\underset{i=1}{\overset{n}{\Σ}}{a}_i{v}_i-\underset{j=1}{\overset{m}{\Σ}}{b}_j{h}_j-\underset{i=1}{\overset{n}{\Σ}}\underset{j=1}{\overset{m}{\Σ}}{v}_i{w}_{ij}{h}_j---\left(6\right)$

式(6)中，θ＝{a_i,b_j,w_ij}是限制玻爾茲曼機(jī)的參數(shù)，其中a_i表示可見節(jié)點(diǎn)i的偏置，b_j表示隱含層節(jié)點(diǎn)j的偏置，w_ij為可見節(jié)點(diǎn)i與隱含層節(jié)點(diǎn)j之間的連接矩陣。當(dāng)參數(shù)確定時(shí)，基于該能量函數(shù)可以得到聯(lián)合概率分布：

$P(v,h/\mathrm{\θ})=\frac{e^{-E(v,h/\mathrm{\θ})}}{Z\left(\mathrm{\θ}\right)}---\left(7\right)$

$Z\left(\mathrm{\θ}\right)=-\underset{v,h}{\Σ}{e}^{-E(v,h/\mathrm{\θ})}---\left(8\right)$

其中Z(θ)為歸一化因子，P(v/θ)稱為似然函數(shù)。式(9)需要極其龐大的計(jì)算量，計(jì)算得到歸一因子Z(θ)，方能確定P(v/θ)的分布。

$P(v/\mathrm{\θ})=\frac{1}{Z\left(\mathrm{\θ}\right)}\underset{h}{\Σ}{e}^{-E(v,h/\mathrm{\θ})}---\left(9\right)$

由限制玻爾茲曼機(jī)層內(nèi)有連接，層外無(wú)連接的特殊結(jié)構(gòu)可知，給定某層節(jié)點(diǎn)狀態(tài)時(shí)，另一層節(jié)點(diǎn)狀態(tài)之間的狀態(tài)條件分布相互獨(dú)立，即

$P(v/h)=\underset{i=1}{\overset{n}{\Π}}P(v_i/h)---\left(10\right)$

$P(h/v)=\underset{j=1}{\overset{m}{\Π}}P(h_j/v)---\left(11\right)$

當(dāng)給定可見節(jié)點(diǎn)狀態(tài)時(shí)，此時(shí)第j個(gè)隱含層節(jié)點(diǎn)的激活概率為：

$P(h_j=1/v,\mathrm{\θ})=\mathrm{\σ}(b_j+\underset{i}{\Σ}{v}_i{W}_{ij})---\left(12\right)$

在式(12)中，σ(·)為sigmoid激活函數(shù)，定義σ(x)＝1/(1+exp(-x))。

求得所有的隱含層節(jié)點(diǎn)后，基于限制玻爾茲曼機(jī)的對(duì)稱結(jié)構(gòu)，可見節(jié)點(diǎn)的激活概率為：

$P(v_i=1/h,\mathrm{\θ})=\mathrm{\σ}(a_i+\underset{j}{\Σ}{W}_{ij}{h}_j)---\left(13\right)$

假設(shè)有一個(gè)訓(xùn)練學(xué)習(xí)樣本，分別用data和model來(lái)簡(jiǎn)記P(h/v^(t),θ)和P(v,h/θ)這兩個(gè)概率分布，對(duì)數(shù)似然函數(shù)關(guān)于連接矩陣w_ij可見層節(jié)點(diǎn)偏置和隱含層節(jié)點(diǎn)偏置的偏導(dǎo)數(shù)分別為：

$\frac{\&part;\log P(v/\mathrm{\&theta;})}{\&part;W_{ij}}=<v_i{h}_j{>}_{data}-<v_i{h}_j{>}_{\mathrm{mod}el}---\left(14\right)$

$\frac{\&part;\log P(v/\mathrm{\&theta;})}{\&part;a_i}=<v_i{>}_{data}-<v_i{>}_{\mathrm{mod}el}---\left(15\right)$

$\frac{\&part;\log P(v/\mathrm{\&theta;})}{\&part;b_j}=<h_j{>}_{data}-<h_j{>}_{\mathrm{mod}el}---\left(16\right)$

限制玻爾茲曼機(jī)的快速學(xué)習(xí)算法，就是對(duì)比散度算法，該算法通過預(yù)訓(xùn)練學(xué)習(xí)數(shù)據(jù)，獲得v₀初值后，然后只需吉布斯采樣一到兩次，就能完成最后的概率近似。給定學(xué)習(xí)數(shù)據(jù)v₀，計(jì)算出所有隱含節(jié)點(diǎn)j的二元狀態(tài)，待隱含層節(jié)點(diǎn)全部求出時(shí)，反過來(lái)確定可見節(jié)點(diǎn)v_i二值狀態(tài)，進(jìn)而產(chǎn)生可見層的一個(gè)重構(gòu)，使用隨機(jī)梯度上升法最大化對(duì)數(shù)似然函數(shù)在訓(xùn)練數(shù)據(jù)上的值時(shí)，各參數(shù)更新準(zhǔn)則為：

ΔW_ij＝ε(<v_ih_j>_data-<v_ih_j>_model) (17)

Δa_i＝ε(<v_i>_data-<v_i>_model) (18)

Δb_j＝ε(<h_j>_data-<h_j>_model) (19)

式中，ε為學(xué)習(xí)效率，＜～＞recon表示一部重構(gòu)后模型定義的分布。

2.深度信念網(wǎng)絡(luò)預(yù)測(cè)模型的訓(xùn)練

采集水泥生產(chǎn)過程中水泥熟料游離鈣預(yù)測(cè)的輔助變量數(shù)據(jù)，然后篩選出具有代表性的500組數(shù)據(jù)，將其代入深度信念網(wǎng)絡(luò)進(jìn)行預(yù)訓(xùn)練，訓(xùn)練出水泥熟料fCaO的預(yù)測(cè)模型。

深度信念網(wǎng)絡(luò)可以看成有許多RBM堆疊在一起，通過逐層訓(xùn)練RBM來(lái)實(shí)現(xiàn)：底層的RBM以原始輸入數(shù)據(jù)訓(xùn)練，頂部的RBM將底部RBM提取的特征作為輸入，通過由底層到高層逐層訓(xùn)練這些限制玻爾茲曼機(jī)來(lái)實(shí)現(xiàn)。本發(fā)明建立的水泥熟料游離鈣預(yù)測(cè)的深度信念網(wǎng)絡(luò)模型框圖，如圖3所示。

限制玻爾茲曼機(jī)作為一個(gè)系統(tǒng)所具備的能量如式(6)所示，深度信念網(wǎng)絡(luò)以似然函數(shù)P(v/θ)為目標(biāo)，根據(jù)式(7)和式(8)能求出式(9)的聯(lián)合概率分布。將步驟二得到的數(shù)據(jù)樣本代入深度信念網(wǎng)絡(luò)的結(jié)構(gòu)中，并進(jìn)行吉布斯采樣得到式(14)—式(16)，采用梯度下降法，進(jìn)而得到各參數(shù)跟新準(zhǔn)則如式(17)—式(19)所示，這樣就為深度信念網(wǎng)絡(luò)的微調(diào)初始化了權(quán)重和偏置；其具體步驟如下：

(1)首先充分訓(xùn)練第一個(gè)RBM。當(dāng)給定可見節(jié)點(diǎn)狀態(tài)時(shí)，此時(shí)第j個(gè)隱含層節(jié)點(diǎn)的激活概率為：

$P(h_j=1/v,\mathrm{\&theta;})=\mathrm{\&sigma;}(b_j+\underset{i}{\&Sigma;}{v}_i{W}_{ij})---\left(20\right)$

其中，σ(.)為sigmoid激活函數(shù)，定義σ(x)＝1/(1+exp(-x))。求得所有的隱含層節(jié)點(diǎn)后，基于限制玻爾茲曼機(jī)的對(duì)稱結(jié)構(gòu)，可見節(jié)點(diǎn)的激活概率為：

$P(v_i=1/h,\mathrm{\&theta;})=\mathrm{\&sigma;}(a_i+\underset{j}{\&Sigma;}{W}_{ij}{h}_j)---\left(21\right)$

(2)固定第一個(gè)RBM的權(quán)重和偏移量，然后使用其隱性神經(jīng)元的狀態(tài)，作為第二個(gè)RBM的輸入向量，訓(xùn)練過程和第一個(gè)RBM相同。

(3)充分訓(xùn)練第二個(gè)RBM后，將第二個(gè)RBM堆疊在第一個(gè)RBM的上方。

(4)重復(fù)以上三個(gè)步驟任意多次，這樣就實(shí)現(xiàn)了層數(shù)很多的深度信念網(wǎng)絡(luò)的預(yù)訓(xùn)練過程，以上深度信念網(wǎng)絡(luò)的預(yù)訓(xùn)練過程能實(shí)現(xiàn)對(duì)整個(gè)網(wǎng)絡(luò)權(quán)重和偏置的初始化。

步驟四 誤差修正及模型微調(diào)

人工神經(jīng)網(wǎng)絡(luò)的種類很多，選擇何種網(wǎng)絡(luò)類型，需要根據(jù)實(shí)際問題確定。本發(fā)明采用反向傳播算法對(duì)步驟三訓(xùn)練的深度信念網(wǎng)絡(luò)進(jìn)行微調(diào)。本發(fā)明的基于深度信念網(wǎng)絡(luò)模型訓(xùn)練過程中的反向傳播算法學(xué)習(xí)流程圖，如圖5所示，具體步驟如下：

如當(dāng)神經(jīng)元為第一層隱含層單元時(shí)：

Net_kj＝∑_iW_jiX_KI-θ_j (22)

Net_kj為隱含層第j個(gè)神經(jīng)元的狀態(tài)；

W_ji＝W_ij為輸入層第i個(gè)神經(jīng)元與本層隱含層第j個(gè)神經(jīng)元之間的權(quán)值；

θ_j為隱含層第j個(gè)神經(jīng)元的閾值；

計(jì)算可得O_kj＝S_j(Net_kj)其中S(x)為S形函數(shù)；

O_kj是隱含層第j個(gè)神經(jīng)元的輸出；

反向傳播算法的學(xué)習(xí)規(guī)則是基于最小均方誤差，一個(gè)樣本輸入網(wǎng)絡(luò)產(chǎn)生輸出時(shí)，均方誤差為：

$E_k=\frac{1}{2}\underset{j=1}{\overset{n}{\&Sigma;}}{(t_{kj}-o_{kj})}^2---\left(23\right)$

T_k為第K個(gè)樣本的期望輸出向量：

ΔW_ji設(shè)為網(wǎng)絡(luò)中一個(gè)連接權(quán)值，根據(jù)梯度下降法，權(quán)值修正應(yīng)為：

${\mathrm{\&Delta;}}_k{W}_{ij}\&Proportional;-\frac{\&part;E_k}{\&part;W_{kj}}=-\frac{\&part;E_k}{\&part;{\mathrm{Net}}_{kj}}.\frac{\&part;{\mathrm{Net}}_k}{\&part;W_{kj}}=-\frac{\&part;E_k}{\&part;{\mathrm{Net}}_{kj}}{O}_{ki}---\left(24\right)$

則得到下式：

Δ_kW_ji＝ηδ_kjO_ki (25)

η為學(xué)習(xí)率，不宜過高，0<η<1；

求各層的反傳誤差，假設(shè)S函數(shù)中的增益為1；

求得

輸出層：

隱含層：

在步驟三中對(duì)層數(shù)很多的深度信念網(wǎng)絡(luò)的預(yù)訓(xùn)練過程，實(shí)現(xiàn)對(duì)整個(gè)網(wǎng)絡(luò)權(quán)重和偏置的初始化，然后采用反向傳播算法進(jìn)行微調(diào)，通過式(25)—式((27)對(duì)權(quán)重和偏置進(jìn)行微調(diào)，這樣就實(shí)現(xiàn)了對(duì)深度信念網(wǎng)絡(luò)預(yù)測(cè)模型的建立。

步驟五 游離鈣的預(yù)測(cè)輸出

將現(xiàn)場(chǎng)測(cè)量?jī)x表采集到的輔助變量的數(shù)據(jù)傳輸?shù)接糜谶\(yùn)行深度信念網(wǎng)絡(luò)的水泥熟料游離鈣預(yù)測(cè)算法的中控機(jī)中，根據(jù)水泥燒成系統(tǒng)的窯主機(jī)電流、二次風(fēng)溫、窯尾溫度、煙室NO_x預(yù)測(cè)出輸出變量為水泥熟料fCaO；

現(xiàn)場(chǎng)采集到的數(shù)據(jù)可能由于受到外界干擾出現(xiàn)大的波動(dòng)，采用3δ準(zhǔn)則剔除這些數(shù)據(jù)。設(shè)輔助變量序列為X₁,···,X_n，據(jù)式(28)和式(29)分別計(jì)算器算術(shù)平均值t和標(biāo)準(zhǔn)偏差δ：

$t=\frac{1}{n}\underset{i=1}{\overset{n}{\&Sigma;}}{x}_i---\left(28\right)$

$\mathrm{\&delta;}=\sqrt{\frac{1}{n}\underset{i=1}{\overset{n}{\&Sigma;}}{(x_i-t)}^2}---\left(29\right)$

將現(xiàn)場(chǎng)測(cè)量?jī)x表采集到的一段時(shí)間的輔助變量分別采用式(28)和式(29)進(jìn)行算術(shù)平均值t和標(biāo)準(zhǔn)偏差δ計(jì)算，判斷當(dāng)前時(shí)刻輔助變量的數(shù)據(jù)X_i是否為粗大誤差。若|X_i-t|≥3δ，則X_i為含有粗大誤差的壞值，則刪除同一時(shí)刻各個(gè)輔助變量 的數(shù)值，用上一時(shí)刻的測(cè)量值預(yù)測(cè)熟料fCaO含量。

綜上所述，一種基于深度信念網(wǎng)絡(luò)的水泥熟料fCaO含量預(yù)測(cè)方法步驟總結(jié)如下：

步驟一：控制變量初步選取X_i，對(duì)燒成過程影響的主要變量是窯主機(jī)電流、二次風(fēng)溫、窯尾溫度、煙室NOx、二室篦下壓力、分解爐出口溫度、窯頭負(fù)壓、煙室O2、煙室CO、窯轉(zhuǎn)速、三次風(fēng)溫、預(yù)熱器出口溫度，被控變量是熟料中游離氧化鈣含量Y；

步驟二：數(shù)據(jù)采集及分類，通過中控機(jī)的數(shù)據(jù)通訊接口采集步驟一所述各輔助變量式(1)中的X_i和熟料游離鈣的現(xiàn)場(chǎng)數(shù)據(jù)式(2)中的Y；采用式(3)和式(4)對(duì)初始輔助變量集合的數(shù)據(jù)進(jìn)行灰色關(guān)聯(lián)度計(jì)算，刪除與游離鈣灰色關(guān)聯(lián)度小的變量，進(jìn)而實(shí)現(xiàn)對(duì)初始輔助變量集合降維，獲得最終輸入變量集為:窯主機(jī)電流、二次風(fēng)溫、煙室溫度、煙室NO_x，輸出變量為熟料fCaO含量；由于數(shù)據(jù)樣本的單位不盡相同，故在進(jìn)行數(shù)據(jù)建模之前要對(duì)數(shù)據(jù)進(jìn)行統(tǒng)一單位，從而確保各權(quán)值的收斂速度大致相同；針對(duì)這種情況采用Sigmoid函數(shù)對(duì)步驟三的數(shù)據(jù)集合歸一化處理，進(jìn)而得到輸入輸出都在0到1之間；

步驟三：將步驟二得到的數(shù)據(jù)作為樣本進(jìn)行訓(xùn)練深度信念網(wǎng)絡(luò)，通過對(duì)一些參數(shù)的調(diào)整，為深度信念網(wǎng)絡(luò)優(yōu)化了權(quán)重和偏置；

步驟四：采用反向傳播算法對(duì)步驟三建立的深度信念網(wǎng)絡(luò)模型進(jìn)行誤差校正與微調(diào)，進(jìn)而確定出滿足預(yù)測(cè)要求的深度信念網(wǎng)絡(luò)模型；采用反向傳播算法進(jìn)行微調(diào)，通過式(25)—式(27)對(duì)權(quán)重和偏置進(jìn)行微調(diào)，這樣就實(shí)現(xiàn)了對(duì)深度信念網(wǎng)絡(luò)預(yù)測(cè)模型的建立；

步驟五：采集步驟二得到的輔助變量的實(shí)時(shí)數(shù)據(jù)，并將其通過數(shù)據(jù)通信接口傳輸?shù)皆谶\(yùn)行步驟四訓(xùn)練得到的水泥熟料fCaO的預(yù)測(cè)模型算法的中控機(jī)中， 進(jìn)而預(yù)測(cè)出水泥熟料fCaO含量。