誤差反向傳播神經(jīng)網(wǎng)絡的預測方法、系統(tǒng)及服務器的制造方法
【技術領域】
[0001] 本發(fā)明屬于安全與應急技術領域,涉及一種預測方法及系統(tǒng),特別是涉及一種誤 差反向傳播神經(jīng)網(wǎng)絡的預測方法、系統(tǒng)及服務器。
【背景技術】
[0002] 隨著經(jīng)濟的快速發(fā)展,化工行業(yè)的發(fā)展也越來越繁榮,同時化工園區(qū)的?;沸?漏擴散事故頻頻發(fā)生,對事故現(xiàn)場周圍的人身安全、自然環(huán)境等都造成了嚴重的威脅。與此 同時,在?;沸孤┦鹿拾l(fā)生的時候,尤其是有毒氣體泄漏事故,氣象因素對擴散速度以及 擴散范圍的影響不容忽視,尤其是風速。對風速的采集很多時候對設備的要求較高,同時采 集站點的數(shù)據(jù)往氣體擴散評估模型中的導入也不可能完全是實時的,因此風速大小的短時 預測將對模型的評估以及擴散速度、范圍的預估和現(xiàn)場的救援決策有很好的指導意義。
[0003] 在傳統(tǒng)的短期風速的預測方法當中,其一采用的持續(xù)預測法,該方法是根據(jù)最后 一步的測量數(shù)據(jù)作為下一步預測的輸入,由于只是單步的考慮上一步測量的數(shù)據(jù)值,預測 的誤差和穩(wěn)定性都比較差勁;線性的時間序列預測模型由于處理的問題局限于線性問題, 對于非線性問題則無能為力,所以應用受到很大的限制;而與此對應的高階函數(shù)模型隨著 問題復雜度的上升,模型的形式難以確定,當問題上升到一定高的復雜度之后,模型將失去 實際應用價值,適用性受到限制;基于濾波基礎的卡爾曼濾波法則是在噪聲已知的前提下, 然而實際應用當中,噪聲的形式以及特性是難以知曉或是不易估計的。考慮到以上以及其 他的方法的不足之處,加之反向單播神經(jīng)網(wǎng)絡的強大的非線性逼近的特性以及對復雜非線 性問題的預測功能,因此,在復雜的、非線性問題的建模當中反向傳播神經(jīng)網(wǎng)絡具有很優(yōu)秀 的性能。在神經(jīng)網(wǎng)絡的建模當中,神經(jīng)網(wǎng)絡的結構的確定事關神經(jīng)網(wǎng)絡解決問題的能力,如 果網(wǎng)絡太小,對問題的處理精度不夠;如果網(wǎng)絡太大,雖然可以高精度地擬合訓練樣本,但 網(wǎng)絡的泛化能力下降,而且如果訓練樣本中含有噪聲信號,網(wǎng)絡就會在學習訓練樣本的同 時也學習噪聲信號,從而產(chǎn)生不良結果。因此,選擇和設計一個合適的網(wǎng)絡結構是非常必要 的。而有關網(wǎng)絡結構的確定沒有同一的標準,大多依據(jù)具體問題而定或是采用傳統(tǒng)的試湊 法。除此之外,針對特定的問題、樣本,也有基于相關性分析法來確定神經(jīng)網(wǎng)絡隱含層節(jié)點 個數(shù)的分析方法。
[0004] 在相關性分析法當中,一種是初始選定一個單隱含層的較大結構的神經(jīng)網(wǎng)絡,通 過訓練樣本把該網(wǎng)絡訓練到初步收斂,提取出收斂神經(jīng)網(wǎng)絡的隱含層節(jié)點的輸出值,然后 對隱含層節(jié)點的輸出值進行相關性分析一主分量分析(PCA),剔除相關性較大的數(shù)據(jù),進而 降低維度,對應到隱含層也就是使相關性較大的節(jié)點進行合并,減少了神經(jīng)元節(jié)點個數(shù);另 外一種是基于隱含層輸出與網(wǎng)絡輸出之間的關聯(lián)性分析:首先也是初始選定一個單隱含層 的較大結構的神經(jīng)網(wǎng)絡,通過訓練樣本把該網(wǎng)絡訓練到初步收斂,提取出收斂神經(jīng)網(wǎng)絡的 隱含層節(jié)點的輸出值,再提取網(wǎng)絡輸出層的輸出值,然后計算每一個隱含層節(jié)點輸出值與 網(wǎng)絡輸出層節(jié)點輸出值的關聯(lián)系數(shù),當關聯(lián)系數(shù)小于某一事先設定的閾值,則刪除相應的 隱含層節(jié)點,進而確定合適的隱含層節(jié)點個數(shù)。
[0005] 但是現(xiàn)有技術存在以下幾點不足:
[0006] 第一,僅考慮隱含層節(jié)點之間的相關性,并沒有考慮其與輸出層節(jié)點之間的相關 性,有可能保留下來的隱含層節(jié)點當中也會含有與輸出層節(jié)點關聯(lián)性很小的節(jié)點;
[0007] 第二,雖然減少了隱含層節(jié)點與輸出層節(jié)點關聯(lián)性小的節(jié)點,但并沒有考慮隱含 層節(jié)點之間的相關性,可能保留下來的隱含層節(jié)點之間仍有相關性較大的節(jié)點。
[0008] 因此,如何提供一種誤差反向傳播神經(jīng)網(wǎng)絡的預測方法、系統(tǒng)及服務器,以解決現(xiàn) 有技術中未考慮隱含層節(jié)點與輸出層節(jié)點之間的相關性導致保留下來的隱含層節(jié)點當中 含有與輸出層節(jié)點關聯(lián)性小的節(jié)點,且未考慮隱含層節(jié)點之間的相關性導致保留下來隱含 層節(jié)點之間仍有相關性較大的節(jié)點等缺陷,實已成為本領域從業(yè)者亟待解決的技術問題。
【發(fā)明內(nèi)容】
[0009] 鑒于以上所述現(xiàn)有技術的缺點,本發(fā)明的目的在于提供一種誤差反向傳播神經(jīng)網(wǎng) 絡的預測方法、系統(tǒng)及服務器,用于解決現(xiàn)有技術中未考慮隱含層節(jié)點與輸出層節(jié)點之間 的相關性導致保留下來的隱含層節(jié)點當中含有與輸出層節(jié)點關聯(lián)性小的節(jié)點,且未考慮隱 含層節(jié)點之間的相關性導致保留下來隱含層節(jié)點之間仍有相關性較大的節(jié)點的問題。
[0010] 為實現(xiàn)上述目的及其他相關目的,本發(fā)明一方面提供一種誤差反向傳播神經(jīng)網(wǎng)絡 的預測方法,所述誤差反向傳播神經(jīng)網(wǎng)絡的預測方法包括以下步驟:構建一個初始神經(jīng)網(wǎng) 絡;所述初始神經(jīng)網(wǎng)絡包括輸入層、隱含層、及輸出層;所述隱含層包括η個神經(jīng)元節(jié)點;其 中,η為大于1的正整數(shù);通過與所述單隱含層神經(jīng)網(wǎng)絡對應的訓練函數(shù),利用預先采集的Ν 個訓練數(shù)據(jù)樣本對所述初始神經(jīng)網(wǎng)絡進行訓練以獲取第一收斂神經(jīng)網(wǎng)絡;其中,Ν為大于1 的正整數(shù);對所述第一收斂神經(jīng)網(wǎng)絡中隱含層的神經(jīng)元節(jié)點的輸出數(shù)據(jù)進行相關性分析, 合并大于預設相關性閾值的隱含層的神經(jīng)元節(jié)點以產(chǎn)生保留m個隱含層的神經(jīng)元節(jié)點的 第二收斂神經(jīng)網(wǎng)絡;其中,m為大于1小于η的正整數(shù);對所述第二收斂神經(jīng)網(wǎng)絡中隱含層 的神經(jīng)元節(jié)點的輸出數(shù)據(jù)和第一收斂神經(jīng)網(wǎng)絡中輸出層的神經(jīng)元節(jié)點的輸出數(shù)據(jù)進行關 聯(lián)性分析以獲取優(yōu)化神經(jīng)網(wǎng)絡;再次利用Ν個訓練數(shù)據(jù)樣本對所述優(yōu)化神經(jīng)網(wǎng)絡進行訓練 以獲取預測神經(jīng)網(wǎng)絡。
[0011] 于本發(fā)明的一實施例中,所述利用預先采集的Ν個訓練數(shù)據(jù)樣本對所述初始神經(jīng) 網(wǎng)絡進行訓練的步驟具體還包括通過預存的誤差函數(shù)將所述初始神經(jīng)網(wǎng)絡進行訓練以獲 取第一收斂神經(jīng)網(wǎng)絡。
[0012] 于本發(fā)明的一實施例中,所述對所述第一收斂神經(jīng)網(wǎng)絡中隱含層的神經(jīng)元節(jié)點的 輸出數(shù)據(jù)進行相關性分析的步驟具體包括:提取所述初始神經(jīng)網(wǎng)絡中隱含層的輸出數(shù)據(jù)的 數(shù)據(jù)矩陣;其中,所述數(shù)據(jù)矩陣中的每一列表示隱含層的神經(jīng)元節(jié)點的輸出向量;對所述 數(shù)據(jù)矩陣進行主分量分析。
[0013] 于本發(fā)明的一實施例中,所述主分量分析包括:通過所述數(shù)據(jù)矩陣求出特征值和 一中間變量;按照特征值由大到小順序排列,并計算m個隱含層神經(jīng)元節(jié)點的主成分貢獻 率;若計算得到的m個隱含層神經(jīng)元節(jié)點的主成分貢獻率之和大于一固定值,提取對應的m 維數(shù)據(jù)矩陣以產(chǎn)生保留m個隱含層的神經(jīng)元節(jié)點的第二收斂神經(jīng)網(wǎng)絡。
[0014] 于本發(fā)明的一實施例中,所述對所述第二收斂神經(jīng)網(wǎng)絡中隱含層的神經(jīng)元節(jié)點的 輸出數(shù)據(jù)和第一收斂神經(jīng)網(wǎng)絡中輸出層的神經(jīng)元節(jié)點的輸出數(shù)據(jù)進行關聯(lián)性分析的步驟 具體包括:計算所述第二收斂神經(jīng)網(wǎng)絡中隱含層的神經(jīng)元節(jié)點的輸出數(shù)據(jù)和第一收斂神經(jīng) 網(wǎng)絡中輸出層節(jié)點的輸出數(shù)據(jù)的關聯(lián)系數(shù);將計算出的所述關聯(lián)系數(shù)轉換為關聯(lián)度;刪除 關聯(lián)度小于預設關聯(lián)性閾值的隱含層的神經(jīng)元節(jié)點以獲取優(yōu)化神經(jīng)網(wǎng)絡。
[0015] 于本發(fā)明的一實施例中,所述再次利用N個訓練數(shù)據(jù)樣本對所述優(yōu)化神經(jīng)網(wǎng)絡進 行訓練以獲取預測神經(jīng)網(wǎng)絡的步驟具體包括:通過與所述單隱含層神經(jīng)網(wǎng)絡對應的訓練函 數(shù),再次利用N個訓練數(shù)據(jù)樣本對所述優(yōu)化神經(jīng)網(wǎng)絡進行訓練以獲取第三收斂神經(jīng)網(wǎng)絡; 判斷所述第三收斂神經(jīng)網(wǎng)絡是否為滿足預存誤差精度的神經(jīng)網(wǎng)絡,若是,則表示所述第三 收斂神經(jīng)網(wǎng)絡為預測神經(jīng)網(wǎng)絡;若否,則返回上一步驟,直至獲取滿足預存誤差精度的神經(jīng) 網(wǎng)絡的第三收斂神經(jīng)網(wǎng)絡。
[0016] 本發(fā)明另一方面提供一種誤差反向傳播神經(jīng)網(wǎng)絡的預測系統(tǒng),所述誤差反向傳播 神經(jīng)網(wǎng)絡的預測系統(tǒng)包括:構建模塊,用于構建一個初始神經(jīng)網(wǎng)絡;所述初始神經(jīng)網(wǎng)絡包 括輸入層、隱含層、及輸出層;所述隱含層包括η個神經(jīng)元節(jié)點;其中,η為大于1的正整數(shù); 訓練模塊,與所述構建模塊連接,用于通過與所述單隱含層神經(jīng)網(wǎng)絡對應的訓練函數(shù),利用 預先采集的Ν個訓練數(shù)據(jù)樣本對所述初始神經(jīng)網(wǎng)絡進行訓練以獲取第一收斂神經(jīng)網(wǎng)絡;其 中,Ν為大于1的正整數(shù);第一分析模塊,與所述構建模塊和訓練模塊連接,用于對所述第 一收斂神經(jīng)網(wǎng)絡中隱含層的神經(jīng)元節(jié)點的輸出數(shù)據(jù)進行相關性分析,合并大于預設相關性 閾值的隱含層的神經(jīng)元節(jié)點以產(chǎn)生保留m個隱含層的神經(jīng)元節(jié)點的第二收斂神經(jīng)網(wǎng)絡;其 中,m為大于1小于η的正整數(shù);第二分析模塊,與所述訓練模塊和第一分析模塊連接,用于 對所述第二收斂神經(jīng)網(wǎng)絡中隱含層的神經(jīng)元節(jié)點的輸出數(shù)據(jù)和第一收斂神經(jīng)網(wǎng)絡中輸出 層的神經(jīng)元節(jié)點的輸出數(shù)據(jù)進行關聯(lián)性分析以獲取優(yōu)化神經(jīng)網(wǎng)絡;預測模塊,與所述第二 分析模塊連接,