專利名稱：：基于改進極端學習機方法的電力系統(tǒng)短期負荷預(yù)測方法
技術(shù)領(lǐng)域：
：本發(fā)明屬于電力系統(tǒng)短期負^fS測的;^法，具#^及一種基于64極端學習機理論的電力系統(tǒng)短期負荷預(yù)測模型。
背景技術(shù)：
：對于電力系統(tǒng)短期負^f員測的模型，國內(nèi)夕卜學者作了大量研究，其主要模型有基于時間序列、回歸分析的傳統(tǒng)預(yù)測模型；基于AX神經(jīng)網(wǎng)絡(luò)、小波分析、專家系統(tǒng)等AX智能理論的現(xiàn)代預(yù)測模型?；跁r間序列法的短期負荷預(yù)測模型是將負荷變化處,一個隨時間變化的序列，找出歷史負荷數(shù)據(jù)序列中的變化規(guī)律，然后將它外ffi^行負綱測。常用的模型有自回歸模型、移動平均模型、自回歸移動平,型和累積式自回歸移動平均模型等，在這類預(yù)測模型中，如何正確型種類和確定其中的參數(shù)是非常重要和比較困難的?；貧w分棚測模型是假定待預(yù)測負荷同一個或多個影響因素存在相關(guān)關(guān)系并尋找兩者間相關(guān)關(guān)系的方法，預(yù)測模型目前大多采用多^性回歸模型，對^^模型輸入變量的選取是該方法成功的關(guān)鍵，并且M模型具有很好的可解釋性。傳統(tǒng)》法的主要缺點在于，鵬方法多驗性,，船隹描述負荷和影響因素之間的非線性關(guān)系；而且模型過于僵硬，缺乏靈活性，翻參敬隹以及時、準確的估計和調(diào)整，限制了預(yù)測精度的提高。小波分析是20齡激學研，果中最杰出的f^t一。它是一種Bt^—頻域分析方法，在,口頻g同時具有良好的局部化性質(zhì)，非常適^T負荷預(yù)測領(lǐng)域，但目前的,還不成熟。專家系統(tǒng)預(yù)測模型是基于知識te^的計ffm^統(tǒng)，棚有娜負麵測領(lǐng)域內(nèi)專家們的知iWa經(jīng)驗，能像專家們那樣運用這些知識，鵬職作出決策。但是，知識獲取的"^j^頁"問題限制了專家系統(tǒng)預(yù)測模型的預(yù)測精度和不同地區(qū)的通用性。Al神經(jīng)網(wǎng)絡(luò)Jiffl:借鑒ABf對信息的處a^而創(chuàng)立的一種數(shù)學^法，給定樣本集的輸入輸出，神經(jīng)網(wǎng)絡(luò)就倉辦自動得到兩者間的,關(guān)系，并將得到的關(guān)系存儲至咜的織中。正是由于神經(jīng)網(wǎng)絡(luò)良好的學習能力和便于處理負荷及其影響因素之間復(fù)雜非線性關(guān)系的特點，使得貌短期負翻測理論與方法的研究中得到了高度關(guān)注與廣Si^ffl。基于AI神經(jīng)網(wǎng)絡(luò)的短期負荷預(yù)測模型大多采用前向單隱層結(jié)構(gòu)，模型參W1誤差反向傳播(BP)算法戯gtii算法進fi^瞎。預(yù)測模翻《頓的訓練樣本包括輸入變量和輸出變量，輸入變量主要由四部^滅負荷變量、M變量、日期變量和節(jié)假日變量，輸出體為預(yù)測日的實際負荷值。在形成訓練樣本之后，每次訓練鵬輸入^i輸入神經(jīng)網(wǎng)絡(luò)，將網(wǎng)絡(luò)輸出負荷值和樣本實際負荷ilx寸比，得到的負，^t^神經(jīng)網(wǎng)絡(luò)本身，并采取BP算、;if彥正權(quán)值參數(shù)，使得下次網(wǎng)絡(luò)的輸出負荷值和實際負荷值體減小，如此反錢到誤差足夠小為止。訓練完畢后，再a辦預(yù)測日輸入變量輸入訓練好的神經(jīng)網(wǎng)絡(luò)，網(wǎng)絡(luò)輸出值作為最終負^f員測值?；贏I神經(jīng)網(wǎng)絡(luò)的短期負^^測模型，其結(jié)構(gòu)參數(shù)和訓練方法是預(yù)測模型是否具有推廣能力的關(guān)點，雖然對其進行了大量石開究，并取得了大M果，但仍存在以下缺陷1)BP算法學習速率77難以選取。7取得過大，訓敬程將不穩(wěn)定漱隹以收斂；"取得過小，訓練時間可能大大增加；2)當;/過小，迭代過禾誕可能P包入局部極值的"小坑"而無法至駄全局最優(yōu)點，不僅浪費訓練時間，推廣能力也很差；3)網(wǎng)絡(luò)結(jié)構(gòu)中的隱節(jié)點皿接影響到網(wǎng)絡(luò)預(yù)測模型的學習能力與泛化推廣能力，然而，目前神經(jīng)網(wǎng)絡(luò)訓練尚未提出行之有效的方^出合理的隱節(jié)點數(shù)目?，F(xiàn)有的AI神經(jīng)網(wǎng)絡(luò)預(yù)測模型，一方面，由于神經(jīng)網(wǎng)絡(luò)自身學習訓練需要對所有權(quán)值參l^代調(diào)整，網(wǎng)靴itilf呈總停留在高維空間進行，尋優(yōu)計算的g^度加大，訓練時間過長，而且容易陷入局部最優(yōu)點；另一方面，網(wǎng)絡(luò)翻的隱節(jié)點參數(shù)尚未提出較為合理的選取辦法，限制了預(yù)測精度的提高。
發(fā)明內(nèi)容本發(fā)明的目的在于提供一種會辦有效提高短期負荷預(yù)觀啲精度與速度的基于改進極端學習機方法的電力系統(tǒng)短期負荷預(yù)測東去，fflil弓IAS于迭代-解析算法的&ffl極端學習,一新型的網(wǎng)絡(luò)預(yù)測模型，力艦學習訓練時間,避免陷入局部最優(yōu)點，并且提出了參考隱節(jié)點數(shù)目思想優(yōu)化網(wǎng)絡(luò)結(jié)構(gòu)參數(shù)，使得負荷預(yù)測精度與速度同現(xiàn)有預(yù)測模型相比漸尋到了大幅提高。為達到，目的，本發(fā)明采用的^^方案是本發(fā)明以極端學習機作為預(yù)測模型基本結(jié)構(gòu),提出BFGS(Broyden3etcher,Goldfarb,Shanno)擬牛頓方法對網(wǎng)絡(luò)左側(cè)權(quán)1ia行優(yōu)化訓練調(diào)整，解析獲得右側(cè)權(quán)值參數(shù)的迭代-解析學習算法，創(chuàng)建了基于改進極端學習機(IELM)方法的短期負荷預(yù)測模型，提出極端學習機網(wǎng)絡(luò)參考隱節(jié)點數(shù)概念，對隱節(jié)點數(shù)目與樣本數(shù)目相同的等維極端學習機網(wǎng)絡(luò)進衍條、，再對該等維網(wǎng)絡(luò)右權(quán)值向量的模isa行有序聚類，找出相應(yīng)的多個模值分割點，并將其作為預(yù)測網(wǎng)絡(luò)的參考隱節(jié)點數(shù)，在預(yù)測精度和鵬方面比現(xiàn)有對去都有了大幅提高。圖1是極端學習機的網(wǎng)絡(luò)結(jié)構(gòu)圖圖2是ELM的M圖3是本發(fā)明的極端學習機的網(wǎng)絡(luò)結(jié)構(gòu)圖4是Sigmoid函數(shù)圖，其中橫坐標為Sigmoid函數(shù)輸入量，輕標為函數(shù)輸出量；圖5是本發(fā)明的KMf呈圖。具體實肺式TM結(jié)合附圖及算例對本發(fā)明作進一雜細說明。參見圖5，讀取歷史樣本M:讀取電力部門鵬的頓測日前2年的負荷M、星期^MSM數(shù)據(jù)為歷史樣本數(shù)據(jù)；在歷據(jù)中~^5包含有歷史負荷1^和數(shù)據(jù)，這兩^(據(jù)之間相差一個afl個數(shù)量級。為了使不同數(shù)難的娜具有可比性，同時避免計算溢出，鄉(xiāng)行計算之itm頓繊進行歸一化處理。為了使,極端學習機網(wǎng)絡(luò)的訓練過程易于收斂，通常都對其輸Aip輸出ffia行規(guī)m處理，使得它們的值在[O,.l]區(qū)間內(nèi)，設(shè)x,、x分別為預(yù)測網(wǎng)絡(luò)輸入、輸出歸一化負荷值，貝u<formula>formulaseeoriginaldocumentpage7</formula>z=l，2,".,24(4-8)其中，和《油分別為^#本中在^時刻負荷的最大值和最小值，^為時刻,輸入真實負荷值，i^為時刻/輸出真實負荷衝對負荷的歸一化處理如式(4-7)、(4-8)戶^,,的歸一化如下:其中，a^為溫度歸一化常數(shù)取3o。c;7;為rf日實際^S值，《為歸一化后的鵬值；極端學習機理論極端學習機是新加坡南洋虹大賴廣,士提出的一種用于神經(jīng)網(wǎng)絡(luò)訓練的快速算法。該算法首艦一般前向單隱層AI神經(jīng)網(wǎng)絡(luò)左側(cè)權(quán)艦隱層神貌域值隨機給定，從而將網(wǎng)絡(luò)權(quán)值參數(shù)訓練問題轉(zhuǎn)化為不相容線性方程組的求解問題，然后依據(jù)矩陣理論中摩爾一彭羅斯廣，矩陣理論，利用解析方法求得該方程組具有最小范數(shù)的最小二乘解作為學習機網(wǎng)絡(luò)的右側(cè)權(quán)值參數(shù)，完成網(wǎng)絡(luò)的旨訓練過程，巧妙她克月盯傳統(tǒng)AI神經(jīng)網(wǎng)絡(luò)預(yù)測模型訓練時間長、易于過擬合以及陷入局部最優(yōu)等問題。摩爾-彭羅斯廣錢線性代數(shù)中，矩陣鄉(xiāng)大多鋭肪陣而言，若一個方陣不是奇異矩陣，它就有逆矩陣。實際上，對于行列數(shù)不等的矩陣，也有逆矩陣，稱之為廣觀矩陣，其中的摩爾-彭羅斯廣jJo^e陣，簡稱為M-p廣雄。這種矩鵬求解線性方程組問題時有驗用途。本發(fā)明的極端學習機方法正魏源于這種理論的延伸。定義5-1:摩爾-彭羅斯廣，矩陣G^魏陣A,的摩爾-彭羅斯廣35陣，當且僅當AGA=A,GAG=G，(AG)H=AG,(GA)H=GA(式中(f是轉(zhuǎn)置符號)(5-1)為方fi^見，將矩陣A的摩爾-彭羅斯廣，記為A+。J^;中四個方程也被稱作彭羅斯方程。下文將i&^爾-彭羅斯廣，存在的條件、性質(zhì)、求解方法，進而得出它完^S用于求解本文模型參數(shù)的結(jié)論。其中iM^爾-彭羅斯廣^^存在的^f牛時，要用到奇異值的理論，ife^0爾-彭羅斯廣，的計算方法時，要借助于^^解的理論。定義5-2:矩陣的奇異值設(shè)AeC"(r〉0)，AAH的特征值為^〉A(chǔ)^=&=0,則稱cri-V^(i-l，2,…，n)為A的奇異值；當A為零矩陣時，奇異值均為0。顯而易見，矩陣A的奇異值個數(shù)等于A的列數(shù)，A的非零奇異值的個數(shù)等于rankA。定理5-1:設(shè)AeC「-(r〉0),則存在m階酉矩陣U和n階酉矩陣V,使得式中2^ag(o",，o"2,…，A)，c7i(i-l，2，…，r)為矩陣A的^N瞎奇異值。這條定理給出了矩陣可以進行奇異值儘的斜牛，奇異值^S^最優(yōu)化問題、特征值問題、最小二乘問題、廣雄問題和統(tǒng)計學中有重要應(yīng)用，本文中的廣錢計算中要用到這條定理。定理5-2:對任意AeC"，A+雜且唯一。該定理保證了下文弓|入M-P廣JiUtit行網(wǎng)絡(luò)參數(shù)求解時，具有可行性和確定性。考慮非齊次線性方程組Ax-y式中AeCmxn,beCm,xeC"為待定向量。如果雜向量"吏得±立，貝JW禾彭且相容，否則^"程組不相容或矛盾。如果方程組相容，則可求出其通解，此時解可能有無窮個，這里面就有范數(shù)極小的解；如果方程組不相容，則不#4通常意義下的解，但此時由于實際問題的需要，往往去尋求其最小二乘解，這種解通常也不是唯一的，也存在范數(shù)最小的解。下文擬啲神經(jīng)網(wǎng)絡(luò)訓^a^，所涉及的線性方程組一般是不相容方程組，因jttE可以去尋賴小范數(shù)最小二乘解作為要訓練的參數(shù)。定義5-3:對于廣幾性系統(tǒng)Ax:y，群i|M=y||=r^n||Ax=y||(5—2)貝l懶S為該線性問題的最小二乘解。IIH表示在歐式空間中求范數(shù)。最小二乘l4計算方法中是個很SS的概念，它^131尋找和已知點距離最近的一個點作為其解，在多元方程求解、曲線擬合M多領(lǐng)域有鄉(xiāng)。定義5-4:x。稱為線性系統(tǒng)A"的最小范數(shù)最小二乘解，當且僅當對任意AeC,，xeC1,都有||x0||《||x|,Vxe{x:!Ax=y||《||Az=y||，VzsRn}(5-3)意即是該線性系統(tǒng)的最小二乘解中具有最小范數(shù)的那一鋪。向量的范細于度量向量的"長度"，而一個"長度"最小的向量往往會有一些獨特的性質(zhì)，下文也將提到，神經(jīng)網(wǎng)絡(luò)中權(quán)值向量的范數(shù)錄響網(wǎng)絡(luò)的性能，這也正是本文的ELM方法要尋求具有這種特性的權(quán)值的原因。雖然最小二乘解一般不唯一，但是最小范數(shù)最小二乘解卻是唯一的，并且它可由摩爾-彭羅斯廣義定理5-3:存在一，陣G,使得Gy是線性系統(tǒng)Ax:y的最小范數(shù)最小二乘解的充要^f牛是G=A+(5-4)定義5-廣定義5-4是為引出定理5-3做準備的,這條定理給出了線性系統(tǒng)的一類具有兩總性的解Gy，下文將會看到，,神經(jīng)網(wǎng)絡(luò)的方程組在適當處理后，就可以轉(zhuǎn)化為Ax-y的形式，其中x代表神經(jīng)網(wǎng)絡(luò)的待求權(quán)值，再依據(jù)本定理，就能很容易的計算出來，而不必采用傳統(tǒng)的依靠不代修正的辦法得到這些權(quán)值，從而大大節(jié)省了訓練時間。M-P廣錢的計算施定義5-5:設(shè)AsC"n(r〉0)，如果存在矩陣FeC;^禾口GeCr1，使得A鄰(5-5)貝嘛式(5-5)為矩陣A的滿^I。定理5—4:設(shè)AeCr(rX))，貝!JA有繊她如。定理5-4tl^我們，fflTO陣的初，變換的辦法，即可求出矩陣的滿^HS。定理5—5:設(shè)AeCr(。0)的^^式為A-FG，貝ij:a+=GH(fhagh)-ifh(5一6)式中A+為A的M-P廣JO^矩陣，GH、FH分別為G、H的轉(zhuǎn)魏陣1211。式(5-6)即本文M-P廣，矩陣的求解公式。至此，某矩陣A的M-P廣，A+的計算步驟可歸納如下1)將矩陣A進fi1i^m(1)矩陣A進行初等行變換，化為階梯形矩陣B-則此時存在P,使PA,(2)將p-'分塊,P"-[F問，F(xiàn)eCr，SeC，-0(3)A=FG，滿^S結(jié)束。2)依據(jù)公式(5-6)算出A+。極端學習機數(shù)學模型極端學習機是一種扁網(wǎng)絡(luò)訓落新算法，預(yù)測模型仍細前向單隱層結(jié)構(gòu)，如圖1所示。設(shè)其中輸入層、隱含層和輸出層的節(jié)點數(shù)分別為n、^、m，神經(jīng)元函數(shù)為g("，閾值為bi，樣本數(shù)目為W,齡樣本標為(《，i;)，！'-l，2，…iV,其中《-IX,，x,.2，…，;cJeR"為輸入變量，包括負荷、氣象、日期等因素；"-Lv,^"...,:^]7"eRm為輸出變量，由實際負荷值構(gòu)成。如果設(shè)該ELM網(wǎng)絡(luò)的負荷輸出值為q:[Ou,o,.2，…,o,J『SRm，則其數(shù)學模型可表示為,'=ihl,2…AA(5-7)式中Wi,i為，...,Wra]r，p,-n..,4/圖i的理想目標是尋求輸入輸出權(quán)值，使得如下^m^i::i一l^=lXg(Swb2)hi(5-8)標鵬陣形式為Hp=Y(5-9)式中:H(^，…,w^bi，…,l^^^,…,JrN):.^+bJ…P=.Xw+b》…Wx》1極端學習機的訓練目標是尋**優(yōu)的網(wǎng)絡(luò)權(quán)值『、p，使得網(wǎng)絡(luò)輸出負荷值與對應(yīng)的歷史樣實負荷值誤差最小，即min単,P)=t-y;.I(5-10)其中『=(Wi，=1,2，…，bj，乂=1，2，…,i7)，包含了網(wǎng)絡(luò)左權(quán)值參艦隱層神經(jīng)元域值。可見，ELM網(wǎng)絡(luò)的訓練J^呈可歸結(jié)為一個非線性優(yōu)化問題，目標函數(shù)為式(5-10)所示。極端學習機理論的主要思想是在訓練開始前，將輸入權(quán)值和閾值W隨拋合定，此時，矩陣H為一常數(shù)矩陣，式(5-9)被簡—^鵬性方程，fflilMP廣J^理論，即可解析求得方程式(5-9)最小范數(shù)最小二乘解，即網(wǎng)絡(luò)右側(cè)權(quán)值HTY,完成E圃絡(luò)訓縱程。根據(jù)MP廣，理論可知，此#0具有以下特征1、訓練聽最小化。賺^H+Y是廣雄性系統(tǒng)邵-Y的一愧小二乘解，意喊訓練誤魏守下式超撮小值!H卜yI=|HH+Y-Y!卜mn||H|3=Y|(5—11)2、權(quán)值的范數(shù)最小和更好的推廣能力。具體而言，3-H+Y是H卩-Y的最小二乘解中具有最小范數(shù)的一個。,|=|H+Y|,|，Vp￡{p:||H|3—Y||^|Hz-Y||,VzeRSxm}(5—12)3、H卩-Y的最小范數(shù)最小二乘鵬有唯一性，艮卩f=H+Y。對于單隱層神經(jīng)網(wǎng)絡(luò)預(yù)測模型，權(quán)值范小，皿化倉幼一般^M高。本文極端學習機網(wǎng)絡(luò)不僅在訓練樣本上實現(xiàn)了誤^t最小化，而且得至啲權(quán)值范數(shù)也最小。因此，有理由推斷，ELM訓練算法將會比BP及其艦算法取得更好的泛化能力。至此，可將ELM算法的實現(xiàn)步iia行歸納如下1)對輸入層的權(quán)值w,和隱層神經(jīng)元閾值b,進行隨繊值，/=1,2&。2)計算隱層輸出矩陣H。3)Mlf得到輸出層權(quán)值p=tTT。H、p、T見式(5-9)中定義?？梢姡珽m的訓練過程沒有傳統(tǒng)的迭j^Si程，取而代之的是矩陣*iMli，因此會有更好的性能。極端學習機的辦凝呈如圖2。鵬極端學習機網(wǎng)絡(luò)預(yù)測模型極端學習機算法與一般神經(jīng)網(wǎng)絡(luò)算法相比，毋庸置疑，具flm:優(yōu)勢，但該算法由于只^MI機給定網(wǎng)絡(luò)左側(cè)權(quán)值，解析求得右側(cè)權(quán)^成網(wǎng)絡(luò)模型的訓練過程，隨機因素的影響導致網(wǎng)絡(luò)預(yù)測效果不穩(wěn)定，船佳直接應(yīng)用于電力系統(tǒng)短期負荷預(yù)測。本發(fā)明提出M極端學習機網(wǎng)絡(luò)預(yù)測模型，結(jié)H5W經(jīng)網(wǎng)絡(luò)權(quán)值的迭代訓^i與極端學習MWa程兩者的優(yōu)點，其基本原理M極端學習機網(wǎng)絡(luò)預(yù)測模型左側(cè)權(quán)艦隱層神貌域值引AS于BFGS擬牛頓方法的迭代訓練，而右側(cè)權(quán)值Sil求解式(5-9)的MP廣，獲得，這一方面避免了一船申經(jīng)網(wǎng)絡(luò)高維空問尋優(yōu)弓胞的學習訓練缺陷，同時又,的解決了基端學習,法左權(quán)值隨機給定而導自型預(yù)測效果不穩(wěn)定的弊端。BFGS擬牛頓靴化訓練本發(fā)明采用求解非線性夫鵬|沖的BFGS算法對極端學習機網(wǎng)絡(luò)參數(shù)『進行優(yōu)化，即式(5-10)在固定右側(cè)權(quán)值(3基礎(chǔ)上，尋找最佳參數(shù)『'，使E(,，卩)超U最小，此時式(5-IO)可簡化為<formula>formulaseeoriginaldocumentpage13</formula>(5-13〉對二階可微的聽函數(shù)￡(0，驗數(shù)『=(Wi,/=1,2，…,F;bjJ=1,2,…，V)簡記為M維變量『=0,，/=1，2，.-爭局則它的一階導數(shù)(梯度向量)為<formula>formulaseeoriginaldocumentpage13</formula>二階導l^g陣(Hessian矩陣)為<formula>formulaseeoriginaldocumentpage14</formula>(5-15)BFGS算法求解五(『)極小點『'的迭代步驟(第A次)如下1、確定搜索方向^)，滿足<formula>formulaseeoriginaldocumentpage14</formula>(5_16)其中，由給定的初始正定矩陣5(1)(取單微陣)^^代計算逐^4行修正。注意，S^是Hessian矩陣G("的一^NS似，為正定矩陣，從而使W)^w〈0,保證了W)為下降方向。2、沿W)進fi^性te，得最優(yōu)步長a("，并從而得出體的新值『("D-PT("+a("^)(5-17)本文采用不精確搜索法，使步長"("滿足以下兩個不等式:<formula>formulaseeoriginaldocumentpage14</formula>(5-18)其中，pe(0,0.5)，ffe(p，l)。3、修，陣5<formula>formulaseeoriginaldocumentpage14</formula>(5-19)其中，<formula>formulaseeoriginaldocumentpage14</formula>(5-20)基ra代-鵬斤的gfci4極端學習機算法結(jié)^~船申經(jīng)網(wǎng)絡(luò)權(quán)值迭代訓練過程與極端學習機鵬斤，兩者的優(yōu)點，本發(fā)明提出gdt極端學習機網(wǎng)絡(luò)預(yù)測模型，對原極端學習機網(wǎng)絡(luò)預(yù)測模型左側(cè)權(quán)艦隱單元域值引AS于BFGS擬牛頓方法的迭代訓練，而右側(cè)權(quán)值艦求解H矩陣的MP廣，獲得，SW成了一種迭代-蝌斤的新型算法，既能較好克服原ELM網(wǎng)絡(luò)隨機給定左側(cè)權(quán)值帶來的隨機因素干擾，同時又使得網(wǎng)絡(luò)的尋優(yōu)降到了低維空間，采用這一新的學習算法自于短期負荷預(yù)測建模，可以取得更好的擬合與泛化效果。對于一個網(wǎng)絡(luò)拓撲結(jié)構(gòu)給定的,極端學習機網(wǎng)絡(luò)預(yù)測模型，其結(jié)構(gòu)如圖3所示。設(shè)其中輸入層、隱含層和輸出層的節(jié)點數(shù)分別為n、^、m,神經(jīng)元函數(shù)為g(jc)，閾值為bi,樣本數(shù)目為W，^h樣本，為(《,:Q，其中-《=|>,.1,;￡,,，...,;^:^￡『為輸入，包括了負荷、請、日期等因素；K=Ly;1，>^,...,>U『elT為輸出變量，由實P示負荷值構(gòu)成。如果設(shè)該神經(jīng)網(wǎng)絡(luò)的負荷輸出值為Q=『。圖3的理想目標是尋求輸入輸出權(quán)值，使得如下關(guān)系5^:i=lj=lj=ii=li=l録艦陣形式為Hp=Y式中-g(vvA+b》…g(w^.A+b》)(5—22)(5-23)…Y=…1艦極端學習機網(wǎng)絡(luò)的實P示訓練目標是尋絲知網(wǎng)絡(luò)參數(shù)，使得預(yù)測網(wǎng)絡(luò)輸出負荷值與對應(yīng)的歷史樣實負荷值^最小，即min単)=力b-k|(5-24)其中W=(Wj,z'd,2，…,》;bjJ=1，2，...,^)，包含了網(wǎng)絡(luò)左權(quán)值參艦隱層神經(jīng)元域值。逸就將網(wǎng)絡(luò)的訓練過程歸結(jié)為了一個非線性優(yōu)化問題，目標函數(shù)為式(5-24),本發(fā)明提出的迭代-解析訓練算法，對極端學習機網(wǎng)絡(luò)左側(cè)權(quán)值Wj，/=1，2,^及隱單元域值6,,/=1,2,…^MilBFGS擬牛頓法尋優(yōu)，而對右側(cè)權(quán)值卩,，/=1，2，-.^貝1』《31^廣避理1傾析求得，該算法的具體步驟如下1、隨賂定網(wǎng)絡(luò)的左側(cè)權(quán)值參艦隱單元域值參數(shù)，記為『(1)(1))。2、計算隱層輸出矩陣H并lft斤得到輸出層權(quán)值P=H+Y。3、在網(wǎng)絡(luò)右側(cè)權(quán)值卩不變瞎況下調(diào)用BFGS優(yōu)化學習算法求解￡(『)極小點『'。4、在『'基礎(chǔ)上重frt十,出矩陣H'并解析得至(J輸出層權(quán)值p'=H'+Y。5、如果滿足f||h-p,'||《s，貝,絡(luò)訓練完畢，否則，令卩,'，返回第3步。隱節(jié)點參數(shù)優(yōu)化對于極端學習機網(wǎng)絡(luò)來說，隱節(jié)點參數(shù)的選取^M關(guān)重要的，隱節(jié)點數(shù)目選得過大，將導致網(wǎng)絡(luò)結(jié)構(gòu)冗余，訓練計算*1大且不易于，且網(wǎng)絡(luò)參l^信息的存f^i于分散，預(yù)測精度不高，而隱節(jié)點數(shù)目過小時，網(wǎng)絡(luò)訓練容易產(chǎn)生過擬合，泛化能力陶氐，從而導致預(yù)測效果較差。可見，合理的選擇隱節(jié)點數(shù)目，對于網(wǎng)絡(luò)預(yù)測模型訓練以及最終的負^f頁測精度是非常必要和有意義的，然而，目前對于網(wǎng)絡(luò)隱節(jié)點參,取尚沒W^J力的實際應(yīng)用，一娜是憑借經(jīng)^i取一個固定隱節(jié)點數(shù)，或利用經(jīng)驗公式計餘得，也有AM:構(gòu)建決策樹獲得隱節(jié)點參數(shù)，但都沒有取衞艮好的效果。本發(fā)明結(jié)合極端學習機網(wǎng)絡(luò)結(jié)構(gòu)及權(quán)值,的特點，Ma大量實P示測算M結(jié)果M的規(guī)律總結(jié)，提出了極端學習機網(wǎng)絡(luò)參考隱節(jié)點數(shù)思想，首，隱節(jié)點數(shù)目與樣本數(shù)目相同的等維極端學習機網(wǎng)絡(luò)進fiiJ麟，再對該等維網(wǎng)絡(luò)右權(quán)值向量的模值進行有序聚類，找出相應(yīng)的多個權(quán)值分割點，并將其作為預(yù)測網(wǎng)絡(luò)的參考隱節(jié)點數(shù)。有序聚類的精確最條方^~~Fisher算法在娜挖掘過程中，對存放在M庫中的大fiW,倉灘以簡潔的形式在更一鵬象層進行描述是至關(guān)fi^的。這種將*^較低的:，象到較高概念層的;5^稱為概化。而實a^批量M概化最為常用的處理皿是聚類分析。聚類分析就是按照一定的要斜卩規(guī)律對事物進行區(qū)分和分類的過程，在這Hlg中沒有ftM關(guān)于類分的先驗知識，沒有柳帀指導，僅靠事物間的相似性作為類劃分的準則，因此屬于督分類的范疇。有序聚類是聚類分析的一種，當所給變量具有一定的Ji,，其(i,在分類中是不能打亂的，艮P只能按其"I^^離干類，例如要將一組權(quán)值向Mf[^劃分為三個等級高權(quán)值、中權(quán)值和^fe值，則首先應(yīng)將權(quán)向量的模值(樣本)按高低排序，然后將其參照一定指標分為三類，此時,^i^取有序聚類的方法進行分類。本文將采用目前非常流行的Fisher算法進行有序聚類分析，以求找到精確的最優(yōu)分類。設(shè)"個樣本需分成A:類，當n個樣本有序時，貝u—切可能的分法只有/(",/!:)<;(5-25)個。由于有伊變量的分類方針數(shù)隨分類t而線性增長的'頓，使得我們能在所有分法中找尋最，F(xiàn)isher算法正是在計im列舉了這及oa)種分法的可能結(jié)果后，利用"高類聚、低"的原則選取其中最佳的部分作為選定的分類結(jié)果。戶刑胃"高類聚、低耦合"是指基于類內(nèi)距離平方和最小，類間距離平方和最大。定義5-6設(shè)有m維有序樣本X,，義2,Z廣.，Xn，其中《=(&,《2，《3，".，;0,若某類的樣本為{《,ZW，U》，W,其均值向量為y一'十i/=(y一z十丄/=,■/,■(5-26)類內(nèi)的^fi徑為A)==f(義,-7"f(義,-(5—27)其含義表満樣秘^，J^，X,+2…,X》內(nèi)部各樣本之間的差異情況。Z)(/,力越小，表示該段內(nèi)樣本之間的差異越小，或說明相互間越,。反之，￡(/，/)越大，表g段內(nèi)樣本之間的差異越大，或說明相互間越分散。定義5-7將"個樣本^，a，a分成;t類，假定其分法表示為尸(",W:W,，A+!,…x"(z,2,z,2+,，…;^—j…(;^,a+,,其中/,=1<;2S"，我們可定義該種分類方法的^M函數(shù)為乂-1考慮到總距離平方和五=t(a-7)7化-=t￡(x,-z,一+-7"((義,-,+4—,-7))=力z)(c"-1)+i(i:+,-'》(4,"-im—，-f)=《(尸(",&))+^(尸("，&))(5-29)其中T-丄fi叫做總均值；e力(尸("，A:))叫l(wèi)^間平方和，反映gt間的差異。當"，A固定時，￡為一常數(shù)，e(尸("，A:))和^(尸(",/:))隨分法不同而變化。顯然，當"尸("，")越小，e"尸("，Q)越大，分鄉(xiāng)合理。因此，船胃最優(yōu)分法也就是使e(P("力)達至撮小的一種分法。定義5-8iMM函數(shù)minw屮nA))的遞推公式為minh<"<〖""e(尸(打，A))=minj^"(min"尸()-i，"i))+w，")}(5-30)Fisher算法具體步驟是輸入待聚類的有;§樣本及己知的分;輸出樣本m的聚類分割點；步驟l:根據(jù)定義(5-27)計算D(/,刀，f-l,2,…,W-l;7'=/+1,"，"；步驟2:設(shè)己知的分類數(shù)為;t，貝扮割點個數(shù)為爪=;^-1,根據(jù)定義5-6及5-7計算e(尸(f，刀)，/=3,4,...,w;/.=2,3,"'，^且2<左<",步驟3:根據(jù)e(f(,',_/))矩陣，求得使e(戶(",ifc))達到極小的最后一個分割點號g,再找出使e(尸(g-l,"l))達到極小的分割點號g,，進一步找出使e(尸(g,-l,"2))達到極小的分割點號g廣.最后找到最優(yōu)兩類分割點號g^一。不難看出，F(xiàn)isher算法只需要計算出/=1,2廣.,"-1;y=;+1,...,"與e(尸(/,力)，i=3,4,".，w;j、2,3，…，ik且2〈先〈w，乂〈i，并進1預(yù)當判斷即可。參考隱節(jié)點數(shù)目的選取隱節(jié)點數(shù)目是網(wǎng)絡(luò)結(jié)構(gòu)中非常重要的參數(shù)，節(jié)點IW1多或過少翻各直接影響至,絡(luò)預(yù)測模型的泛化能力及預(yù)測精度。本發(fā)明提出參考隱節(jié)點數(shù)思想，m^維極端學習機網(wǎng)絡(luò)右權(quán)值向量模值有序聚類，給出多個參考隱節(jié)點數(shù)，再利用這多個隱節(jié)點數(shù)分別構(gòu)造網(wǎng)絡(luò)預(yù)測模MiS行負^il測，各模型所的預(yù)測結(jié)果取平均值作為最終負荷預(yù)測值。對于一個極端學習機網(wǎng)絡(luò)，如圖3所示，其數(shù)學翻式(5-幼主要由H歸、PmxJ腿，而網(wǎng)絡(luò)隱層神會玩函數(shù)g(x)采用Sigmoid函數(shù)，^!r入-輸出特性如圖4。可見，矩陣H中M元素均分布在(Tl之間，網(wǎng)絡(luò)輸出負荷Mi要決定于矩陣pM^,也就是說，對于極端學習機網(wǎng)絡(luò)第/個隱層神經(jīng)，應(yīng)的右權(quán)值向量p,[Ap^,…,AJ",如果K^莫值乾&，則該神經(jīng)謝負荷輸出貢獻駄，即謝申經(jīng)元為一個關(guān)鍵神經(jīng)元。根據(jù)以上分析，本發(fā)明首先對隱節(jié)點數(shù)目與樣本數(shù)目相同的等維極端學習機網(wǎng)絡(luò)進fiHl瞎，再對該等維網(wǎng)絡(luò)右權(quán)值向量的模值進行有序聚類，對關(guān)鍵神^t數(shù)目進行累加，找出相應(yīng)的多個權(quán)值分割點，將其作為預(yù)測網(wǎng)絡(luò)的參考隱節(jié)點數(shù)。求取參考隱節(jié)點數(shù)具體步驟如下1、對等維極端學習機網(wǎng)絡(luò)采用迭代-解析算法進行訓練，得到右權(quán)值向量為p,;[/^;^，…,/y"，/=1，2，'..,W;2、分別計算iV個右權(quán)值向量P,.的模值，得至iJ一列模ilW^h，v〉；3、對序列S中的元素排序，得到有序序列S'=，調(diào)用有序聚類算法將序列S'分割為c=6類，假定分割點為^，^，s;。,4i，貝U將3、8、15、20、26作為相應(yīng)的5個參考隱節(jié)點數(shù)；4、利用所得5個參考隱節(jié)點數(shù)分別構(gòu)造5個極端學習機網(wǎng)絡(luò)，并分別經(jīng)4刊麟及預(yù)測，取網(wǎng)絡(luò)預(yù)測平均負荷值作為最終預(yù)測值。4頓本發(fā)明te的基于M極端學習機方法的電力系統(tǒng)短期負荷預(yù)測模型與一般神經(jīng)網(wǎng)絡(luò)(ANN)預(yù)測模型以及支撐向量機(SVM)預(yù)測模型X糊:州電網(wǎng)、西安電網(wǎng)以及河南襥陽電網(wǎng)典型月份(冬季、夏季、節(jié)假日)進行負#^測，并對預(yù)測精度與鵬進行了比較。杭州電網(wǎng)采用2006年1月1日至2007年9月1日的歷史負荷及氣象(包Jgft高溫度、最^M度)繊，分別預(yù)測該電網(wǎng)2007年1月、5月、8月胸日的96點負荷值，預(yù)測結(jié)果見表l-表3。表1杭州電網(wǎng)2007年1月測試結(jié)果SVMANN本發(fā)明日期-聽準確率聽準確率聽糊率15.42793.7632.29296.8892.49496.14126.64792.0752.87396.7122.58896.鵬38.83189.2855.78692.5733.19896.24943.96095.4533.24496.3332.44397.10952.84196.3332.75296.6981.92797.77062.87796.3542.20996.7754.00295.86472.59996.8333.46195.9281.31598.37785.92993.0713.23196.1792.艦96.64794.54995.0902.32697.3312.54197.117104.23994.7222.98296.2602.00997.579112.72396.8772.78596.3021.49298.140122.20897.2992.80496.2032.11496.758131.95297.5862.82996.5863.89695.828145.58793.815452994.9161.33298.254157.01492.6424.58994.7914.24095.448165.79993.1151,26198.4643.34396.309175.11893.6512.41597.0401.66697.960184.96094.3064.37495.1881.91497.829197.61591.7752.49596.9761.71097.834207.93191.2122.15897.3962.33597.159218.36990.3784.74994.4163.60595.265227.82490.鄉(xiāng)3.04896.5182.99796.252238.43290.1095.74493.7663.鵬95.795247.78090.572433395.1732,84096.643254.76693.9555.89493.2022.92896.342269.95888.7312.74096.6633.25796.142710.67088.2584.69594.468■5.60593.474288.01791.2845.330941612,82296.741296.74890.0526.09893.0415.28494.059309.395肌6156.34493.2822.65196.574312.640鄰.9062.07997.3981.42398.118均值5.91693.0623.62795.7292.79896.667表2杭州電網(wǎng)2007年5月測試結(jié)果:SVMANN本發(fā)明日期-據(jù)糊率體準確率聽鵬率124.29071.37328.17167.5415.04591.965219.48678.81220.39278.9012.56096.8263R62684.31311.55887.2857.87091.80147.69491.1955.32093.7264.21994.76352.28497.21112眉86.鵬3.97195.68863.15896.3755.40794.0164.59094.94672.34597.3883.11596.5213.88695.54887.85091.5408.60290.5913.68595.64799.78289.9453.26396.2183.84595.941104.77鄰94.7284.90493.4752.腳96.802115.79193.6785.37493.8341.36898.345122.64196.9275.43794.1843.64796.111132.66396.9084.55294.8471.74597.897144.47294.9831.90997.6732.59496.976154.16895.5923.95395.6682眉97.029161.81597.8232.11997.296l眉98.099174.19095.3982.10197.389l眉98.045183.11196.3052.18797.4185.42194.054191.43398.3066.57793.0103眉96.098201.92297.5511.33398.3052.33497.271215.50593.5682眉96.8561.28298.363228.68690.6072.09297.2212.01397.447239.347肌8176.33193.1411.93897.605246,鄉(xiāng)92.0055.113940033.48696.08721253.03595.6924.55793.,9851.50598.1402610.39881.3286.19993..5041.39498.144272.25397.1251.48297.,9862.39597.113286.20093.1597.88391.,6565.13794.鄉(xiāng)293.97095.1251.98897.,5782.22897.440303.38195.5582.84896.,6584.50195.001317.18291.0842.71796.4282.23897.226均值6.30192.6265.88293.3413.11296.351表3杭州電網(wǎng)2007年8月測試結(jié)果曰期SVM細本發(fā)明體準確率體準確率體準確率15.39993.1183.54695.6591.87497.82324.30394.8468.35990.6422.12797.31739.85786.8364.88294.2133.53095.52045.79192.6328.69491.0912.67596.95753.88695.4115眉94.0374.04495.16865.62793.7989.57890.0015.25794.50473.18495.9204.85894.3324.72195.04485.86793.2173.455恥.6272.69796.7194.25195.2307.65992.0674.10695.4741011.42885.4177.57490.1045.96892.598117.11290.8005.72892.7663,61495.730122.97296.0006.64692.6843.31695.264139.488亂0134.21693.6091.08198.600143.47496.1613.53395.9331.78697.886157.91190.卿4.53194.3782.16497.420163.64695.柳6.37292.3313.73494.265174.77194.5255.39093.5964.85393.941188.766貌6305.44493.6353.02696.006197.15392.7278.20091.3677.19092.45206.62993.0536.61293.0384.794■94.888215.01394.3625.60993.4376.76492.656228.823肌3037.65890.9506.04891.159239.68388.2178.10689.7436.75992.894245.58993.5595.37093.7923.17095.937251.27498.3473.84094.9293.95093.683265.13891.8573.00596.2232.52696.541278.04090.3457.01392.4022.99196.600285.78793.4312.80896.5401.94197.711294.97093.6405.09794.1223.57595.415307.42992.0071.62197.7031.78797.783313.78095.8453.76295.4771.60298.065均值6.03392.7635.63493.4333.66795.548陜西電網(wǎng)采用2005年9月1日至2007年9月1日的歷史負荷及氣象(包括最高溫度、最低溫度)繊，分別預(yù)測該電網(wǎng)2007年1月、5月、7月份每日的96點負荷值，預(yù)測結(jié)果見表4-表6。表4陜西電網(wǎng)2007年1月測試結(jié)果SVMANN本發(fā)明日期-據(jù)準確率準確率體準確率15.48893.3084.63595.0913.00596.16625.93392.9423.65994.8722.40597.02534.艦94.7476.42393.1065.32793.71645.69092.9285.12692.6735.35792.95453.42195.9235.16093.3994.18994.84866.31292.6502.96096.4786.09493.60373.33496.2863.00496.0033.97895.60682.86196.5985.13394,1634.35795.06093.51295.8389.76789.8725.92292.864107.68991.2932.04397.5094.52794.7391112.36487,3682.38397.1385.10594.407129.07790.7081.50698.1904.89494.941137.11091.腳3.90795.4272.44597.201149.15490.4232.18797.3992.88896.660154.15194.7545.64291.9133.60893.906168.51490.2546.81391.柳6.97391.6712317469794.0544.36294.7973.23996.08818.8.18191.4814979945664.12895.368197.00492.38711.44388.0757.64691.783207.55690.0997.07290.8999.28888.269218.05691.2鄰6.48292.5395.22394.411229.99287.4617.19690.8339.47690.258234.46294.鄉(xiāng)2.14697.408474794.832246.20192.7774.96194.4472.艦96.674253.56895.7994.82993.9455.35193.247265.55092.7594.59694.5714.09294.7342712.62586.81412.17286.9878.54390,572287.70991.0773.17196.13.17496.349294.99594.5864.32395.083.97295.633302.14197.3262.88296.3083.27495.933317.62691.3457.25692.1504.15395.387均值6.43892.6375.10493.9814.84794.352表5陜西電網(wǎng)2007年5月領(lǐng)i賦結(jié)果:SVMANN本發(fā)明日期-體繊率體準確率體準確率116.89683.55217.23581.4716.38792.942221.89977.45610.88186.9855.55393.627314.頓84.42112.53387.3603.48896.44942.50896.艦4.62894.8554.02294.17552.15797.3054.18594.9413.05795.86562.07097.5121.77997.4224.21595.20977.97390.5457.19191.7515.40293.339810.89488.6046.89392.5474.47694.99098.03191.4439.980肌8487.29892.298105.93293,52811.35688.0358.34190.艦116.62592.7657.25191.9375.97593.218127.艦91.8763,05296.3143.22295.833136.09392.3263.34295.8343.86195.610144.14795.4123.45096.0225.20294.297158.12589.8027.72591.5375.97192.386168.85691.4546.11193.2266.23393.080172,95896.36413.05486.4997.19891.2541814.48884.31810.710肌7539.49489.138198.72291.3607.12992.2367.14392.177208.91391.6318.23191.8746.64192.3962110.47387.9007.77291.7449.71689.7652210.38185.8133.27295.9972.72696.705233.00596.2013.43096.2374.05395.129244.15394.7035.70293.5251.96997.616252.46196.8819.41089.0304.91994.517262.67196.8034.19195.2813.49595.411274.781294.9536.13993.2795.83493.4952812.31586.5558.45790.9007.69091.526299.835肌3806.87392.5057.31992.143306.34492.9584.93494.8753.29795.399317.86491.7921.32598.3031.75598.027均值7.85491.3557.03992.2945.35393.823表6陜西電網(wǎng)2007年7月測試結(jié)果SVM娜本發(fā)明H別聽準確率聽臓率體準確率15.63593.0915.75492.8093.25595.30023.65995.3773.52895.3411.81097.84836.42393.1068.63990.9402.10697.37945.12692.6734.81592.9202.47297.01455.16093.3994.73994.1482.28697.25162.96096.4784.62394.8852.66396.85773.00496.0035.98093.3212.51497.12585.13394.1634.73494.4912.38396.99692.76796.8723.47295.2872.35897.224102.04397.5092.33897.2593.30696.355112.38397.1383.11096.3634.89094.543121.50698.1901.64498.0494.08495.373133.90795.4273.69295.5434.38795.093142.18797.3991.90597.6784.81494.779155.64291.9136.04791.8036.60392.943166.81391.4897週90.8025.07094.l站17436294.797429094.9165.55593.955184.97994.5665.13694.5072.鄉(xiāng)97.0701911.44388.0758.23191.2096.50793.102207.07290.8998.372肌4112.02697.338214.48295.5393.97396.0941.79697.925227.19690.8337.24291.0238.31991.359232.14697.4081.80197.7436.29193.269244.96194.4474.97994.3302.58396.933254.82993.9454.93893,6573.25596.367264.59694.5713.98294.7601.84897.619272.17296.9872.43296.8001.70297.726283.m96.1003.17095.9831.66097.恥2294.32395.083.59795.8212.07897.447302.88296.3082.92996.2494.90994.526317.25692.1505.91693.4295.01193.679均值4.52394.5784.63294.4383.58195.887河南襥陽電網(wǎng)im釆用2004年1月1日至2005年12月31日的歷史負荷及氣象(包括最高溫度、劇ffig)，分別預(yù)測該電網(wǎng)2005年8月、IO月、12月份每日的96點負荷值，預(yù)測結(jié)果腺7表9。表7濮陽電網(wǎng)2005年8月測試結(jié)果SVM應(yīng)本發(fā)明日期-據(jù)準確率體準確率聽準確率115.90783.01610.48388.3656.69992.18728.54790.8099.91489.1686.26192.68037.69090.1585.48593.7265.64093.59746.92392.5454.86594.7714.39094.92153.48095.8293.48595.6054.98394.06764.22094.0575.10993.9846.83791.艦72.53094.5815.56692.2154.09294.28884.27894.1917.05692.5423.90695.鵬98.36688.48410.11988.7926.76591.83106.55393.0298.24791.0744.22594.646117.56991.1535.20992.2155.67191.965124.47494.1723.85095.2506.60392.7451311.47287.1558.62890.75311.06287.690147.76788.44811.11687.3227.07591.292155.45491.6127.585肌6206.43592.476164.93794.7704.54294.6645.97892.603179.61290.88310.13089.2707.51091.375189.20688.0084.90292.0072.93995.924198.64390.3847.47991.53510.35190.095206.艦92.2916.31793.2378.72890.722217.93491.3759.73588.7006.13192.2492210.886肌7955.97791.2808.98390.234238.94488.7567.05591.9157.23690.956247.艦91.53810.08488.0984.65493.946255.22793.7006.44192.4874.73194.311266.77492.艦8.862肌6888.80290.456278眉90.7568.20990.9772.92696.3812813,02285.0434.00995.2113.02196.043295.05993.7173.56995.6165.94793.8013010.腳88.3234.29594.9825掘93.8663112.37886.8787.14992.3357.25392.259均值7.78390.9086.05191.8526.18292.813表8濮陽電網(wǎng)2005年10月測試結(jié)果:SVM麵本發(fā)明準確率聽準確率據(jù)糊率110.437肌16412.16886.2037.67891.424213.35483.25210.44188.6706.91692.372314.06684.10811.23188.5776.66392.59247.44990.9716.96991.5975.44893.07958.03591.2767.69391.0945.2109456469.80390.8798.78691.5356.55693.89877.43791.9795.94192.235444194.32986.91492.2156.08193.6685.00494.18698.43691.2757.39292.5717.34392.7021010.94690.5112.91196.7255.77693.061116.14392.8112.07597.艦3.60995.927125.84693.2593.42195.9926.43091.614138.40086.3393.23896.0514.35494.848144.25993.卿2.99196.2312.07197.483155.22192.5643.51195.3952.83396.5791610.09087.6319.90788.8496.12093.219174.24094.8742.71596.6831.43798.277188.50890.6893.704恥.5824.37394.705193.13795.8442.67796.5383,88995.879206.01392.3793.20696,2342.71496.695219.925股3264.89694.5653.42495.904224.56794.3413.65595.5262.37797.323234.19494.3936.14792.9223.06996.286248.67190.2366.25892.8903,64495.536255.82091.6394.37394.8204.33695.285266.55391.5567.59591.6358.44890.481279.851肌0305.34092.8746.04393.003287.049恥.卿4.65894.0635.75593.0342911.85683.1667.84890.1748.99188.786308.94991.80810.32487.5579.26589.108316.66191.8328眉90.2725.57593.216均值7.83390.7486.01793.0715.15494.045表9濮陽電網(wǎng)2005年12月測試結(jié)果:28<table>tableseeoriginaldocumentpage29</column></row><table>均值6.37592.7156.22092.7694.75694.171表IO本發(fā)明與ANN、SVM日平均預(yù)測時間(，)比較地區(qū)月份SVMANN本發(fā)明110.73647162.351杭州513.5913.8151.982817.1624.5802.074113.8274.8312.417陜西511.9235.0162.761815.3815.3293.002812.7395.9283.816濮陽1010.8104.7192.9311214.6226.0283.197由表1表9可以看出，本發(fā)明采用的預(yù)測方法含節(jié)假日的月份(如5月、10月)及夏、冬兩季(如1月、7月、8月、12月)進fi頁測時的精度相比支撐向量機(SVM)方法與一般神經(jīng)網(wǎng)絡(luò)(ANN)方法都有了顯著的提高。5月1日至3日及10月1日至3日受勞動節(jié)或國慶節(jié)影響，負荷7K平明顯低于其它時間，負荷變化規(guī)律也體現(xiàn)不同特點，由于本發(fā)明鵬極端學習機方法由于MP廣JWt的最小二,性，使其具有更好的泛化能力，對于節(jié)假日的預(yù)測精度明顯高于其它方法；夏季(如7月、8月)降溫負荷(如空調(diào)負荷)及辨(如1月、12月)取暖負荷(如電暖器)的增多，使ff^^負荷變化將產(chǎn)生較大的影響對于夏季，旨較低時隨溫度的升高負荷7K平呈上升趨勢，,高溫天氣下負荷值達到懶順不變，雷雨天氣下負荷會隨ag斷氐MW所下降，但有一定的，；對于#^，在MS側(cè)氐時，隨著鵬機下降，用電負離也將不斷上升，直到一就平后達到卿。杭州電網(wǎng)1月、8月，陜西電網(wǎng)1月、7月以及濃陽電網(wǎng)8月、12月預(yù)測精度的大幅提升也同樣充分表明，本發(fā)明創(chuàng)建的基于迭代-解析算法的極端學習機模M^受溫度影響g^:的夏、#^節(jié)負荷有很好的預(yù)測效果。在預(yù)測M上，由表io可以看出,本發(fā)明的日預(yù)測時間相比支撐向量機減少了十，以上，相比一船申經(jīng)網(wǎng)絡(luò)也少了兩併中左右。對于支撐向量機方法，由于其優(yōu)化算法自身特點，導致預(yù)測模型訓練時間較長，所以該方法預(yù)測時間較大；本發(fā)明與一般神經(jīng)網(wǎng)絡(luò)相比預(yù)測時間M^主要是因為極端學習機在學習訓練時將非線性方程組問題轉(zhuǎn)化為線性方程組求解，迭代過aR需對網(wǎng)絡(luò)的左側(cè)權(quán)iiffi預(yù)整，使優(yōu)維數(shù)大幅斷氐,麟性增強，更加容易找到最優(yōu)點，從而使模型的訓練皿本身就比ANN要快得多?？傊?本發(fā)明基于該機極端學習機方法的電力系統(tǒng)短期負荷預(yù)測模型無論是在預(yù)測精度上，還是在預(yù)測速肚鵬得了令人滿意的效果，這將對電網(wǎng)調(diào)度部門安排發(fā)電if^以及電力I^市場腿行管理鵬只極而有效的作用。權(quán)利要求1、基于改進極端學習機網(wǎng)絡(luò)的電力系統(tǒng)短期負荷預(yù)測方法，其特征在于1)讀取歷史樣本數(shù)據(jù)讀取電力部門提供的待預(yù)測日前2年的負荷數(shù)據(jù)、星期類型及溫度數(shù)據(jù)為歷史樣本數(shù)據(jù)；2)歷史樣本中負荷、溫度數(shù)據(jù)歸一化處理負荷數(shù)據(jù)的歸一化處理設(shè)xt、yt分別為預(yù)測網(wǎng)絡(luò)輸入、輸出歸一化負荷值，則其中，Ptmax和Ptmin分別為全部樣本中在t時刻負荷的最大值和最小值，Pdt為時刻t輸入真實負荷值，Pd′t為時刻t輸出真實負荷值；溫度數(shù)據(jù)的歸一化處理式中CoeT為溫度歸一化常數(shù)取30℃；Td為d日實際溫度值，為歸一化后的溫度值；3)形成t時刻訓練樣本集考慮對負荷影響較大的溫度信息，其樣本的輸入變量主要由四部分組成負荷變量、溫度變量、日期變量和節(jié)假日變量；負荷變量采用預(yù)測點兩天前及七天前的相同時刻及其前后兩個時刻的平均負荷，共16個變量組成負荷輸入變量用于預(yù)測該時刻各采樣點負荷，即要預(yù)測第d+1天第T小時的負荷Ld+1，4×T-i，i＝0，1，2，3，其輸入變量中的負荷變量包括Ld-1，4×T-i，Ld-6，4×T-i(i＝0，1，2，3)，Ld-1，T-1，Ld-1，T-2，Ld-1，T+1，<overscore>L</overscore>d-1，T+2，<overscore>L</overscore>d-6，T-1，<overscore>L</overscore>d-6，T-2，<overscore>L</overscore>d-6，T+1，<overscore>L</overscore>d-6，T+2；溫度變量采用預(yù)測樣本日前兩天的溫度信息即日最高、最低和平均溫度作為樣本的溫度輸入變量；日期變量采用一個七維脈沖二進制量來表示待預(yù)測日星期類型，即采樣點為星期幾則在七位二進制中第幾位則為1，其余各位取0；節(jié)假日變量節(jié)假日信息用一個二進制量來表示，若待預(yù)測日為節(jié)假日，該量為1，若不為節(jié)假日，令該量為0；輸出變量T時刻一小時的四個點負荷值；4)初始化等維ELM網(wǎng)絡(luò)左側(cè)權(quán)值與各神經(jīng)元域值等維ELM網(wǎng)絡(luò)左側(cè)權(quán)值及神經(jīng)元域值采用0～1均勻分布隨機數(shù)；注等維ELM網(wǎng)絡(luò)即隱節(jié)點個數(shù)等于輸入變量維數(shù)的ELM網(wǎng)絡(luò)；5)基于BFGS的迭代-解析算法對t時刻等維ELM網(wǎng)絡(luò)進行訓練改進極端學習機網(wǎng)絡(luò)的實際訓練目標是尋求未知網(wǎng)絡(luò)參數(shù)，使得預(yù)測網(wǎng)絡(luò)輸出負荷值與對應(yīng)的歷史樣本真實負荷值誤差最小，即其中W＝(wi，i＝1，2，…，<overscore>N</overscore>；bj，j＝1，2，…，<overscore>N</overscore>)，包含了網(wǎng)絡(luò)左權(quán)值參數(shù)及隱層神經(jīng)元域值；β為ELM網(wǎng)絡(luò)右側(cè)(輸出層)權(quán)值；對極端學習機網(wǎng)絡(luò)左側(cè)權(quán)值wi，i＝1，2，…<overscore>N</overscore>及隱單元域值bi，i＝1，2，…<overscore>N</overscore>通過BFGS擬牛頓法尋優(yōu)，而對右側(cè)權(quán)值β則通過MP廣義逆理論解析求得，該算法的具體步驟如下a、隨機給定網(wǎng)絡(luò)的左側(cè)權(quán)值參數(shù)及隱單元域值參數(shù)，記為W(1)＝(w(1)，b(1))；b、計算隱層輸出矩陣H并解析得到輸出層權(quán)值β＝H+Y；c、在網(wǎng)絡(luò)右側(cè)權(quán)值β不變情況下調(diào)用BFGS優(yōu)化學習算法求解E(W，β)極小點W*；d、在W*基礎(chǔ)上重新計算輸出矩陣H′并解析得到輸出層權(quán)值β′＝H′+Y；e、如果滿足則網(wǎng)絡(luò)訓練完畢，否則，令β＝β′，返回c步驟；6)等維ELM網(wǎng)絡(luò)右權(quán)值模值點用有序聚類算法給出c個參考點數(shù)輸入待聚類的等維ELM網(wǎng)絡(luò)右權(quán)值模值序列及已知的分類數(shù)k；輸出右權(quán)值模值的聚類分割點；步驟1根據(jù)計算D(i，j)，i＝1，2，…，n-1；j＝i+1，…，n；步驟2設(shè)已知的分類數(shù)為k，則分割點個數(shù)為k′＝k-1，根據(jù)誤差函數(shù)定義定義1定義2計算e(P(i，j))，i＝3，4，…，n；j＝2，3，…，k且2<k<n，j<i；步驟3根據(jù)e(P(i，j))矩陣，求得使e(P(n，k))達到極小的最后一個分割點號g，再找出使e(P(g-1，k-1))達到極小的分割點號g1，進一步找出使e(P(g1-1，k-2))達到極小的分割點號g2…最后找到最優(yōu)兩類分割點號gk′-1；通過對等維極端學習機網(wǎng)絡(luò)右權(quán)值向量模值有序聚類，給出c＝k-1參考隱節(jié)點數(shù)；7)基于BFGS迭代—解析算法，使用參考隱節(jié)點數(shù)，訓練c個t時刻ELM預(yù)測網(wǎng)絡(luò)模型即利用多個隱節(jié)點數(shù)分別構(gòu)造網(wǎng)絡(luò)預(yù)測模型進行負荷預(yù)測；8)分別使用c個ELM預(yù)測模型預(yù)測t時刻的負荷值9)求取c組網(wǎng)絡(luò)輸出負荷的平均值作為t時刻最終負荷預(yù)測負荷值，然后賦予t＝t+1，進入步驟3)至9)直至t大于等于24即得到輸出待預(yù)測日24小時負荷預(yù)測值。全文摘要本發(fā)明公開了一種基于改進極端學習機方法的電力系統(tǒng)短期負荷預(yù)測方法，以極端學習機(ELM)作為預(yù)測模型基本結(jié)構(gòu)，提出BFGS(Broyden，F(xiàn)letcher，Goldfarb，Shanno)擬牛頓方法對網(wǎng)絡(luò)左側(cè)權(quán)值進行優(yōu)化訓練調(diào)整，解析獲得右側(cè)權(quán)值參數(shù)的迭代-解析學習算法，創(chuàng)建了基于改進極端學習機(IELM)方法的短期負荷預(yù)測模型，提出極端學習機網(wǎng)絡(luò)參考隱節(jié)點數(shù)概念，對隱節(jié)點數(shù)目與樣本數(shù)目相同的等維極端學習機網(wǎng)絡(luò)進行訓練，再對該等維網(wǎng)絡(luò)右權(quán)值向量的模值進行有序聚類，找出相應(yīng)的多個模值分割點，并將其作為預(yù)測網(wǎng)絡(luò)的參考隱節(jié)點數(shù)，在預(yù)測精度和速度方面比現(xiàn)有方法都有了大幅提高。文檔編號G06N3/00GK101414366SQ20081023183公開日2009年4月22日申請日期2008年10月22日優(yōu)先權(quán)日2008年10月22日發(fā)明者周文華,松程,趙登福,閆建偉申請人:西安交通大學