本發(fā)明屬于電力負荷預(yù)測，尤其涉及一種基于vae-bilstm混合神經(jīng)網(wǎng)絡(luò)及貝葉斯優(yōu)化的短期電力負荷預(yù)測方法、系統(tǒng)、設(shè)備及介質(zhì)。

背景技術(shù)：

1、隨著近些年數(shù)字化浪潮以及信息和通信技術(shù)的迅速普及，如今電力系統(tǒng)的發(fā)展也越發(fā)趨向于現(xiàn)代化，電力系統(tǒng)需維持發(fā)電量與負荷需求之間的平衡，從而避免因過載而對電網(wǎng)的運行造成干擾，為解決以上問題，電力負荷預(yù)測應(yīng)運而生。精準的負荷預(yù)測不僅能夠優(yōu)化電網(wǎng)調(diào)度，保障整個電力系統(tǒng)安全穩(wěn)定地運轉(zhuǎn)，還可以提高經(jīng)濟效益和社會效益，確保人類的正常生活和社會的正常生產(chǎn)。

2、目前，關(guān)于短期負荷預(yù)測的方法主要有傳統(tǒng)的統(tǒng)計學(xué)方法和基于機器學(xué)習(xí)的預(yù)測方法。其中，統(tǒng)計學(xué)方法主要有多元線性回歸(mlr)、時間序列分析法和卡爾曼濾波法等，這類方法原理與建模簡單，但當(dāng)數(shù)據(jù)樣本容量較大時，預(yù)測效果一般。另一類方法則基于機器學(xué)習(xí)算法，例如灰色系統(tǒng)、人工神經(jīng)網(wǎng)絡(luò)、支持向量機(svm)以及高斯過程(gp)等。其中，反向傳播(bp)神經(jīng)網(wǎng)絡(luò)和svm的應(yīng)用最為廣泛。但上述方法缺少對時間序列相關(guān)性的考慮，并且當(dāng)訓(xùn)練樣本較多時存在無法有效收斂的問題。此外，由于神經(jīng)網(wǎng)絡(luò)中超參數(shù)的選取非常困難，容易出現(xiàn)欠擬合或過擬合，因此對于超參數(shù)的選取在很大程度上也影響著負荷預(yù)測的準確度。

3、公開號為cn118117577a的專利申請文件，公開了一種負荷預(yù)測方法、系統(tǒng)、裝置及可讀存儲介質(zhì)，通過數(shù)據(jù)收集、清洗、預(yù)處理，利用大數(shù)據(jù)和深度學(xué)習(xí)技術(shù)構(gòu)建和訓(xùn)練負荷預(yù)測模型，以及通過概率建模和蒙特卡洛模擬來處理負荷預(yù)測不確定性，從而提高負荷預(yù)測的準確性和穩(wěn)定性，為電力系統(tǒng)管理提供可靠的決策支持。但由于概率建模和蒙特卡洛模擬方法往往建立在簡化的統(tǒng)計假設(shè)上，可能無法充分捕捉數(shù)據(jù)的復(fù)雜非線性結(jié)構(gòu)和長期依賴性，因此存在不能更好的捕捉時間序列數(shù)據(jù)中的相關(guān)性和模式等問題。

技術(shù)實現(xiàn)思路

1、為了克服上述現(xiàn)有技術(shù)中存在的問題，本發(fā)明的目的在于提供一種基于vae-bilstm混合神經(jīng)網(wǎng)絡(luò)及貝葉斯優(yōu)化的短期電力負荷預(yù)測方法、系統(tǒng)、設(shè)備及介質(zhì)，通過變分自編碼器(vae)去除原始電力數(shù)據(jù)中的噪聲和冗余，提取出對負荷預(yù)測更為關(guān)鍵的潛在特征，為后續(xù)的預(yù)測模型提供更加精煉和有代表性的輸入；利用雙向長短期記憶網(wǎng)絡(luò)(bilstm)同時捕捉到時間序列中的過去和未來的信息，更全面地理解電力數(shù)據(jù)中的動態(tài)變化和長期依賴關(guān)系，充分考慮時間序列相關(guān)性對預(yù)測結(jié)果的影響，從而在電力負荷預(yù)測中實現(xiàn)更高精度的預(yù)測；此外還使用貝葉斯優(yōu)化算法確保了超參數(shù)高效且系統(tǒng)化的選取，避免出現(xiàn)過擬合或欠擬合情況，提供了更高水平的魯棒性和更快的收斂速度。

2、為了實現(xiàn)上述目的，本發(fā)明采取的技術(shù)方案是：

3、一種基于vae-bilstm混合神經(jīng)網(wǎng)絡(luò)及貝葉斯優(yōu)化的短期電力負荷預(yù)測方法，包括以下步驟：

4、步驟一，對獲取的電力系統(tǒng)相關(guān)的負荷數(shù)據(jù)和影響負荷的特征數(shù)據(jù)進行預(yù)處理，所述預(yù)處理包括去空缺值、異常值和歸一化，得到預(yù)處理后的數(shù)據(jù)集；

5、步驟二，對步驟一預(yù)處理后的數(shù)據(jù)集利用核主成分分析(kpca)進行特征降維，得到降維后的含數(shù)據(jù)主成分的數(shù)據(jù)；

6、步驟三，使用貝葉斯優(yōu)化方法對變分自編碼器(vae)和雙向長短期記憶網(wǎng)絡(luò)(bilstm)的網(wǎng)絡(luò)結(jié)構(gòu)進行超參數(shù)優(yōu)化，得到具有最佳超參數(shù)的變分自編碼器(vae)模型和雙向長短期記憶網(wǎng)絡(luò)(bilstm)模型；

7、步驟四，使用步驟三得到的具有最佳超參數(shù)的變分自編碼器(vae)對步驟二得到的降維后的含數(shù)據(jù)主成分的數(shù)據(jù)進行訓(xùn)練，得到訓(xùn)練好的變分自編碼器(vae)網(wǎng)絡(luò)結(jié)構(gòu)中的包含數(shù)據(jù)潛在表示的編碼層；

8、步驟五，將步驟四得到的訓(xùn)練好的變分自編碼器(vae)網(wǎng)絡(luò)結(jié)構(gòu)中的包含數(shù)據(jù)潛在表示的編碼層輸入至步驟三得到的具有最佳超參數(shù)的雙向長短期記憶網(wǎng)絡(luò)(bilstm)模型進行負荷預(yù)測，得到短期電力負荷預(yù)測的結(jié)果；

9、步驟六，對步驟五得到的短期電力負荷預(yù)測的結(jié)果進行準確度評估。

10、所述步驟一的具體方法為：

11、獲取電力系統(tǒng)相關(guān)的負荷數(shù)據(jù)和影響負荷的特征數(shù)據(jù)，檢測其中存在的空缺值和異常值，使用獲取的電力系統(tǒng)相關(guān)的負荷數(shù)據(jù)中所有正常值的平均值對空缺值、異常值進行替換，對替換后的數(shù)據(jù)進行最小-最大歸一化處理，表示為：

12、

13、其中，x'表示歸一化處理后的數(shù)據(jù)，x為對獲取的電力系統(tǒng)相關(guān)的負荷數(shù)據(jù)和影響負荷的特征數(shù)據(jù)進行空缺值、異常值替換后的數(shù)據(jù)，min(x)為對獲取的電力系統(tǒng)相關(guān)的負荷數(shù)據(jù)和影響負荷的特征數(shù)據(jù)進行空缺值、異常值替換后的數(shù)據(jù)中的最小值，max(x)為對獲取的電力系統(tǒng)相關(guān)的負荷數(shù)據(jù)和影響負荷的特征數(shù)據(jù)進行空缺值、異常值替換后的數(shù)據(jù)中的最大值，通過歸一化將獲取的電力系統(tǒng)相關(guān)的負荷數(shù)據(jù)和影響負荷的特征數(shù)據(jù)進行空缺值、異常值替換后的數(shù)據(jù)縮放到(0，1)之間。

14、所述步驟二的具體方法為：

15、選擇非線性處理的核函數(shù)，對步驟一預(yù)處理后的數(shù)據(jù)集中的每個樣本點，使用選定的核函數(shù)計算其與所有其他樣本點的核函數(shù)值，構(gòu)建核矩陣k；核矩陣k的元素kij表示為：

16、kij＝k(xi,xj)

17、其中，k是核函數(shù)，xi，xj是步驟一預(yù)處理后的數(shù)據(jù)集中的樣本點；接下來對核矩陣k進行中心化處理，在高維空間中應(yīng)用主成分分析pca，中心化核矩陣表示為：

18、

19、其中，k是核矩陣，e是全1向量，n為樣本數(shù)量；得到中心化核矩陣后對其進行特征分解，求解其降維到的維數(shù)m個最大的特征值λi和對應(yīng)的特征向量ui；使用選定的特征向量ui構(gòu)造映射矩陣，將步驟一預(yù)處理后的數(shù)據(jù)集映射到新的主成分空間；映射矩陣t表示為：

20、

21、其中，ui是核矩陣k對應(yīng)于第i個特征值λi的特征向量，m是選定的主成分數(shù)量；將步驟一預(yù)處理后的數(shù)據(jù)集通過映射矩陣t映射到新的主成分空間，得到降維后的含數(shù)據(jù)主成分的數(shù)據(jù)。

22、所述步驟三的具體方法為：

23、對變分自編碼器(vae)和雙向長短期記憶網(wǎng)絡(luò)(bilstm)的網(wǎng)絡(luò)結(jié)構(gòu)中的超參數(shù)，使用貝葉斯優(yōu)化算法，得到變分自編碼器(vae)和雙向長短期記憶網(wǎng)絡(luò)(bilstm)的最佳的超參數(shù)組合；定義超參數(shù)空間θ，表示為：

24、θ＝{θ1，θ2，θ3，...，θn}

25、其中，θi表示包括變分自編碼器(vae)和雙向長短期記憶網(wǎng)絡(luò)(bilstm)的網(wǎng)絡(luò)結(jié)構(gòu)的超參數(shù)，為超參數(shù)建立概率模型，建立使用均方誤差的目標函數(shù)f(θ)，表示為：

26、f(θ)＝msevalidation(model(θ))

27、使用貝葉斯算法，從超參數(shù)空間中選擇一個點θ進行采樣，根據(jù)采樣點的性能，更新超參數(shù)的后驗分布，最終得到具有最佳超參數(shù)的變分自編碼器(vae)模型和雙向長短期記憶網(wǎng)絡(luò)(bilstm)模型。

28、所述步驟四的具體方法為：

29、使用具有最佳超參數(shù)的變分自編碼器(vae)對步驟二得到的降維后的含數(shù)據(jù)主成分的數(shù)據(jù)進行特征提取和學(xué)習(xí)數(shù)據(jù)的潛在分布，變分自編碼器(vae)包括編碼器、重參數(shù)化、潛在空間和解碼器，在變分自編碼器(vae)訓(xùn)練過程中，概率分布q(z|x)表示給定輸入數(shù)據(jù)x時潛在空間中的潛在變量z的分布，其滿足于：

30、q(z|x)＝n(z|μ(x),σ(x)2)

31、其中，μ(x)，σ(x)分別表示潛在變量z的均值和標準差參數(shù)，引入重參數(shù)化技巧通過反向傳播算法優(yōu)化變分自編碼器(vae)：

32、z＝μ(x)+σ(x)☉∈

33、其中，∈是從標準正態(tài)分布n(0,i)中采樣的隨機噪聲；通過使用均方誤差(mse)衡量變分自編碼器(vae)的解碼器部分重建的輸出數(shù)據(jù)與步驟二得到的降維后含數(shù)據(jù)主成分的數(shù)據(jù)之間的差異，并使用kl散度作為正則化項，二者結(jié)合組成總損失函數(shù)，表示為：

34、

35、其中，x是原始數(shù)據(jù)，是變分自編碼器(vae)結(jié)構(gòu)中解碼器網(wǎng)絡(luò)的輸出，即重構(gòu)的數(shù)據(jù)，β是一個超參數(shù)，用于平衡重建損失和kl散度之間的權(quán)重；選擇adam優(yōu)化器最小化損失函數(shù)，將步驟二得到的降維后含數(shù)據(jù)主成分的數(shù)據(jù)輸入至變分自編碼器(vae)中進行訓(xùn)練，得到訓(xùn)練好的變分自編碼器(vae)網(wǎng)絡(luò)結(jié)構(gòu)中的包含數(shù)據(jù)潛在表示的編碼層。

36、所述步驟五的具體方法為：

37、定義雙向長短期記憶網(wǎng)絡(luò)(bilstm)的網(wǎng)絡(luò)層：bilstm＝lstm(forward)+lstm(backward)，其中，lstm(forward)是處理正向序列，lstm(backward)是處理反向序列，連接兩個方向的信息來合并定義雙向長短期記憶網(wǎng)絡(luò)(bilstm)的輸出，選擇adam算法優(yōu)化并定義損失函數(shù)，將編碼后的特征輸入到訓(xùn)練好的bilstm模型中進行預(yù)測，預(yù)測值可表示為：

38、

39、其中，g是激活函數(shù)，wy和by是輸出層的權(quán)重和偏置，bilstm(ht)為雙向長短期記憶網(wǎng)絡(luò)(bilstm)的輸出，表示為：

40、bilstm(ht)＝[lstmf(ht)；lstmb(ht)]

41、其中，lstmf和lstmb分別是正向和反向長短期記憶網(wǎng)絡(luò)(lstm)在時間步t的隱藏狀態(tài)。

42、所述步驟六的具體方法為：

43、使用均方誤差(mse)和平均絕對百分比誤差(mape)對預(yù)測結(jié)果進行準確度評估，表示為：

44、

45、其中，n是樣本數(shù)量，yi是第i個樣本實際值，為模型預(yù)測值。

46、一種基于vae-bilstm混合神經(jīng)網(wǎng)絡(luò)及貝葉斯優(yōu)化的短期電力負荷預(yù)測系統(tǒng)，包括：

47、數(shù)據(jù)獲取及預(yù)處理模塊，用于對獲取的電力系統(tǒng)相關(guān)的負荷數(shù)據(jù)和影響負荷的特征數(shù)據(jù)進行預(yù)處理，所述預(yù)處理包括去空缺值、異常值和歸一化，得到預(yù)處理后的數(shù)據(jù)集；

48、特征提取模塊，用于對預(yù)處理后的數(shù)據(jù)集利用核主成分分析(kpca)進行特征降維，得到降維后的含數(shù)據(jù)主成分的數(shù)據(jù)；

49、神經(jīng)網(wǎng)絡(luò)優(yōu)化模塊，用于使用貝葉斯優(yōu)化方法對變分自編碼器(vae)和雙向長短期記憶網(wǎng)絡(luò)(bilstm)的網(wǎng)絡(luò)結(jié)構(gòu)進行超參數(shù)優(yōu)化，得到具有最佳超參數(shù)的變分自編碼器(vae)模型和雙向長短期記憶網(wǎng)絡(luò)(bilstm)模型；

50、神經(jīng)網(wǎng)絡(luò)訓(xùn)練模塊，用于使用具有最佳超參數(shù)的變分自編碼器(vae)對降維后的含數(shù)據(jù)主成分的數(shù)據(jù)進行訓(xùn)練，得到訓(xùn)練好的變分自編碼器(vae)網(wǎng)絡(luò)結(jié)構(gòu)中的包含數(shù)據(jù)潛在表示的編碼層；

51、預(yù)測結(jié)果輸出模塊，用于將訓(xùn)練好的變分自編碼器(vae)網(wǎng)絡(luò)結(jié)構(gòu)中的包含數(shù)據(jù)潛在表示的編碼層輸入至具有最佳超參數(shù)的雙向長短期記憶網(wǎng)絡(luò)(bilstm)模型進行負荷預(yù)測，得到短期電力負荷預(yù)測的結(jié)果；

52、預(yù)測結(jié)果評估模塊，用于對短期電力負荷預(yù)測的結(jié)果進行準確度評估。

53、本發(fā)明還提供了一種基于vae-bilstm混合神經(jīng)網(wǎng)絡(luò)及貝葉斯優(yōu)化的短期電力負荷預(yù)測設(shè)備，包括：

54、存儲器：存儲上述一種基于vae-bilstm混合神經(jīng)網(wǎng)絡(luò)及貝葉斯優(yōu)化的短期電力負荷預(yù)測方法的計算機程序，為計算機可讀取的設(shè)備；

55、處理器：用于執(zhí)行所述計算機程序時實現(xiàn)所述的一種基于vae-bilstm混合神經(jīng)網(wǎng)絡(luò)及貝葉斯優(yōu)化的短期電力負荷預(yù)測方法。

56、本發(fā)明還提供了一種計算機可讀存儲介質(zhì)，計算機可讀存儲介質(zhì)存儲有計算機程序，計算機程序被處理器執(zhí)行時能夠?qū)崿F(xiàn)所述的一種基于vae-bilstm混合神經(jīng)網(wǎng)絡(luò)及貝葉斯優(yōu)化的短期電力負荷預(yù)測方法。

57、與現(xiàn)有技術(shù)相比，本發(fā)明具備如下優(yōu)點：

58、1.本發(fā)明通過核主成分分析(kpca)將高維數(shù)據(jù)轉(zhuǎn)換為低維特征表示，其作為一種有效的降維技術(shù)，能夠捕捉數(shù)據(jù)中的非線性結(jié)構(gòu)，從而為變分自編碼器(vae)提供了更加緊湊且信息豐富的特征表示，此外，降維后的數(shù)據(jù)有助于避免過擬合，提高模型的泛化能力，確保變分自編碼器(vae)在新的或未見過的數(shù)據(jù)上也能做出準確的預(yù)測。

59、2.本發(fā)明通過變分自編碼器(vae)與雙向長短期記憶網(wǎng)絡(luò)(bilstm)的結(jié)合提供了一種強大的預(yù)測框架，其中變分自編碼器(vae)首先通過其編碼器提取數(shù)據(jù)的深層特征和潛在表示，這些表示通過學(xué)習(xí)數(shù)據(jù)的分布來捕捉輸入數(shù)據(jù)的復(fù)雜結(jié)構(gòu)和模式；隨后，這些特征被用作雙向長短期記憶網(wǎng)絡(luò)(bilstm)的輸入，雙向長短期記憶網(wǎng)絡(luò)(bilstm)利用其對時間序列的雙向理解能力，進一步分析和預(yù)測序列的未來走向。在該過程中，變分自編碼器(vae)處理了數(shù)據(jù)的高維性和非線性問題，而雙向長短期記憶網(wǎng)絡(luò)(bilstm)則專注于時間序列的動態(tài)特性，兩者的協(xié)同作用不僅增強了模型對時間序列數(shù)據(jù)的預(yù)測精度，還提高了對新情況的泛化能力，使得整體模型在處理具有復(fù)雜時間依賴性的預(yù)測任務(wù)時更為有效和魯棒。

60、3.本發(fā)明提供貝葉斯優(yōu)化構(gòu)建超參數(shù)與模型性能之間的概率模型，能夠在較少的迭代次數(shù)內(nèi)智能地探索超參數(shù)空間，快速收斂至最優(yōu)解，在vae-bilstm框架中，這意味著可以針對變分自編碼器vae的重參數(shù)化技巧和雙向長短期記憶網(wǎng)絡(luò)bilstm的時間序列預(yù)測能力，自動調(diào)整如學(xué)習(xí)率、隱藏層神經(jīng)元數(shù)量等關(guān)鍵超參數(shù)，從而提高模型的預(yù)測準確性和泛化能力。此外，貝葉斯優(yōu)化的采樣策略減少了對計算資源的需求，使得vae-bilstm結(jié)合模型訓(xùn)練過程更加高效，能夠在保證預(yù)測性能的同時，顯著縮短模型調(diào)優(yōu)的時間。

61、綜上所述，本發(fā)明的電力負荷預(yù)測模型，通過核主成分分析(kpca)的降維處理、變分自編碼器(vae)的深層特征提取、雙向長短期記憶網(wǎng)絡(luò)(bilstm)的時間序列預(yù)測以及貝葉斯優(yōu)化的超參數(shù)調(diào)整，實現(xiàn)了一個準確、高效、魯棒的預(yù)測框架，為電力系統(tǒng)的負荷管理和優(yōu)化調(diào)度提供了強有力的技術(shù)支持。