專利名稱：用于機(jī)器狀況監(jiān)視的條件多輸出回歸的系統(tǒng)和方法
技術(shù)領(lǐng)域：
本公開(kāi)涉及用于基于傳感器輸出來(lái)監(jiān)視機(jī)器的狀況的方法。
背景技術(shù)：
近年來(lái)，監(jiān)視昂貴設(shè)備或機(jī)器(如發(fā)電廠或飛機(jī))的狀況已經(jīng)受到越來(lái)越多的關(guān)注。目的是在早期階段檢測(cè)到這些機(jī)器的故障以避免后續(xù)災(zāi)害性損失。這可以通過(guò)對(duì)來(lái)自在機(jī)器的不同部件中安裝的一組傳感器的值進(jìn)行分析而實(shí)現(xiàn)。當(dāng)傳感器值之間的相關(guān)性被破壞時(shí)，很可能存在故障。對(duì)這種相關(guān)性進(jìn)行建模的一個(gè)重要方面是基于過(guò)程輸入來(lái)準(zhǔn)確地預(yù)測(cè)過(guò)程輸出的能力。這自然形成了多輸出回歸，該多輸出回歸旨在學(xué)習(xí)從輸入空間至 M維輸出空間的映射。多輸出回歸旨在學(xué)習(xí)從輸入空間至M維輸出空間的映射。考慮到輸出通常彼此依賴的事實(shí)，先前的研究集中于對(duì)輸出的聯(lián)合預(yù)測(cè)分布或相關(guān)性進(jìn)行建模。然后，可以將所學(xué)習(xí)的聯(lián)合預(yù)測(cè)分布應(yīng)用于各種各樣的問(wèn)題。以下條件多輸出回歸得到了關(guān)注。對(duì)于測(cè)試輸入，如果另外知道一些輸出，則可以如何使用該額外信息來(lái)改進(jìn)對(duì)其余輸出的預(yù)測(cè)？例如，在一地理位置處，給定了測(cè)量起來(lái)不太昂貴的金屬的濃度，那么可以估計(jì)別的金屬的濃度嗎？在金融市場(chǎng)中，公司A的盈利報(bào)告有助于更好地預(yù)測(cè)公司B的盈利報(bào)告嗎？在許多現(xiàn)代監(jiān)視系統(tǒng)中，將傳感器值從機(jī)器實(shí)時(shí)傳送至診斷中心。但是，由于網(wǎng)絡(luò)問(wèn)題，使得這些傳感器值通常是順序地到來(lái)的而不是同時(shí)到來(lái)的。這些可用傳感器值可以用于幫助預(yù)測(cè)其他丟失的傳感器值嗎？如果輸入是輸出的馬爾科夫毯(Markov blanket)，例如在其中存在以輸入χ為條件的兩個(gè)輸出Y1和y2的

圖1 (a)中，這樣做沒(méi)有優(yōu)勢(shì)。這是由于在給定χ的情況下Y1和y2是條件獨(dú)立的，從而八I χ, =/^(八|)。因此，使用另一輸出y2作為輸入沒(méi)有幫助。然而，如圖1 (b)所示可以隱藏某些輸入，其中，從未觀察到輸入ζ。這是更現(xiàn)實(shí)的情形，原因在于測(cè)量實(shí)際數(shù)據(jù)集中的所有輸入是富有挑戰(zhàn)性的。在這些情況下，y2攜帶關(guān)于丟失的ζ的信息并被期望在用作輸入的情況下改進(jìn)對(duì)Y1的預(yù)測(cè)。先前的方式通常通過(guò)基于已知輸出的聯(lián)合預(yù)測(cè)分布從已知輸出有條件地推斷未知輸出來(lái)解決該任務(wù)。然而，學(xué)習(xí)聯(lián)合預(yù)測(cè)分布是相當(dāng)富有挑戰(zhàn)性的，尤其是在回歸映射為非線性時(shí)。由于多輸出回歸可以被視為多任務(wù)學(xué)習(xí)的特殊情況，因此當(dāng)回歸任務(wù)共享相同輸入時(shí)，許多多任務(wù)技術(shù)也適用于多輸出回歸任務(wù)。然而，這些技術(shù)中的大多數(shù)集中于在M 個(gè)單輸出任務(wù)之間共享表示和參數(shù)。在預(yù)測(cè)中，所有單輸出模型獨(dú)立工作而不考慮其相關(guān)性。

發(fā)明內(nèi)容
這里描述的本發(fā)明的示例性實(shí)施例一般包括用于條件多輸出回歸的方法和系統(tǒng)。 根據(jù)本發(fā)明實(shí)施例的方法包括兩個(gè)模型。在根據(jù)本發(fā)明實(shí)施例的條件模型中，給定了 M個(gè) 輸出，每個(gè)輸出依賴于輸入和所有其他M-I個(gè)輸出。通過(guò)這樣做，其他輸出可以被視為與輸 入相同，并且因此可以將原始多輸出任務(wù)分為更簡(jiǎn)單的單輸出任務(wù)。如果所有其他M-I個(gè) 輸出是已知的，則該條件模型単獨(dú)給出對(duì)目標(biāo)輸出的預(yù)測(cè)。否則，根據(jù)本發(fā)明實(shí)施例的生成 (generative)模型可以用于基于輸入來(lái)推斷未知輸出，并且然后將不確定性傳播至條件模 型以進(jìn)行最終預(yù)測(cè)。注意，術(shù)語(yǔ)“條件”和“生成”所針對(duì)的是輸出而不是輸入。根據(jù)本發(fā)明實(shí)施例的框架是非常普通的。根據(jù)本發(fā)明的其他實(shí)施例，可以在條件 模型中使用各種現(xiàn)有回歸技木。根據(jù)本發(fā)明的其他實(shí)施例，甚至更寬范圍的算法也可以用 于生成模型，只要這些算法提供了針對(duì)它們的預(yù)測(cè)的誤差棒。根據(jù)本發(fā)明的一方面，提供了一種用于預(yù)測(cè)傳感器監(jiān)視系統(tǒng)的傳感器輸出值的方 法，包括提供去往傳感器系統(tǒng)的ー個(gè)或多個(gè)測(cè)試輸入值的集合，以及來(lái)自所述傳感器系統(tǒng) 的ー個(gè)或多個(gè)已知傳感器輸出值，其中，其他傳感器輸出值是未知的，根據(jù)測(cè)試輸入值，針 對(duì)每個(gè)未知傳感器輸出值計(jì)算預(yù)測(cè)高斯分布函數(shù)
權(quán)利要求
1. 一種預(yù)測(cè)傳感器監(jiān)視系統(tǒng)的傳感器輸出值的方法，包括以下步驟 提供去往傳感器系統(tǒng)的一個(gè)或多個(gè)測(cè)試輸入值的集合，以及來(lái)自所述傳感器系統(tǒng)的-個(gè)或多個(gè)已知傳感器輸出值，其中，其他傳感器輸出值是未知的；根據(jù)測(cè)試輸入值，針對(duì)每個(gè)未知傳感器輸出值，計(jì)算預(yù)測(cè)高斯分布函數(shù)
2.根據(jù)權(quán)利要求1所述的方法，其中，針對(duì)每個(gè)未知輸出ym的預(yù)測(cè)高斯分布函數(shù)/jCtJX)是通過(guò)關(guān)于超參數(shù)
3.根據(jù)權(quán)利要求2所述的方法，其中，使用共軛梯度方法來(lái)最大化
4.根據(jù)權(quán)利要求2所述的方法，其中，條件高斯分布Pb,
5.根據(jù)權(quán)利要求4所述的方法，還包括當(dāng)輸出值的集合\中存在義個(gè)丟失值時(shí)， 針對(duì)L中的每個(gè)丟失值對(duì)來(lái)自預(yù)測(cè)高斯分布/^tJ χ)的多個(gè)輸出值進(jìn)行采樣；以及關(guān)于超參數(shù)&最大化多個(gè)采樣值的平均值
6.根據(jù)權(quán)利要求1所述的方法，還包括重復(fù)計(jì)算
7. 一種預(yù)測(cè)傳感器監(jiān)視系統(tǒng)的傳感器輸出值的方法，包括以下步驟 提供去往傳感器系統(tǒng)的一個(gè)或多個(gè)測(cè)試輸入值的集合，以及來(lái)自所述傳感器系統(tǒng)的一個(gè)或多個(gè)已知傳感器輸出值，其中，其他傳感器輸出值是未知的；根據(jù)測(cè)試輸入值，針對(duì)每個(gè)未知傳感器輸出值，計(jì)算預(yù)測(cè)分布函數(shù)
8.根據(jù)權(quán)利要求7所述的方法，還包括(a)將高斯分布
9. 一種用于預(yù)測(cè)傳感器監(jiān)視系統(tǒng)的傳感器輸出值的設(shè)備，所述設(shè)備包括 用于提供去往傳感器系統(tǒng)的一個(gè)或多個(gè)測(cè)試輸入值的集合以及來(lái)自所述傳感器系統(tǒng)的一個(gè)或多個(gè)已知傳感器輸出值的裝置，其中，其他傳感器輸出值是未知的； 用于根據(jù)測(cè)試輸入值、針對(duì)每個(gè)未知傳感器輸出值計(jì)算預(yù)測(cè)高斯分布函數(shù)
10.根據(jù)權(quán)利要求9所述的設(shè)備，其中，針對(duì)每個(gè)未知輸出的預(yù) 測(cè)高斯分布函數(shù)/^(tJX)是通過(guò)關(guān)于超參數(shù)=最大化
11.根據(jù)權(quán)利要求10所述的設(shè)備，其中，使用共 軛梯度 方法來(lái) 最大化
12.根據(jù)權(quán)利要求10所述的設(shè)備，其中，條件高斯分布是 針對(duì)輸入值X和輸出值Y的訓(xùn)練集合通過(guò)關(guān)于超參數(shù)P =最
13.根據(jù)權(quán)利要求12所述的設(shè)備，所述設(shè)備還包括用于在輸出值的集合中 存在個(gè)丟失值時(shí)針對(duì)中的每個(gè)丟失值對(duì)來(lái)自預(yù)測(cè)高斯分布/^( tJ x)的 多個(gè)輸出值進(jìn)行采樣的裝置；以及用于關(guān)于超參數(shù)5最大化多個(gè)采樣值的平均值
14.根據(jù)權(quán)利要求9所述的設(shè)備，其中，所述設(shè)備還包括用于重復(fù)計(jì)算
全文摘要
本發(fā)明涉及用于機(jī)器狀況監(jiān)視的條件多輸出回歸的系統(tǒng)和方法。一種用于預(yù)測(cè)傳感器監(jiān)視系統(tǒng)的傳感器輸出值的方法，包括提供去往傳感器系統(tǒng)的測(cè)試輸入值的集合，以及來(lái)自所述傳感器系統(tǒng)的一個(gè)或多個(gè)已知傳感器輸出值，其中，其他傳感器輸出值是未知的；根據(jù)測(cè)試輸入值和已知輸出傳感器值，針對(duì)每個(gè)未知傳感器輸出值計(jì)算預(yù)測(cè)高斯分布函數(shù)；以及通過(guò)關(guān)于測(cè)試輸入值和其他未知輸出傳感器值對(duì)預(yù)測(cè)高斯分布函數(shù)與未知輸出傳感器值的條件高斯分布的乘積進(jìn)行積分，來(lái)預(yù)測(cè)每個(gè)未知輸出ym。根據(jù)訓(xùn)練階段來(lái)確定預(yù)測(cè)高斯分布函數(shù)的均值和方差，并通過(guò)另一訓(xùn)練階段來(lái)確定條件高斯分布的超參數(shù)。
文檔編號(hào)G05B13/04GK102445902SQ20111030157
公開(kāi)日2012年5月9日 申請(qǐng)日期2011年9月30日 優(yōu)先權(quán)日2010年9月30日
發(fā)明者袁超 申請(qǐng)人:西門子公司