專利名稱：使用神經(jīng)網(wǎng)絡(luò)進(jìn)行數(shù)據(jù)挖掘的制作方法
技術(shù)領(lǐng)域：
本申請涉及數(shù)據(jù)挖掘。更具體地說，本申請涉及使用神經(jīng)網(wǎng)絡(luò)以及其它的人工智能技術(shù)進(jìn)行數(shù)據(jù)挖掘。
背景技術(shù)：
由于在當(dāng)今的信息年代計算機(jī)和其它信息與通信設(shè)備的使用的急劇增加，數(shù)值的(numeric)和非數(shù)值的(例如文本的)數(shù)據(jù)被頻繁地從許多信息源例如因特網(wǎng)收集。此外，在許多數(shù)據(jù)庫中存在大量的數(shù)據(jù)。許多數(shù)據(jù)被采集只用于歸檔的目的，因此，在許多情況下，這些數(shù)據(jù)被無組織地存儲。在數(shù)據(jù)的陷阱(morass)中進(jìn)行過濾而提取用于特定用途的有用的信息是一個嚴(yán)峻的挑戰(zhàn)。
例如，企業(yè)方面的需求不斷增加，以便保持其在商務(wù)市場上的競爭力，從而從他們和/或其它人已經(jīng)收集的數(shù)據(jù)中有效地分析和提取有用的信息，并利用所述提取的信息改善企業(yè)的操作。不過，這通常是一個使人膽怯的任務(wù)。
數(shù)據(jù)挖掘是分析大量的數(shù)據(jù)，以便從這些數(shù)據(jù)中提取有用的信息，例如通過新的數(shù)據(jù)進(jìn)行預(yù)測(也稱為預(yù)測分析)?？梢垣@得若干個數(shù)據(jù)挖掘產(chǎn)品。不過，當(dāng)前允許在Web上對大量信息進(jìn)行數(shù)據(jù)挖掘的商業(yè)產(chǎn)品要求客戶應(yīng)用程序維持一個預(yù)測模型，盡管服務(wù)中介器(service broker)可以收集或存儲原始數(shù)據(jù)并根據(jù)需要將其轉(zhuǎn)發(fā)給客戶。因為客戶必須維持所述預(yù)測模型，當(dāng)執(zhí)行應(yīng)用程序時，客戶機(jī)的資源可能被擊潰。

發(fā)明內(nèi)容
本申請?zhí)峁┮环N數(shù)據(jù)挖掘系統(tǒng)。在一個實施例中，所述數(shù)據(jù)挖掘系統(tǒng)包括客戶機(jī)和服務(wù)中介器，其被配置為包括一個接口，用于接收來自所述客戶機(jī)的查詢請求。所述服務(wù)中介器將查詢請求(consultation request)轉(zhuǎn)發(fā)給神經(jīng)代理(Neugent)，以便調(diào)用神經(jīng)代理的查詢。在神經(jīng)代理被查詢之后，服務(wù)中介器向客戶機(jī)轉(zhuǎn)發(fā)由神經(jīng)代理返回的對象。
服務(wù)中介器還包括訓(xùn)練接口，并通過所述訓(xùn)練接口接收來自客戶的訓(xùn)練請求，所述訓(xùn)練請求包括訓(xùn)練數(shù)據(jù)。服務(wù)中介器把包括訓(xùn)練數(shù)據(jù)的訓(xùn)練請求轉(zhuǎn)發(fā)給神經(jīng)代理，以便利用所述訓(xùn)練數(shù)據(jù)調(diào)用神經(jīng)代理的訓(xùn)練。訓(xùn)練請求可以包括用于規(guī)定一個比值的參數(shù)，以便在訓(xùn)練神經(jīng)代理和測試或驗證神經(jīng)代理之間分配所述訓(xùn)練數(shù)據(jù)。在神經(jīng)代理的訓(xùn)練之后，服務(wù)中介器可以向客戶機(jī)轉(zhuǎn)發(fā)由神經(jīng)代理返回的訓(xùn)練結(jié)果對象。
本申請還提供一種用于對遠(yuǎn)程客戶機(jī)提供服務(wù)以便查詢神經(jīng)代理的方法。在一個實施例中，所述方法包括接收來自遠(yuǎn)程客戶機(jī)的查詢請求，把所述查詢請求轉(zhuǎn)發(fā)給神經(jīng)代理，以便調(diào)用神經(jīng)代理的查詢，并把由神經(jīng)代理返回的結(jié)果對象轉(zhuǎn)發(fā)給遠(yuǎn)程客戶機(jī)。
本申請還提供一種用于向遠(yuǎn)程客戶機(jī)提供服務(wù)而訓(xùn)練神經(jīng)代理的方法。按照一個實施例，所述方法包括接收來自遠(yuǎn)程客戶機(jī)的訓(xùn)練請求，向神經(jīng)代理轉(zhuǎn)發(fā)所述訓(xùn)練請求，以便調(diào)用神經(jīng)代理的訓(xùn)練，并向遠(yuǎn)程客戶機(jī)轉(zhuǎn)發(fā)由神經(jīng)代理返回的訓(xùn)練結(jié)果對象。


本發(fā)明的特征從下面結(jié)合附圖進(jìn)行的詳細(xì)說明將會更加清楚地理解，其中圖1A是按照本發(fā)明的一個實施例的數(shù)據(jù)挖掘系統(tǒng)的方塊圖；圖1B是按照本發(fā)明的另一個實施例的數(shù)據(jù)挖掘系統(tǒng)的原理圖；圖2A是按照一個實施例的用于向一個遠(yuǎn)程客戶機(jī)提供查詢一個神經(jīng)代理的業(yè)務(wù)的流程圖；圖2B是按照一個實施例的用于向一個遠(yuǎn)程客戶機(jī)提供訓(xùn)練一個神經(jīng)代理的業(yè)務(wù)的流程圖；圖3是一個函數(shù)鏈網(wǎng)絡(luò)的原理圖；圖4A和4B是按照一個實施例的用于值預(yù)測神經(jīng)代理的web業(yè)務(wù)接口方法的等級圖；圖5A、5C、5E、5G、5I表示按照另一個實施例的用于分類的神經(jīng)代理類的目標(biāo)模式(object schemas)；以及圖5B、5D、5F、5H、5J和5K表示用于神經(jīng)代理類的web業(yè)務(wù)接口的分類圖；圖6A、6C、6E、6G、6I表示按照第三個實施例的用于分類的神經(jīng)代理類的目標(biāo)模式；圖6B、6D、6F、6H、6J和6K表示按照第三實施例的用于神經(jīng)代理類的web業(yè)務(wù)接口的分類圖；圖7A-7F表示按照第四實施例的用于分類的神經(jīng)代理類的web業(yè)務(wù)接口的分類算法；圖7G表示按照第四實施例的用于值預(yù)測神經(jīng)代理的目標(biāo)模式；圖8A、8D、8F、8H和8J表示按照第五實施例的用于分類的神經(jīng)代理類的目標(biāo)模式；圖8B、8C、8G、8I和8K表示按照第五實施例的用于神經(jīng)代理類的web業(yè)務(wù)接口的分類算法；圖9A表示按照第六實施例的用于值預(yù)測的神經(jīng)代理的目標(biāo)模式；圖9B、9C表示按照第六實施例的用于值預(yù)測神經(jīng)代理的web業(yè)務(wù)接口的分類算法；圖10A、10C到10F表示按照第七實施例的用于分類的神經(jīng)代理類的web業(yè)務(wù)接口的分類算法；以及圖10B表示按照第七實施例的用于值預(yù)測神經(jīng)代理的目標(biāo)模式。
具體實施例方式
本申請?zhí)峁┯糜跀?shù)據(jù)挖掘的工具(呈系統(tǒng)和方法的形式)。例如，所述工具可以包括一個或幾個計算機(jī)程序或軟件模塊，它們被存儲在常規(guī)的程序存儲裝置或計算機(jī)可讀的介質(zhì)中，和/或通過計算機(jī)網(wǎng)絡(luò)或其它傳輸介質(zhì)被傳輸。
下面參照圖1A按照客戶機(jī)-服務(wù)器形式說明一種數(shù)據(jù)挖掘系統(tǒng)。不過應(yīng)當(dāng)理解，本申請的工具不限于客戶機(jī)-服務(wù)器編程模型，并且可被修改用于對等系統(tǒng)，信息傳遞系統(tǒng)，以及其它的編程模型。
數(shù)據(jù)挖掘系統(tǒng)10包括客戶機(jī)11，一個或幾個神經(jīng)代理13，以及服務(wù)中介器15。服務(wù)中介器15可被配置為一個服務(wù)器，并包括用于接收來自客戶機(jī)的查詢請求的接口。服務(wù)中介器還可接收來自客戶機(jī)的訓(xùn)練請求，并且一般是(雖然不一定)遠(yuǎn)程服務(wù)器。神經(jīng)代理13將在下面進(jìn)一步說明。
參照圖1A和2A說明按照一個實施例的用于向遠(yuǎn)程客戶機(jī)提供服務(wù)以便查詢神經(jīng)代理的方法。在服務(wù)中介器15從遠(yuǎn)程客戶機(jī)接收查詢請求之后(步驟S21)，服務(wù)中介器把查詢請求轉(zhuǎn)發(fā)給神經(jīng)代理13，從而調(diào)用神經(jīng)代理的查詢(步驟S22)。在神經(jīng)代理13被查詢之后，服務(wù)中介器15向客戶機(jī)轉(zhuǎn)發(fā)由神經(jīng)代理返回的結(jié)果對象(步驟S23)。
按照一個實施例的查詢請求包括用于查詢神經(jīng)代理13的數(shù)據(jù)。神經(jīng)代理13進(jìn)行包括在所述查詢請求中的數(shù)據(jù)的預(yù)測分析。
按照另一個實施例，查詢請求包括查詢神經(jīng)代理13的數(shù)據(jù)源的識別。神經(jīng)代理13進(jìn)行從在查詢請求中被識別的數(shù)據(jù)源獲得的輸入數(shù)據(jù)的預(yù)測分析。
按照另一個實施例，服務(wù)中介器是一個遠(yuǎn)程服務(wù)器。從客戶機(jī)11到所述遠(yuǎn)程服務(wù)器的查詢請求可以包括可擴(kuò)展的標(biāo)記語言文檔。神經(jīng)代理可以是服務(wù)器側(cè)。
下面參照圖1A和2B說明按照一個實施例的用于向遠(yuǎn)程客戶機(jī)提供服務(wù)以便訓(xùn)練一個神經(jīng)代理的方法。在服務(wù)中介器15收到來自遠(yuǎn)程客戶機(jī)的訓(xùn)練請求之后(步驟S26)，服務(wù)中介器把訓(xùn)練請求轉(zhuǎn)發(fā)給神經(jīng)代理15，以便調(diào)用神經(jīng)代理的訓(xùn)練(步驟S27)。在神經(jīng)代理被訓(xùn)練之后，服務(wù)中介器向客戶機(jī)轉(zhuǎn)發(fā)由神經(jīng)代理返回的訓(xùn)練結(jié)果對象(步驟S28)。
神經(jīng)代理可以把訓(xùn)練數(shù)據(jù)模式(pattern)分成群集(cluster)，每個群集相應(yīng)于一組類似的數(shù)據(jù)模式，并對于一個輸入模式是一個選擇的組的成員的概率進(jìn)行預(yù)測。
神經(jīng)代理可以把訓(xùn)練非數(shù)值(例如文本)模式分成群集，每個群集相應(yīng)于一組類似的非數(shù)值模式，并對于一個輸入的非數(shù)值模式是一個選擇的組的成員的概率進(jìn)行預(yù)測。
神經(jīng)代理可以借助于把訓(xùn)練數(shù)據(jù)模式分成多個群集來形成群集模型，每個群集相應(yīng)于一組類似的數(shù)據(jù)模式，并確定每個群集從所述的群集轉(zhuǎn)換到每個其它群集的概率。神經(jīng)代理通過對群集模型施加一個輸入模式來預(yù)測發(fā)生事件的概率。
神經(jīng)代理可以形成一個和一組訓(xùn)練數(shù)據(jù)模式相關(guān)的輸入-輸出模型，并通過對一個輸入模式應(yīng)用所述模型預(yù)測一個輸出值。神經(jīng)代理可以包括一個函數(shù)鏈網(wǎng)絡(luò)(functional-link net)。
神經(jīng)代理可以形成和一組訓(xùn)練數(shù)據(jù)模式中的相應(yīng)關(guān)系相關(guān)的規(guī)則，并且通過對一個輸入模式應(yīng)用所述規(guī)則預(yù)測一個結(jié)果(outcome)。
神經(jīng)代理技術(shù)包括用于識別數(shù)據(jù)中的模式并使用這些模式對新的數(shù)據(jù)進(jìn)行預(yù)測的不同方法。新的數(shù)據(jù)被分析，以便確定其落入的模式，借以根據(jù)在過去表征所述模式的行為，提供將來的行為的預(yù)測。
一組基礎(chǔ)的方法通常被稱為神經(jīng)網(wǎng)絡(luò)技術(shù)。神經(jīng)網(wǎng)絡(luò)是一種互連的輸入/輸出節(jié)點的加權(quán)的網(wǎng)絡(luò)。除去神經(jīng)網(wǎng)絡(luò)模型之外，神經(jīng)代理技術(shù)還覆蓋一個更寬的模式識別方法的范圍。
例如，神經(jīng)代理可以包括ClusteringNeugent，DecisionNeugent，EventPredictNeugent，TextClusteringNeugent，以及ValuePredictNeugent模型方法。
ClusteringNeugent使用一種群集模型方法，其對相似的模式分組，并預(yù)測一個特定的組的成員資格的概率。
DecisionNeugent使用決策樹模型方法，其揭示在數(shù)據(jù)中的規(guī)則和關(guān)系，用公式表示這些規(guī)則，以便描述這些關(guān)系，并根據(jù)揭示的規(guī)則預(yù)測結(jié)果。
EventPredictNeugent使用群集模型方法，利用轉(zhuǎn)換計算預(yù)測事件發(fā)生的概率。
TextClusteringNeugent使用群集模型方法，其對相似的包括文本(或非數(shù)值)材料的訓(xùn)練數(shù)據(jù)模式進(jìn)行分組，并預(yù)測模型所查詢的規(guī)定的文本(或非數(shù)值)的數(shù)據(jù)是(或者屬于)一個特定組的概率。
ValuePredictNeugent使用函數(shù)鏈神經(jīng)網(wǎng)絡(luò)模型方法預(yù)測一個變量的值(或者一組變量的值)。
函數(shù)鏈網(wǎng)絡(luò)是一種類型的神經(jīng)網(wǎng)絡(luò)，其可被用于對在輸入和輸出之間的函數(shù)關(guān)系進(jìn)行建模?？梢允褂煤瘮?shù)鏈神經(jīng)網(wǎng)絡(luò)利用輸入矢量X和輸出Y近似任何標(biāo)量函數(shù)，因此是一種通用的近似器。圖3示出了一種函數(shù)鏈網(wǎng)絡(luò)的結(jié)構(gòu)，非線性完全包含在函數(shù)鏈層中。在函數(shù)鏈層中的節(jié)點具有相關(guān)的非線性基本函數(shù)。因為非線性被完全包括在函數(shù)鏈層中，并且網(wǎng)絡(luò)的其余部分是線性的，可以對函數(shù)鏈網(wǎng)絡(luò)結(jié)構(gòu)使用線性訓(xùn)練技術(shù)，例如基于回歸的訓(xùn)練。線性訓(xùn)練涉及一種技術(shù)，其通過線性代數(shù)技術(shù)解決網(wǎng)絡(luò)中的參數(shù)。函數(shù)鏈網(wǎng)絡(luò)方法的例子在共同擁有的美國專利4979126，5734796，6134537和6212509中描述了，這些專利的全部內(nèi)容被包括在此作為參考。
和EventPredictNeugent相關(guān)的一些方法在共同擁有的美國專利6327550中描述了，該專利的全部內(nèi)容被包括在此作為參考。
另外的群集、神經(jīng)網(wǎng)絡(luò)、決策樹和其它的預(yù)測建模方法在下面的共同擁有的美國專利申請中描述了，這些專利的全部內(nèi)容被包括在此作為參考2002年4月19日申請的序列號60/374064，名稱為“PROCESSING MIXED NUMERIC AND/OR NON-NUMERICDATA”；2002年4月19日申請的序列號60/374020，名稱為“AUTOMATIC NEURAL-NET MODEL GENERATION ANDMAINTENANCE”；2002年4月19日申請的序列號60/374024，名稱為“VIEWINGMULTI-DIMENSIONAL DATA THROUGH HIERARCHICALVISUALIZATION”；2002年4月19日申請的序列號60/374041，名稱為“METHODAND APPARATUS FOR DISCOVERING EVOLUTIONARYCHANGES WITHIN A SYSTEM”；2002年4月19日申請的序列號60/373977，名稱為“AUTOMATIC MODEL MAINTENANCE THROUGH LOCALNETS”；以及
2002年4月19日申請的序列號60/373780，名稱為“USINGNEURAL NETWORKS FOR DATA MINING”。
每個神經(jīng)代理提供下面的方法，它們被統(tǒng)稱為“應(yīng)用編程器接口”，或“API”，并結(jié)合Web服務(wù)被簡稱為“服務(wù)”。
訓(xùn)練是對神經(jīng)代理提供數(shù)據(jù)(也更具體地被稱為訓(xùn)練數(shù)據(jù)模式)，使得神經(jīng)代理執(zhí)行訓(xùn)練數(shù)據(jù)模式的統(tǒng)計的或其它數(shù)據(jù)分析(其提供進(jìn)行將來預(yù)測的基礎(chǔ))過程。訓(xùn)練一個神經(jīng)代理的輸出是一個模型或其它數(shù)據(jù)分類機(jī)構(gòu)，其成為神經(jīng)代理用于識別模式的裝置。
查詢(consult)是用于對神經(jīng)代理提供新的數(shù)據(jù)(也被稱為用于查詢神經(jīng)代理的數(shù)據(jù))的一種過程，使得神經(jīng)代理使用在其訓(xùn)練期間產(chǎn)生的模型，以便從新的數(shù)據(jù)提供預(yù)測。
下面參照圖1B和圖5A-10F說明按照一個示例的實施例，神經(jīng)代理的訓(xùn)練和查詢方法的支持web服務(wù)的實現(xiàn)?？梢酝ㄟ^web服務(wù)技術(shù)使訓(xùn)練和查詢方法對客戶程序可用。一般地說，只有數(shù)據(jù)可以在客戶機(jī)和神經(jīng)代理之間傳遞。因而，在本說明中所述的方法不因維持一個預(yù)測模型而加重客戶機(jī)的負(fù)擔(dān)?？蛻魴C(jī)/服務(wù)器接口的復(fù)雜性可以通過簡化協(xié)議并通過隱藏平臺技術(shù)誤配的問題(例如使其對用戶是透明的)被簡化。
例如web服務(wù)技術(shù)可以基于調(diào)用遠(yuǎn)程服務(wù)器中的程序(此處也稱為“web服務(wù)中介器”或“WSB”)，例如通過按照HTTP協(xié)議發(fā)送可擴(kuò)展的標(biāo)記語言(XML)文檔(其是一個文本文件)，如圖1B所示。為了使web服務(wù)中介器45調(diào)用神經(jīng)代理43的訓(xùn)練和查詢方法，用于調(diào)用神經(jīng)代理的相應(yīng)的方法的XML文檔的結(jié)構(gòu)被精確地規(guī)定。神經(jīng)代理的訓(xùn)練和查詢API最好被嚴(yán)格地定義，使得它們可以被WSB調(diào)用。此外，在各個相應(yīng)的神經(jīng)代理內(nèi)，實現(xiàn)一個接口。
上述的每個神經(jīng)代理定義了用于訓(xùn)練和查詢服務(wù)的其自身的規(guī)范(例如見圖4A-10F)。每個神經(jīng)代理接口的公共元素包括輸入數(shù)據(jù)，訓(xùn)練結(jié)果和查詢結(jié)果。
對于訓(xùn)練和查詢服務(wù)，使一個數(shù)據(jù)的集合傳遞到神經(jīng)代理。被傳遞到訓(xùn)練服務(wù)和查詢服務(wù)的數(shù)據(jù)可分別被稱為訓(xùn)練數(shù)據(jù)(此處也稱為“trainData”)或查詢數(shù)據(jù)(此處也稱為“consultData”)。在一些情況下，(例如ValuePredictNeugent)，當(dāng)訓(xùn)練神經(jīng)代理時可以傳遞附加的參數(shù)，例如為了確定在訓(xùn)練所述模型和驗證或測試所述模型之間分割的訓(xùn)練數(shù)據(jù)的百分比。神經(jīng)代理一般使用數(shù)值數(shù)據(jù)作為輸入。不過，TextClusteringNeugent也容納文本(或其它非數(shù)值)數(shù)據(jù)，DecisionNeugent容納字母數(shù)字?jǐn)?shù)據(jù)。
除去EventPredictNeugent之外，每個神經(jīng)代理返回一個對象作為訓(xùn)練會話的結(jié)果。所述對象提供關(guān)于訓(xùn)練會話的結(jié)果的信息。對于ValuePredictNeugent，可以作為訓(xùn)練結(jié)果的結(jié)構(gòu)的一部分返回表示神經(jīng)代理的對象。
對于每個神經(jīng)代理類型，神經(jīng)代理返回一個對象作為查詢結(jié)果。不過，神經(jīng)代理可以在查詢返回對象的結(jié)構(gòu)方面不同。例如見圖5A-5K，其中只有TextClusteringNeugent和ClusteringNeugent返回類似結(jié)構(gòu)化的對象。ValuePredictNeugent可以返回ValuePredictNeugent對象本身作為返回的查詢對象的一部分。
神經(jīng)代理訓(xùn)練和查詢服務(wù)的規(guī)范可被映射到神經(jīng)代理類(下面說明)的體系結(jié)構(gòu)。
下面作為例子只對于ValuePredictNeugent討論WSB API接口。
WSB API可以包括若干個類，其中ValuePredictNeugent類包括訓(xùn)練和查詢方法。
例如，ValuePredictNeugent類可以包括下面的訓(xùn)練和查詢方法ValueNeugentTrainResult訓(xùn)練(Pattern trainData，DoublevalidationPercentage，Boolean returnResultFlag的集合)；以及ValueNeugentConsultResult查詢(Pattern consultData的集合)。
用戶在Pattern類下設(shè)置一個數(shù)據(jù)的集合。Pattern類是用于傳遞到訓(xùn)練或查詢方法的數(shù)據(jù)行的容器。在把數(shù)據(jù)集合傳遞到訓(xùn)練或查詢方法之后，便返回ValueNeugentTrainResult對象或ValueNeugentConsultResult對象。
ValueNeugentTrainResult類含有來自ValuePredictNeugent訓(xùn)練方法的結(jié)果，并且可以包括下述字段(圖4A)trainStatus，當(dāng)其返回時，其表示一個處理狀態(tài)，并被檢查，以便確定訓(xùn)練方法返回是否成功；modelTrainError，其表示模型的總體訓(xùn)練誤差(對于所有的模型輸出)；modelValidationError，其表示模型的總體有效性誤差(對于所有的模型輸出)；numberOfData，其表示用于訓(xùn)練的模式的數(shù)量；trainError，其表示在神經(jīng)代理實例的Of1dNList屬性中的每個輸出的相應(yīng)的訓(xùn)練誤差；validationError，其是在OF1dNList中的每個單獨的目標(biāo)的驗證誤差，當(dāng)只具有一個輸出時，其和modelValidationError相同；trainQualityscore，其表示在神經(jīng)代理實例的OF1dNList屬性中的每個輸出的相應(yīng)的訓(xùn)練質(zhì)量分?jǐn)?shù)；validationQualityScore，其表示在神經(jīng)代理實例的OF1dNList屬性中的每個輸出的有效化質(zhì)量分?jǐn)?shù)；trainResult，其是由模式標(biāo)簽和每個模式的每個目標(biāo)的模型預(yù)測值構(gòu)成的集合；validationResult，其是由模式標(biāo)簽和每個模式的每個目標(biāo)的模型預(yù)測值構(gòu)成的內(nèi)部集合；rawTrainResult，其是由模式標(biāo)簽和每個模式的每個目標(biāo)的原始值(在剪輯之前)構(gòu)成的集合，并用于離散的神經(jīng)代理的二進(jìn)制輸出；rawValidationResult，其是由模式標(biāo)簽和每個模式的每個目標(biāo)的原始值(在剪輯之前)構(gòu)成的集合，并用于離散的神經(jīng)代理的二進(jìn)制輸出；originalTrainOutput，其是由模式標(biāo)簽和用于訓(xùn)練的每個模式的每個目標(biāo)的初始值構(gòu)成的集合；originalValidationOutput，其是由模式標(biāo)簽和用于驗證的每個模式的每個目標(biāo)的初始值構(gòu)成的集合；以及neugentModel，其是到達(dá)使用ValueNeugentTrainResult對象的模型的快捷方式。
ValueNeugentConsultResult類含有來自ValuePredictNeugent查詢方法的結(jié)果，可以包括下述的字段(圖4B)consultError，其對于神經(jīng)代理對象的OF1dNList上的每個輸出表示一個相應(yīng)的誤差，并且如果目標(biāo)值不包括在查詢數(shù)據(jù)源上，則其為空；consultQualityScore，其對于神經(jīng)代理對象的OF1dNList上的每個輸出表示一個相應(yīng)的質(zhì)量分?jǐn)?shù)，并且如果目標(biāo)值不包括在查詢數(shù)據(jù)源上，則其為空；consultResult，其是由模式標(biāo)簽和每個模式的每個輸出的預(yù)測值構(gòu)成的集合；originalConsultOutput，其是由模式標(biāo)簽和每個模式的每個輸出的初始輸出值構(gòu)成的集合；rawConsultResult，其是由模式標(biāo)簽和每個模式的二進(jìn)制輸出值構(gòu)成的集合，并被用作離散的神經(jīng)代理中的二進(jìn)制輸出；以及neugentObject，其是到達(dá)使用ValueNeugentTrainResult對象的模型的快捷方式。
在圖5A-5K、6A-6K、7A-7G、8A-8K、9A-9C、10A-10F中示出了其它的示例的實施例。類似命名的字段具有和上述類似的功能。為清楚起見，在附加的實施例中的字段的說明被省略了。
上面的實施例是說明性的，不脫離本說明的構(gòu)思或不脫離所附權(quán)利要求的范圍，可以在這些實施例上引入許多改變。在本說明和所附權(quán)利要求的范圍內(nèi)，不同的說明性的實施例的元件和/或特征可以互相組合和/或互相替代。
例如雖然這里所述的一些實施例使用ClusteringNeugent，DecisionNeugent，EventPredictNeugent，TextClusteringNeugent，以及ValuePredictNeugent方法的組合，在所附權(quán)利要求中引用的內(nèi)容也可以通過這些神經(jīng)代理的一個選擇的子組，在具有或不具有使用群集、神經(jīng)網(wǎng)絡(luò)、決策樹和/或其它的預(yù)測建模方法的其它神經(jīng)代理技術(shù)的情況下實施。
通過閱讀下面的美國臨時專利申請，本領(lǐng)域的普通技術(shù)人員顯然可以作出其它的改變，這些專利申請都是在200年4月19日申請的，它們是60/374604，60/374200，60/374204，60/374041，60/373977，60/373780。
權(quán)利要求
1.一種數(shù)據(jù)挖掘系統(tǒng)，包括客戶機(jī)；以及服務(wù)中介器，其被配置為包括一個接口，用于接收來自所述客戶機(jī)的查詢請求，其中所述服務(wù)中介器將查詢請求轉(zhuǎn)發(fā)給神經(jīng)代理，以便調(diào)用神經(jīng)代理的查詢，并向客戶機(jī)轉(zhuǎn)發(fā)由神經(jīng)代理返回的結(jié)果對象。
2.如權(quán)利要求1所述的系統(tǒng)，其中所述查詢請求包括用于查詢所述神經(jīng)代理的數(shù)據(jù)。
3.如權(quán)利要求2所述的系統(tǒng)，其中所述神經(jīng)代理對包括在查詢請求中的數(shù)據(jù)執(zhí)行預(yù)測分析。
4.如權(quán)利要求1所述的系統(tǒng)，其中查詢請求包括用于查詢所述神經(jīng)代理的數(shù)據(jù)源的識別。
5.如權(quán)利要求4所述的系統(tǒng)，其中神經(jīng)代理對從在查詢請求中識別的源獲得的輸入數(shù)據(jù)執(zhí)行預(yù)測分析。
6.如權(quán)利要求1所述的系統(tǒng)，其中所述服務(wù)中介器通過所述接口接收來自客戶機(jī)的訓(xùn)練請求，所述訓(xùn)練請求包括訓(xùn)練數(shù)據(jù)，并把包括訓(xùn)練數(shù)據(jù)的訓(xùn)練請求轉(zhuǎn)發(fā)給神經(jīng)代理，以便利用所述訓(xùn)練數(shù)據(jù)調(diào)用神經(jīng)代理的訓(xùn)練。
7.如權(quán)利要求6所述的系統(tǒng)，其中訓(xùn)練請求包括用于規(guī)定在訓(xùn)練神經(jīng)代理和測試神經(jīng)代理之間分配所述訓(xùn)練數(shù)據(jù)的一個比值的參數(shù)。
8.如權(quán)利要求6所述的系統(tǒng)，其中在訓(xùn)練神經(jīng)代理之后，服務(wù)中介器向客戶機(jī)轉(zhuǎn)發(fā)由神經(jīng)代理返回的訓(xùn)練結(jié)果對象。
9.如權(quán)利要求1所述的系統(tǒng)，其中神經(jīng)代理把訓(xùn)練數(shù)據(jù)模式分成群集，每個群集相應(yīng)于一組類似的數(shù)據(jù)模式，并預(yù)測一個輸入模式是一個選擇的組的成員的概率。
10.如權(quán)利要求1所述的系統(tǒng)，其中神經(jīng)代理把訓(xùn)練非數(shù)值模式分成群集，每個群集相應(yīng)于一組類似的非數(shù)值模式，并預(yù)測一個輸入非數(shù)值模式是一個選擇的組的成員的概率。
11.如權(quán)利要求1所述的系統(tǒng)，其中神經(jīng)代理通過把訓(xùn)練數(shù)據(jù)模式分成多個群集，每個群集相應(yīng)于一組類似的數(shù)據(jù)模式，并對每個群集確定從該群集轉(zhuǎn)換到每個其它群集的概率來形成群集模型，并通過對群集模型應(yīng)用一個輸入模式來預(yù)測發(fā)生事件的概率。
12.如權(quán)利要求1所述的系統(tǒng)，其中所述神經(jīng)代理形成一個和一組訓(xùn)練數(shù)據(jù)模式相關(guān)的輸入-輸出模型，并通過對一個輸入模式應(yīng)用所述模型來預(yù)測一個輸出值。
13.如權(quán)利要求1所述的系統(tǒng)，其中所述神經(jīng)代理形成和一組訓(xùn)練數(shù)據(jù)模式中的相應(yīng)的關(guān)系相關(guān)的規(guī)則，并且通過對一個輸入模式應(yīng)用所述規(guī)則來預(yù)測一個結(jié)果。
14.如權(quán)利要求1所述的系統(tǒng)，其中所述神經(jīng)代理包括一個函數(shù)鏈網(wǎng)絡(luò)。
15.如權(quán)利要求1所述的系統(tǒng)，其中所述服務(wù)中介器是遠(yuǎn)程服務(wù)器。
16.如權(quán)利要求15所述的系統(tǒng)，其中所述查詢請求包括擴(kuò)展的標(biāo)記語言文檔。
17.如權(quán)利要求15所述的系統(tǒng)，其中所述神經(jīng)代理是服務(wù)器側(cè)的。
18.一種用于對遠(yuǎn)程客戶機(jī)提供服務(wù)以便查詢神經(jīng)代理的方法，包括接收來自遠(yuǎn)程客戶機(jī)的查詢請求；把所述查詢請求轉(zhuǎn)發(fā)給神經(jīng)代理，以便調(diào)用神經(jīng)代理的查詢；以及把由神經(jīng)代理返回的結(jié)果對象轉(zhuǎn)發(fā)給遠(yuǎn)程客戶機(jī)。
19.一種計算機(jī)系統(tǒng)，包括處理器；以及所述計算機(jī)系統(tǒng)可讀的程序存儲裝置，其有形地包括可由所述處理器執(zhí)行，以便執(zhí)行權(quán)利要求18所述的方法的指令的程序。
20.一種機(jī)器可讀的程序存儲裝置，其有形地包括可由所述機(jī)器執(zhí)行，以便執(zhí)行權(quán)利要求18所述的方法的指令的程序。
21.一種被包括在傳輸介質(zhì)中的計算機(jī)數(shù)據(jù)信號，所述傳輸介質(zhì)包含有可由計算機(jī)執(zhí)行，以便執(zhí)行權(quán)利要求18所述的方法的指令。
22.一種用于向遠(yuǎn)程客戶機(jī)提供服務(wù)以便訓(xùn)練神經(jīng)代理的方法，包括接收來自遠(yuǎn)程客戶機(jī)的訓(xùn)練請求；向神經(jīng)代理轉(zhuǎn)發(fā)所述訓(xùn)練請求，以便調(diào)用神經(jīng)代理的訓(xùn)練；以及向遠(yuǎn)程客戶機(jī)轉(zhuǎn)發(fā)由神經(jīng)代理返回的訓(xùn)練結(jié)果對象。
23.一種計算機(jī)系統(tǒng)，包括處理器；以及所述計算機(jī)系統(tǒng)可讀的程序存儲裝置，其有形地包括可由所述處理器執(zhí)行，以便執(zhí)行權(quán)利要求22所述的方法的指令的程序。
24.一種機(jī)器可讀的程序存儲裝置，其有形地包括可所述機(jī)器執(zhí)行，以便執(zhí)行權(quán)利要求22所述的方法的指令的程序。
25.一種被包括在傳輸介質(zhì)中的計算機(jī)數(shù)據(jù)信號，所述傳輸介質(zhì)包含有可由計算機(jī)執(zhí)行，以便執(zhí)行權(quán)利要求22所述的方法的指令。
全文摘要
本發(fā)明提供一種數(shù)據(jù)挖掘系統(tǒng)和方法。所述系統(tǒng)包括至少一個客戶機(jī)和服務(wù)中介器，其被配置為包括一個接口，用于接收來自所述客戶機(jī)的查詢請求。所述服務(wù)中介器將查詢請求轉(zhuǎn)發(fā)給神經(jīng)代理，以便調(diào)用神經(jīng)代理的查詢，并向客戶機(jī)轉(zhuǎn)發(fā)由神經(jīng)代理返回的結(jié)果對象。
文檔編號G06Q10/00GK1647079SQ03808838
公開日2005年7月27日 申請日期2003年4月18日 優(yōu)先權(quán)日2002年4月19日
發(fā)明者楊謙, 查里斯·愛德華·加羅法洛, 約格什·古普塔, 羅那德·卡斯, 基爾克·威爾遜, 伊格爾·塞杜克汗 申請人:計算機(jī)聯(lián)合思想公司