本發(fā)明屬于數(shù)據(jù)處理技術(shù)領(lǐng)域，尤其涉及一種建立數(shù)據(jù)識別模型的方法及裝置。

背景技術(shù)：

商家的信用是消費(fèi)者決定是否消費(fèi)的重要指標(biāo)，目前網(wǎng)上電商平臺也是按照商家的信用高低進(jìn)行排名。商家的信用根據(jù)交易的數(shù)量和評分逐步累積，剛開的店鋪沒有信用，排名就會靠后。消費(fèi)者出于對自身權(quán)益的考慮，更愿意選擇信用較高的商家或者銷量較高的商品。而商家排名的先后直接關(guān)系到消費(fèi)者是否能夠搜索到商家，搜索不到的情況下，消費(fèi)者就無法進(jìn)入商家的店鋪進(jìn)行消費(fèi)。

因此網(wǎng)上商家都有提升信用的需求，催生了一些專為商家提升信用的網(wǎng)站和個(gè)人，通過刷單等虛假交易行為來提升商家的信用。虛假交易行為不利于市場的健康發(fā)展，不利于保護(hù)消費(fèi)者的權(quán)益，屬于電商平臺需要嚴(yán)厲打擊的行為。

電商平臺例如小微金服花唄和信貸業(yè)務(wù)，在使用時(shí)都要利用訓(xùn)練得到的識別模型來識別交易是否是虛假交易。通常在業(yè)務(wù)上通過top抓壞率來衡量對虛假交易的識別是否準(zhǔn)確，所謂抓壞率也稱為召回率，是指識別出的虛假交易占虛假交易總數(shù)的比率。top抓壞率是用于對訓(xùn)練得到的模型進(jìn)行評估的指標(biāo)，按模型識別得到的虛假交易概率對交易記錄進(jìn)行排序，然后對排序后的交易記錄進(jìn)行分組，計(jì)算各組的抓壞率，如果top抓壞率保持穩(wěn)定且能達(dá)到設(shè)定的標(biāo)準(zhǔn)，則判斷模型可靠，可用于后續(xù)的識別。

然而目前小微金服等電商平臺在訓(xùn)練識別模型時(shí)，一般是先對訓(xùn)練樣本通過特征工程處理后，經(jīng)過邏輯回歸算法訓(xùn)練得到識別模型，然后采用測試樣本來計(jì)算抓壞率，根據(jù)抓壞率來判斷訓(xùn)練得到的識別模型是否可靠。

但是現(xiàn)在訓(xùn)練得到的識別模型是使用邏輯回歸模型，對于訓(xùn)練樣本按比例采樣，沒有對正樣本進(jìn)行區(qū)分，導(dǎo)致噪音進(jìn)入邏輯回歸算法，無法有效提高top抓壞率和保證穩(wěn)定性。并且隨著虛假交易維度越來越多，線性模型已經(jīng)無法學(xué)到更多維度的信息，模型單一，效果受限。

技術(shù)實(shí)現(xiàn)要素：

本發(fā)明的目的是提供一種建立數(shù)據(jù)識別模型的方法及裝置，以解決現(xiàn)有技術(shù)邏輯回歸模型訓(xùn)練時(shí)噪音的影響，以及模型單一、效果不理想等問題。結(jié)合機(jī)器學(xué)習(xí)和深度學(xué)習(xí)進(jìn)行訓(xùn)練，在判斷虛假交易時(shí)，有效提高top抓壞率，取得很好的效果。

為了實(shí)現(xiàn)上述目的，本發(fā)明技術(shù)方案如下：

一種建立數(shù)據(jù)識別模型的方法，用于根據(jù)包括正、負(fù)樣本的訓(xùn)練樣本建立數(shù)據(jù)識別模型，所述建立數(shù)據(jù)識別模型的方法包括：

采用訓(xùn)練樣本進(jìn)行邏輯回歸訓(xùn)練，得到第一模型；

對訓(xùn)練樣本按比例采樣，獲得第一訓(xùn)練樣本集；

采用訓(xùn)練得到的第一模型對正樣本進(jìn)行識別，從第一模型識別后具有識別結(jié)果的正樣本中選擇出第二訓(xùn)練樣本集；

采用采樣后得到的第一訓(xùn)練樣本集與所述第二訓(xùn)練樣本集進(jìn)行深度神經(jīng)網(wǎng)絡(luò)dnn訓(xùn)練，得到最終的數(shù)據(jù)識別模型。

進(jìn)一步地，所述建立數(shù)據(jù)識別模型的方法，在進(jìn)行按比例采樣或進(jìn)行邏輯回歸訓(xùn)練前，還包括：

對訓(xùn)練樣本進(jìn)行特征工程預(yù)處理。

進(jìn)一步地，所述建立數(shù)據(jù)識別模型的方法，在采用訓(xùn)練樣本進(jìn)行邏輯回歸訓(xùn)練之前，還包括：

對訓(xùn)練樣本進(jìn)行特征篩選，所述特征篩選通過計(jì)算特征的信息值，去除信息值小于設(shè)定閾值的特征。

優(yōu)選地，所述從第一模型識別后具有識別結(jié)果的正樣本中選擇出第二訓(xùn)練樣本集之前，還包括：

采用第一訓(xùn)練樣本集進(jìn)行dnn訓(xùn)練，得到第二模型。

進(jìn)一步地，所述從第一模型識別后具有識別結(jié)果的正樣本中選擇出第二訓(xùn)練樣本集，包括：

對訓(xùn)練得到的第一模型進(jìn)行評估，得到第一模型對應(yīng)的roc曲線；

對訓(xùn)練得到的第二模型進(jìn)行評估，得到第二模型對應(yīng)的roc曲線；

根據(jù)第一模型與第二模型roc曲線的交點(diǎn)對應(yīng)的閾值概率，從第一模型識別后具有識別結(jié)果的正樣本中選擇出概率小于所述閾值概率的樣本作為第二訓(xùn)練樣本集。

本發(fā)明優(yōu)選地選擇第二訓(xùn)練樣本集的方法能夠選擇出更加符合訓(xùn)練要求的樣本，提高最終數(shù)據(jù)識別模型的穩(wěn)定性。

本發(fā)明還提出了一種建立數(shù)據(jù)識別模型的裝置，用于根據(jù)包括正、負(fù)樣本的訓(xùn)練樣本建立數(shù)據(jù)識別模型，所述裝置包括：

第一訓(xùn)練模塊，用于采用訓(xùn)練樣本進(jìn)行邏輯回歸訓(xùn)練，得到第一模型；

采樣模塊，用于對訓(xùn)練樣本按比例采樣，獲得第一訓(xùn)練樣本集；

選擇模塊，用于采用訓(xùn)練得到的第一模型對正樣本進(jìn)行識別，從第一模型識別后具有識別結(jié)果的正樣本中選擇出第二訓(xùn)練樣本集；

最終模型訓(xùn)練模塊，用于采用采樣后得到的第一訓(xùn)練樣本集與所述第二訓(xùn)練樣本集進(jìn)行深度神經(jīng)網(wǎng)絡(luò)dnn訓(xùn)練，得到最終的數(shù)據(jù)識別模型。

進(jìn)一步地，所述裝置還包括：

預(yù)處理模塊，用于在進(jìn)行按比例采樣或進(jìn)行邏輯回歸訓(xùn)練前，對訓(xùn)練樣本進(jìn)行特征工程預(yù)處理。

進(jìn)一步地，所述裝置還包括：

特征篩選模塊，用于在采用訓(xùn)練樣本進(jìn)行邏輯回歸訓(xùn)練之前，對訓(xùn)練樣本進(jìn)行特征篩選，所述特征篩選通過計(jì)算特征的信息值，去除信息值小于設(shè)定閾值的特征。

優(yōu)選地，本發(fā)明所述裝置還包括：

第二訓(xùn)練模塊，用于采用第一訓(xùn)練樣本集進(jìn)行dnn訓(xùn)練，得到第二模型。

進(jìn)一步地，所述選擇模塊從第一模型識別后具有識別結(jié)果的正樣本中選擇出第二訓(xùn)練樣本集時(shí)，執(zhí)行如下操作：

對訓(xùn)練得到的第一模型進(jìn)行評估，得到第一模型對應(yīng)的roc曲線；

對訓(xùn)練得到的第二模型進(jìn)行評估，得到第二模型對應(yīng)的roc曲線；

根據(jù)第一模型與第二模型roc曲線的交點(diǎn)對應(yīng)的閾值概率，從第一模型識別后具有識別結(jié)果的正樣本中選擇出概率小于所述閾值概率的樣本作為第二訓(xùn)練樣本集。

本發(fā)明提出的一種建立數(shù)據(jù)識別模型的方法及裝置，通過對全部訓(xùn)練樣本進(jìn)行特征工程預(yù)處理以及特征篩選，并根據(jù)邏輯回歸訓(xùn)練得到的第一模型識別結(jié)果和采用第一訓(xùn)練樣本集進(jìn)行dnn訓(xùn)練的結(jié)果，從具有識別結(jié)果的所有正樣本中選擇出第二訓(xùn)練樣本集，來結(jié)合深度神經(jīng)網(wǎng)絡(luò)訓(xùn)練得到最終的數(shù)據(jù)識別模型，提高了模型的穩(wěn)定性。

附圖說明

圖1為本發(fā)明建立數(shù)據(jù)識別模型的方法流程圖；

圖2為本發(fā)明數(shù)據(jù)識別模型評估效果對照圖；

圖3為本發(fā)明建立數(shù)據(jù)識別模型的裝置結(jié)構(gòu)示意圖。

具體實(shí)施方式

下面結(jié)合附圖和實(shí)施例對本發(fā)明技術(shù)方案做進(jìn)一步詳細(xì)說明，以下實(shí)施例不構(gòu)成對本發(fā)明的限定。

如圖1所示，本實(shí)施例一種建立數(shù)據(jù)識別模型的方法，包括：

步驟s1、對訓(xùn)練樣本進(jìn)行特征工程預(yù)處理。

對于獲取的全部訓(xùn)練樣本，由于樣本中的特征有些值缺失，或者偏差超出正常的范圍，會影響到后續(xù)的訓(xùn)練，通常需要對樣本進(jìn)行特征工程處理。本實(shí)施例首先對樣本進(jìn)行特征工程預(yù)處理，即對樣本的特征進(jìn)行數(shù)據(jù)替換和清洗，剔除無意義特征。例如對樣本中缺失的特征進(jìn)行數(shù)據(jù)替換等。

步驟s2、對預(yù)處理后的訓(xùn)練樣本進(jìn)行特征篩選，采用特征篩選后的訓(xùn)練樣本進(jìn)行邏輯回歸訓(xùn)練，采用訓(xùn)練得到的第一模型對正樣本進(jìn)行識別。

全部訓(xùn)練樣本中包括正樣本和負(fù)樣本，本實(shí)施例以虛假交易為例來進(jìn)行說明，正樣本表示是虛假交易的樣本，負(fù)樣本表示不是虛假交易的樣本。

在模型識別中，因?yàn)橛行┨卣髋c最終識別結(jié)果關(guān)系不大，若把這些特征作為變量會使得模型識別結(jié)果變差，或一般情況下應(yīng)使特征數(shù)大大小于樣本數(shù)，所以有必要采用特征篩選來篩選掉不重要甚至有負(fù)作用的特征。進(jìn)行特征篩選的方法很多，例如有最近鄰算法、偏最小二乘法等。本實(shí)施例優(yōu)選地通過采用信息值iv(informationvalue)來對樣本的特征進(jìn)行篩選。通過計(jì)算樣本每個(gè)特征對應(yīng)的信息值，將特征對應(yīng)的信息值小于設(shè)定閾值的樣本特征去除，減少其對樣本分布的影響。

本實(shí)施例計(jì)算樣本特征對應(yīng)的信息值是根據(jù)所有訓(xùn)練樣本的特征來計(jì)算，假設(shè)一條訓(xùn)練樣本的特征包括{feature1、feature2、…、featurem}，對于其中的一個(gè)特征featurei，i屬于(1～m)，m為特征數(shù)量。所有訓(xùn)練樣本對應(yīng)該featurei的值為{i1，i2，…，in}，n為訓(xùn)練樣本總數(shù)。

則可以根據(jù)featurei的值進(jìn)行分組，例如將featurei的值為a的劃分為一組，這樣將fenturei分為k組，根據(jù)如下公式計(jì)算特征featurei的信息值iv：

其中，disgoodki為樣本組中負(fù)樣本數(shù)量，disbadki為樣本組中正樣本數(shù)量。本實(shí)施例不限定哪個(gè)為負(fù)樣本數(shù)量，哪個(gè)為正樣本數(shù)量，即也可以用disgoodki表示正樣本數(shù)量，disbadki表示負(fù)樣本數(shù)量。從而可以根據(jù)特征對應(yīng)的信息值來篩選特征，將對應(yīng)信息值小于設(shè)定閾值的特征舍棄，保留對結(jié)果有影響的特征用來進(jìn)行后續(xù)的訓(xùn)練，提高訓(xùn)練模型的可靠性。

在進(jìn)行特征篩選后，采用特征篩選后的全部訓(xùn)練樣本進(jìn)行邏輯回歸訓(xùn)練得到第一模型，該模型即為現(xiàn)有技術(shù)方案中采用的識別模型。本發(fā)明在此基礎(chǔ)上進(jìn)一步訓(xùn)練以得到更加可靠的模型。一般來說采用特征篩選后的全部訓(xùn)練樣本進(jìn)行邏輯回歸訓(xùn)練得到第一模型穩(wěn)定性比較好，可以選擇其中的一些樣本來進(jìn)行后續(xù)的訓(xùn)練，以使得后續(xù)訓(xùn)練得到的模型具有較好的穩(wěn)定性。衡量模型穩(wěn)定性一般采用top抓壞率指標(biāo)，top抓壞率可以根 據(jù)模型識別樣本得到的虛假交易概率來進(jìn)行計(jì)算。

為此，本實(shí)施例采用訓(xùn)練得到的第一模型對所有正樣本進(jìn)行識別，得到每個(gè)訓(xùn)練樣本對應(yīng)的為虛假交易的概率，記所有正樣本及其識別得到的概率為訓(xùn)練集合b，即通過第一模型識別后具有識別結(jié)果的正樣本。在后續(xù)步驟中根據(jù)識別結(jié)果從訓(xùn)練集合b中選擇一部分訓(xùn)練樣本作為后續(xù)的訓(xùn)練用。

步驟s3、對預(yù)處理后的訓(xùn)練樣本按比例采樣，采用采樣后得到的第一訓(xùn)練樣本集進(jìn)行dnn訓(xùn)練，得到第二模型。

為了從訓(xùn)練集合b中選擇一部分訓(xùn)練樣本作為后續(xù)的訓(xùn)練用，可以直接從訓(xùn)練集合b中選擇識別準(zhǔn)確的樣本作為后續(xù)訓(xùn)練采用的第二訓(xùn)練樣本集。

本實(shí)施例優(yōu)選地對預(yù)處理后的全部訓(xùn)練樣本按比例采樣得到訓(xùn)練集合a(第一訓(xùn)練樣本集)，例如正負(fù)樣本的比例為1：10。在操作中，先選擇出所有的正樣本，然后從負(fù)樣本中選擇足夠多的負(fù)樣本，保持1：10的比例。然后采用采樣后得到的第一訓(xùn)練樣本集進(jìn)行dnn訓(xùn)練，可以得到一個(gè)第二模型。深度神經(jīng)網(wǎng)絡(luò)dnn(deepneuralnetworks)是近年來機(jī)器學(xué)習(xí)領(lǐng)域中的研究熱點(diǎn)，dnn訓(xùn)練廣泛應(yīng)用在語音識別及其他數(shù)據(jù)分類上，關(guān)于dnn訓(xùn)練的內(nèi)容這里不再贅述。

在后續(xù)步驟中根據(jù)第二模型的訓(xùn)練結(jié)果與第一模型的訓(xùn)練結(jié)果從訓(xùn)練集合b中選擇第二訓(xùn)練樣本集。

根據(jù)實(shí)驗(yàn)得到的經(jīng)驗(yàn)，第二模型的識別結(jié)果穩(wěn)定性不夠。而結(jié)合第二訓(xùn)練樣本集在后續(xù)步驟中進(jìn)行訓(xùn)練能夠得到穩(wěn)定性好的最終數(shù)據(jù)識別模型。

需要說明的是，本實(shí)施例對全部訓(xùn)練樣本進(jìn)行特征工程預(yù)處理，以及采用特征篩選來篩選掉不重要甚至有負(fù)作用的特征，都是為了訓(xùn)練得到的模型更加可靠。在具體的實(shí)施例中，可以在訓(xùn)練得到第一模型和訓(xùn)練得到第二模型時(shí)都需要對訓(xùn)練樣本進(jìn)行預(yù)處理和特征篩選，也可以僅在訓(xùn)練得到第一模型時(shí)進(jìn)行特征篩選，而在訓(xùn)練第二模型時(shí)不進(jìn)行特征篩選。容易理解的是，即使不進(jìn)行特征工程預(yù)處理及特征篩選，也能提高訓(xùn)練得到的 模型的識別效果，使得訓(xùn)練得到的模型的識別效果好于現(xiàn)有技術(shù)，這里不再贅述。

步驟s4、根據(jù)采用第一訓(xùn)練樣本集進(jìn)行dnn訓(xùn)練的結(jié)果與采用第一模型對正樣本進(jìn)行識別的結(jié)果，從第一模型識別后具有識別結(jié)果的正樣本中選擇出第二訓(xùn)練樣本集。

roc曲線是顯示模型真正率和假正率的一種圖形化方法，常用來評估模型的效果，roc曲線上每個(gè)點(diǎn)對應(yīng)有三個(gè)值，分別為縱坐標(biāo)真正率(truepositiverate，tpr)、橫坐標(biāo)假正率(falsepositiverate，fpr)和閾值概率。真正率(truepositiverate，tpr)是指被模型預(yù)測為正的正樣本與正樣本實(shí)際數(shù)量的比率；假正率(falsepositiverate，fpr)是指被模型預(yù)測為正的負(fù)樣本與負(fù)樣本實(shí)際數(shù)量的比率；閾值概率是用來判定預(yù)測結(jié)果為正的判定閾值，如果樣本預(yù)測的結(jié)果大于該閾值概率則判定為正，否則判定為負(fù)。模型的預(yù)測效果越好，其tpr越接近于1，fpr越接近于0。

本實(shí)施例從訓(xùn)練集合b中選擇一部分訓(xùn)練樣本作為后續(xù)的訓(xùn)練用，選擇的具體方法包括：

對訓(xùn)練得到的第二模型進(jìn)行評估，得到第二模型對應(yīng)的roc曲線；

對訓(xùn)練得到的第一模型進(jìn)行評估，得到第一模型對應(yīng)的roc曲線；

根據(jù)第一模型與第二模型roc曲線的交點(diǎn)對應(yīng)的閾值概率，選擇訓(xùn)練集合b中概率小于該閾值概率的樣本，作為第二訓(xùn)練樣本集。

需要說明的是，選擇的第二訓(xùn)練樣本集中的樣本數(shù)量小于第一訓(xùn)練樣本集中的正樣本數(shù)量，最多不超過第一訓(xùn)練樣本集中的正樣本數(shù)量，這樣是為了保證正負(fù)樣本的比例，以防止正樣本過多導(dǎo)致模型整體效果變差。

選擇第二訓(xùn)練樣本集還可以根據(jù)模型評估得到的概率，從訓(xùn)練集合b中按照概率從大到小順序選擇一定數(shù)量的樣本第二訓(xùn)練樣本集?；蛘吒鶕?jù)經(jīng)驗(yàn)設(shè)定一個(gè)閾值，從訓(xùn)練集合b中選擇概率大于該閾值的樣本作為第二訓(xùn)練樣本集。本發(fā)明優(yōu)選地根據(jù)roc曲線的交點(diǎn)進(jìn)行選擇，能夠保證在后續(xù)的訓(xùn)練中得到更好的結(jié)果。

步驟s5、采用第一訓(xùn)練樣本集和第二訓(xùn)練樣本集進(jìn)行dnn訓(xùn)練得到 最終的數(shù)據(jù)識別模型。

最后采用第一訓(xùn)練樣本集和第二訓(xùn)練樣本集進(jìn)行dnn訓(xùn)練得到最終的數(shù)據(jù)識別模型，關(guān)于dnn深度學(xué)習(xí)訓(xùn)練模型，這里不再贅述。如圖2所示的roc曲線表明，本實(shí)施例訓(xùn)練得到的最終的數(shù)據(jù)識別模型效果遠(yuǎn)遠(yuǎn)好于直接通過邏輯回歸訓(xùn)練得到的第一模型效果。圖2中上面的曲線為本實(shí)施例訓(xùn)練得到的最終的數(shù)據(jù)識別模型對應(yīng)的roc曲線，下面的曲線為直接通過邏輯回歸訓(xùn)練得到的第一模型對應(yīng)的roc曲線。

通過對最終數(shù)據(jù)識別模型top抓壞率的計(jì)算，可以發(fā)現(xiàn)本實(shí)施例提出的建立數(shù)據(jù)識別模型的方法大大提高了模型的穩(wěn)定性。

如圖3所示，本實(shí)施例還提出了一種建立數(shù)據(jù)識別模型的裝置，用于根據(jù)包括正、負(fù)樣本的訓(xùn)練樣本建立數(shù)據(jù)識別模型，該裝置包括：

第一訓(xùn)練模塊，用于采用訓(xùn)練樣本進(jìn)行邏輯回歸訓(xùn)練，得到第一模型；

采樣模塊，用于對訓(xùn)練樣本按比例采樣，獲得第一訓(xùn)練樣本集；

選擇模塊，用于采用訓(xùn)練得到的第一模型對正樣本進(jìn)行識別，從第一模型識別后具有識別結(jié)果的正樣本中選擇出第二訓(xùn)練樣本集；

最終模型訓(xùn)練模塊，用于采用采樣后得到的第一訓(xùn)練樣本集與所述第二訓(xùn)練樣本集進(jìn)行深度神經(jīng)網(wǎng)絡(luò)dnn訓(xùn)練，得到最終的數(shù)據(jù)識別模型。

與上述方法對應(yīng)地，容易理解的是，本裝置還包括：

預(yù)處理模塊，用于在進(jìn)行按比例采樣或進(jìn)行邏輯回歸訓(xùn)練前，對訓(xùn)練樣本進(jìn)行特征工程預(yù)處理。

以及，本裝置還包括：

特征篩選模塊，用于在采用訓(xùn)練樣本進(jìn)行邏輯回歸訓(xùn)練之前，對訓(xùn)練樣本進(jìn)行特征篩選，所述特征篩選通過計(jì)算特征的信息值，去除信息值小于設(shè)定閾值的特征。

優(yōu)選地，本裝置還包括：

第二訓(xùn)練模塊，用于采用第一訓(xùn)練樣本集進(jìn)行dnn訓(xùn)練，得到第二模型。

則本實(shí)施例采用優(yōu)選的方法來選擇第二訓(xùn)練數(shù)據(jù)集，選擇模塊從第一模型識別后具有識別結(jié)果的正樣本中選擇出第二訓(xùn)練樣本集時(shí)，執(zhí)行如下 操作：

對訓(xùn)練得到的第一模型進(jìn)行評估，得到第一模型對應(yīng)的roc曲線；

對訓(xùn)練得到的第二模型進(jìn)行評估，得到第二模型對應(yīng)的roc曲線；

根據(jù)第一模型與第二模型roc曲線的交點(diǎn)對應(yīng)的閾值概率，從第一模型識別后具有識別結(jié)果的正樣本中選擇出概率小于所述閾值概率的樣本作為第二訓(xùn)練樣本集。

以上實(shí)施例僅用以說明本發(fā)明的技術(shù)方案而非對其進(jìn)行限制，在不背離本發(fā)明精神及其實(shí)質(zhì)的情況下，熟悉本領(lǐng)域的技術(shù)人員當(dāng)可根據(jù)本發(fā)明作出各種相應(yīng)的改變和變形，但這些相應(yīng)的改變和變形都應(yīng)屬于本發(fā)明所附的權(quán)利要求的保護(hù)范圍。