舉報信息的處理方法及裝置制造方法
【專利摘要】本發(fā)明公開一種舉報信息的處理方法及裝置，本發(fā)明實施例實時接收舉報信息；根據(jù)被舉報用戶信息和舉報用戶信息，分別調(diào)用被舉報用戶對應(yīng)的歷史數(shù)據(jù)和舉報用戶對應(yīng)的歷史數(shù)據(jù)；解析被舉報用戶的歷史數(shù)據(jù)、舉報用戶的歷史數(shù)據(jù)及舉報內(nèi)容，獲取解析結(jié)果；在解析結(jié)果滿足實時反饋條件時，設(shè)置所述舉報內(nèi)容的可見范圍；相較于現(xiàn)有技術(shù)中服務(wù)器接收到舉報信息后，先識別舉報信息再采取相應(yīng)措施的方法，本發(fā)明實施例具有及時控制舉報信息的可見范圍的有益效果，避免了尚未確認(rèn)的舉報信息的傳播和擴散。
【專利說明】舉報信息的處理方法及裝置

【技術(shù)領(lǐng)域】
[0001]本發(fā)明涉及通信領(lǐng)域，尤其涉及一種舉報信息的處理方法及裝置。

【背景技術(shù)】
[0002]隨著SNS (Social Networking Services,社會性網(wǎng)絡(luò)服務(wù))網(wǎng)絡(luò)的迅速發(fā)展,媒體社交工具如博客、微博以及即時通訊軟件如QQ、微信等傳播手段越來越豐富且傳播時效性也越來越強，這使得色情、詐騙、謠言、惡意廣告等不良信息的清理難度也越來越大，為了更有效地維護(hù)網(wǎng)絡(luò)環(huán)境，各互聯(lián)網(wǎng)應(yīng)用均提供了用戶舉報接口，供用戶舉報所遇到的不良信息?，F(xiàn)有不良信息的舉報方法為用戶在看到不良信息之后，通過舉報接口將舉報的相關(guān)數(shù)據(jù)提交到系統(tǒng)后臺，由系統(tǒng)后臺或?qū)徍巳藛T進(jìn)行識別判定，且經(jīng)過識別判定后才會對舉報信息進(jìn)行處理并將反饋給用戶，這一過程通常需要一定的時長；而處理期間的時延很可能導(dǎo)致不良信息已被傳播并擴散出去，舉報信息得不到及時處理。


【發(fā)明內(nèi)容】

[0003]鑒于此，有必要提供一種舉報信息的處理方法及裝置，以便及時控制舉報信息的可見范圍，避免尚未確認(rèn)的舉報信息的傳播和擴散。
[0004]本發(fā)明實施例公開了一種舉報信息的處理方法，包括以下步驟:
[0005]實時接收舉報信息，所述舉報信息包括被舉報用戶信息、舉報內(nèi)容以及舉報用戶信息；
[0006]根據(jù)所述被舉報用戶信息和舉報用戶信息，分別調(diào)用被舉報用戶對應(yīng)的歷史數(shù)據(jù)和舉報用戶對應(yīng)的歷史數(shù)據(jù)；
[0007]解析所述被舉報用戶的歷史數(shù)據(jù)、舉報用戶的歷史數(shù)據(jù)及所述舉報內(nèi)容，獲取解析結(jié)果；
[0008]在所述解析結(jié)果滿足實時反饋條件時，設(shè)置所述舉報內(nèi)容的可見范圍。
[0009]本發(fā)明實施例還公開了一種舉報信息的處理裝置，包括:
[0010]數(shù)據(jù)接收模塊，用于實時接收舉報信息，所述舉報信息包括被舉報用戶信息、舉報內(nèi)容以及舉報用戶信息；
[0011]數(shù)據(jù)調(diào)用模塊，用于根據(jù)所述被舉報用戶信息和舉報用戶信息，分別調(diào)用被舉報用戶對應(yīng)的歷史數(shù)據(jù)和舉報用戶對應(yīng)的歷史數(shù)據(jù)；
[0012]數(shù)據(jù)解析模塊，用于解析所述被舉報用戶的歷史數(shù)據(jù)、舉報用戶的歷史數(shù)據(jù)及所述舉報內(nèi)容，獲取解析結(jié)果；
[0013]數(shù)據(jù)處理模塊，用于在所述解析結(jié)果滿足實時反饋條件時，設(shè)置所述舉報內(nèi)容的可見范圍。
[0014]本發(fā)明實施例實時接收舉報信息；根據(jù)被舉報用戶信息和舉報用戶信息，分別調(diào)用被舉報用戶對應(yīng)的歷史數(shù)據(jù)和舉報用戶對應(yīng)的歷史數(shù)據(jù)；解析被舉報用戶的歷史數(shù)據(jù)、舉報用戶的歷史數(shù)據(jù)及舉報內(nèi)容，獲取解析結(jié)果；在解析結(jié)果滿足實時反饋條件時，設(shè)置所述舉報內(nèi)容的可見范圍；相較于現(xiàn)有技術(shù)中服務(wù)器接收到舉報信息后，先識別舉報信息再采取相應(yīng)措施的方法，本發(fā)明實施例具有及時控制舉報信息的可見范圍的有益效果，避免了尚未確認(rèn)的舉報信息的傳播和擴散。

【專利附圖】

【附圖說明】
[0015]圖1是本發(fā)明舉報信息的處理方法第一實施例流程示意圖；
[0016]圖2是本發(fā)明舉報信息的處理方法第二實施例流程示意圖；
[0017]圖3是本發(fā)明舉報信息的處理方法第三實施例流程示意圖；
[0018]圖4是本發(fā)明舉報信息的處理裝置第一實施例功能模塊示意圖；
[0019]圖5是本發(fā)明舉報信息的處理裝置第二實施例功能模塊示意圖；
[0020]圖6是本發(fā)明舉報信息的處理裝置第三實施例功能模塊示意圖。
[0021]本發(fā)明實施例目的的實現(xiàn)、功能特點及優(yōu)點將結(jié)合實施例，參照附圖做進(jìn)一步說明。

【具體實施方式】
[0022]以下結(jié)合說明書附圖及具體實施例進(jìn)一步說明本發(fā)明的技術(shù)方案。應(yīng)當(dāng)理解，此處所描述的具體實施例僅僅用以解釋本發(fā)明，并不用于限定本發(fā)明。
[0023]圖1是本發(fā)明舉報信息的處理方法第一實施例流程示意圖；
[0024]步驟S01、實時接收舉報信息；
[0025]服務(wù)端響應(yīng)用戶在預(yù)先配置的舉報程序接口輸入的舉報指令，實時接收用戶的舉報信息。由于目前各網(wǎng)絡(luò)應(yīng)用均設(shè)置了對應(yīng)的舉報程序接口，因此用戶一旦發(fā)現(xiàn)不良信息或者不健康的內(nèi)容，便能在第一時間對上述信息進(jìn)行舉報；比如某社交網(wǎng)站在用戶A主頁的個人信息一欄設(shè)置一舉報控件，其他用戶如用戶B認(rèn)為該用戶A的主頁上由用戶A發(fā)布的某一條信息包含不健康內(nèi)容，則用戶B對該條信息進(jìn)行舉報時，只需單擊用戶A主頁上的舉報控件，即觸發(fā)了對用戶A的舉報指令；服務(wù)端便根據(jù)接收到舉報指令，接收用戶B對用戶A的舉報信息。
[0026]本實施例中，服務(wù)端接收的舉報信息包括被舉報用戶信息、舉報內(nèi)容以及舉報用戶信息；該被舉報用戶信息包括被舉報用戶的用戶名和特征信息，該特征信息與用戶名對應(yīng)，并唯一確定一個用戶名，該用戶名也可以理解為被舉報用戶登錄時的個人賬號；同樣地，舉報用戶信息包括舉報用戶的用戶名和特征信息，該特征信息與用戶名對應(yīng)，并唯一確定一個用戶名，該用戶名也可以理解為舉報用戶登錄時的個人賬號。舉報內(nèi)容可以理解為舉報用戶所舉報的不符合中華人民共和國相關(guān)互聯(lián)網(wǎng)規(guī)范的不良信息；本發(fā)明實施例中的舉報內(nèi)容多為UGC (User Generated Content,用戶自生成內(nèi)容)數(shù)據(jù)中的不良信息。
[0027]步驟S02、根據(jù)被舉報用戶信息和舉報用戶信息，分別調(diào)用被舉報用戶對應(yīng)的歷史數(shù)據(jù)和舉報用戶對應(yīng)的歷史數(shù)據(jù)；
[0028]服務(wù)端根據(jù)被舉報用戶信息，調(diào)用數(shù)據(jù)庫中被舉報用戶對應(yīng)的歷史數(shù)據(jù)；根據(jù)舉報用戶信息，調(diào)用數(shù)據(jù)庫中舉報用戶對應(yīng)的歷史數(shù)據(jù)。
[0029]被舉報用戶的歷史數(shù)據(jù)包括:被舉報用戶在預(yù)設(shè)時長(如一周內(nèi))產(chǎn)生的行為數(shù)據(jù)、被舉報次數(shù)和被舉報成功率以及對應(yīng)的被舉報用戶的信譽度；舉報用戶的歷史數(shù)據(jù)包括:舉報用戶在預(yù)設(shè)時長(如一周內(nèi))產(chǎn)生的行為數(shù)據(jù)、舉報次數(shù)和舉報成功率以及對應(yīng)的舉報人的信譽度。
[0030]本實施例中的信譽度可以理解為用戶在一定時長內(nèi)(如一個月內(nèi)或者一周內(nèi))的行為對互聯(lián)網(wǎng)環(huán)境所產(chǎn)生的好的影響；信譽度越高，表示該用戶在這段時長內(nèi)所發(fā)布的信息起到了積極作用并產(chǎn)生了有益影響；信譽度越低，表示該用戶在這段時長內(nèi)所發(fā)布的信息起到了消極并產(chǎn)生了不利影響。信譽度的量化可以根據(jù)用戶發(fā)布該信息后，其他用戶針對該信息所發(fā)表的評論及對該信息的轉(zhuǎn)載次數(shù)等。
[0031]步驟S03、解析被舉報用戶的歷史數(shù)據(jù)、舉報用戶的歷史數(shù)據(jù)及舉報內(nèi)容，獲取解析結(jié)果；
[0032]步驟S04、設(shè)置舉報內(nèi)容的可見范圍。
[0033]服務(wù)端解析被舉報用戶的歷史數(shù)據(jù)、舉報用戶的歷史數(shù)據(jù)及舉報內(nèi)容，并對舉報內(nèi)容、舉報用戶的行為數(shù)據(jù)和信譽度、被舉報用戶的行為數(shù)據(jù)和信譽度、被舉報人的個人賬號是否被非法盜用等多維度進(jìn)行綜合評估，獲取解析結(jié)果；并根據(jù)解析結(jié)果是否滿足實時反饋條件，對舉報內(nèi)容進(jìn)行相應(yīng)處理。在解析結(jié)果滿足實時反饋條件時，設(shè)置舉報內(nèi)容的可見范圍，比如僅設(shè)置為被舉報用戶好友列表中的用戶可見，或者僅設(shè)置為被舉報用戶個人可見，或者僅設(shè)置為舉報用戶可見，或者設(shè)置為對所有用戶均不可見。在實際的應(yīng)用環(huán)境中，若服務(wù)端將該被舉報內(nèi)容設(shè)置為對被舉報用戶不可見，則被舉報用戶為了達(dá)到散播非法信息的目的，可能會采用其他賬號繼續(xù)發(fā)布該被舉報內(nèi)容，因此為了避免該被舉報用戶采用其他賬號繼續(xù)發(fā)布該被舉報內(nèi)容，同時及時反饋舉報用戶該舉報內(nèi)容已得到及時處理，服務(wù)器可以設(shè)置該舉報內(nèi)容僅為被舉報用戶可見。服務(wù)端在接收到舉報信息的第一時間即對其進(jìn)行相應(yīng)處理，提高了舉報內(nèi)容處理的時效性。
[0034]在解析結(jié)果不滿足實時反饋條件時，服務(wù)端按照正常的處理流程進(jìn)行處理，比如對上述舉報內(nèi)容進(jìn)行識別后，再進(jìn)行處理。
[0035]本實施例中，服務(wù)端識別獲取的解析結(jié)果滿足實時反饋條件包括:
[0036]服務(wù)端解析出被舉報用戶在預(yù)設(shè)時長內(nèi)被舉報次數(shù)達(dá)到第一預(yù)設(shè)閾值和/或被舉報成功率達(dá)到第一預(yù)設(shè)百分率和/或被舉報用戶的信譽度低于第一預(yù)設(shè)信譽度值，則識別解析結(jié)果滿足實時反饋條件；比如，在一周之內(nèi)，被舉報用戶一共被舉報次數(shù)已超過50次；或者，其他用戶對被舉報用戶進(jìn)行舉報的成功率達(dá)到了 80%;或者，被舉報用戶的信譽度低于50% ;只要滿足上述三個條件中的至少一個，則識別解析結(jié)果滿足實時反饋條件。
[0037]服務(wù)端解析出舉報用戶在預(yù)設(shè)時長內(nèi)舉報次數(shù)小于第二預(yù)設(shè)閾值和/或舉報成功率達(dá)到第二預(yù)設(shè)百分率和/或舉報用戶的信譽度高于第二預(yù)設(shè)信譽度值，則解析結(jié)果滿足實時反饋條件；比如，在一周之內(nèi)，舉報用戶舉報的總舉報次數(shù)不超過20次；或者，該舉報用戶對惡意用戶的舉報成功率達(dá)到了 85% ;或者，該舉報用戶的信譽度高于90% ;只要滿足上述三個條件中的至少一個，則識別解析結(jié)果滿足實時反饋條件。
[0038]服務(wù)端解析出被舉報用戶在預(yù)設(shè)時長內(nèi)產(chǎn)生的行為數(shù)據(jù)與惡意信息數(shù)據(jù)庫中已存儲的數(shù)據(jù)匹配時，則識別解析結(jié)果滿足實時反饋條件；比如，服務(wù)端解析出舉報內(nèi)容中包含的圖片與惡意數(shù)據(jù)庫中已存儲的圖片的相似度達(dá)到90%以上，則認(rèn)為與惡意數(shù)據(jù)庫中已存儲的圖片相匹配，則識別解析結(jié)果滿足實時反饋條件。
[0039]在一典型的應(yīng)用場景中，比如，微博應(yīng)用程序中，一舉報信譽度高達(dá)95%的用戶老紅軍對一些經(jīng)常發(fā)送不良消息的用戶進(jìn)行舉報，則服務(wù)端接收到老紅軍發(fā)送的舉報內(nèi)容時，會在第一時間內(nèi)將舉報內(nèi)容設(shè)置為被舉報人自己可見，控制不良信息不被擴散；同時，在第一時間內(nèi)向用戶反饋處理結(jié)果；在維護(hù)網(wǎng)絡(luò)環(huán)境的同時，提高了人機的可交互性。
[0040]本發(fā)明實施例實時接收舉報信息；根據(jù)被舉報用戶信息和舉報用戶信息，分別調(diào)用被舉報用戶對應(yīng)的歷史數(shù)據(jù)和舉報用戶對應(yīng)的歷史數(shù)據(jù)；解析被舉報用戶的歷史數(shù)據(jù)、舉報用戶的歷史數(shù)據(jù)及舉報內(nèi)容，獲取解析結(jié)果；在解析結(jié)果滿足實時反饋條件時，設(shè)置所述舉報內(nèi)容的可見范圍；具有及時控制舉報信息的可見范圍的有益效果，避免了尚未確認(rèn)的舉報信息的傳播和擴散。
[0041]圖2是本發(fā)明舉報信息的處理方法第二實施例流程示意圖；本實施例與圖1所述實施例的區(qū)別是，增加了步驟S05和步驟S06 ;本實施例僅對步驟S05和步驟S06進(jìn)行描述，有關(guān)本發(fā)明舉報信息的處理方法所涉及的其他步驟請參照圖1所述實施例的具體描述，在此不再贅述。
[0042]基于圖1所述實施例的具體描述，如圖2所示，本發(fā)明舉報信息的處理方法在步驟S04、設(shè)置舉報內(nèi)容的可見范圍，之后還包括:
[0043]步驟S05、識別舉報內(nèi)容；
[0044]步驟S06、設(shè)置舉報內(nèi)容為正?？梢姞顟B(tài)。
[0045]服務(wù)端對舉報用戶所舉報的內(nèi)容進(jìn)行實時響應(yīng)后，為避免誤判，將對舉報用戶發(fā)送的舉報內(nèi)容進(jìn)行識別；在舉報內(nèi)容為合法信息時，設(shè)置舉報內(nèi)容為正?？梢姞顟B(tài)。
[0046]本實施例中，服務(wù)端識別舉報內(nèi)容包括，遍歷已存儲的惡意數(shù)據(jù)庫，若未查找到任何與舉報內(nèi)容相匹配的數(shù)據(jù)，則識別該舉報內(nèi)容為合法內(nèi)容；遍歷時，可以采用特征匹配的方法進(jìn)行識別；比如，識別舉報內(nèi)容中是否包含惡意數(shù)據(jù)庫中存儲的關(guān)鍵詞、惡意信息的MD5 (Message Digest5,消息摘要)值等。
[0047]進(jìn)一步地，為了確保識別的準(zhǔn)確性，避免漏掉新產(chǎn)生的惡意信息，服務(wù)端可以發(fā)送通知信息，以提醒后臺維護(hù)人員進(jìn)行判斷；服務(wù)端根據(jù)后臺維護(hù)人員的判斷結(jié)果進(jìn)行相應(yīng)處理；比如，識別舉報內(nèi)容為惡意信息時，設(shè)置該惡意信息僅為被舉報人可見，并發(fā)送禁止傳播并刪除該惡意信息的提示信息；同時，將該惡意信息添加至惡意信息數(shù)據(jù)庫。
[0048]本實施例設(shè)置舉報內(nèi)容的可見范圍后，識別舉報內(nèi)容；并在舉報內(nèi)容為合法信息時，設(shè)置舉報內(nèi)容為正?？梢姞顟B(tài)；避免了對舉報內(nèi)容的誤判，提高了舉報內(nèi)容處理的準(zhǔn)確率。
[0049]圖3是本發(fā)明舉報信息的處理方法第三實施例流程示意圖；本實施例與圖1所述實施例的區(qū)別是，在步驟S04、設(shè)置舉報內(nèi)容的可見范圍，之后還包括:
[0050]步驟S11、強制被舉報用戶退出所登錄的個人賬號。
[0051]基于圖3所述實施例的具體描述，如圖3所示，本實施例與圖1所述實施例的區(qū)別是，服務(wù)端在獲取的解析結(jié)果滿足實時反饋條件時，設(shè)置舉報內(nèi)容的可見范圍之后，若獲取的解析結(jié)果還包括被舉報用戶非法登錄，則服務(wù)端強制被舉報用戶退出當(dāng)前所登錄的個人賬號。
[0052]服務(wù)端根據(jù)解析結(jié)果識別被舉報用戶為非法登錄包括，服務(wù)端在一定時間內(nèi)識別該賬號信息在多個不同地點登錄，比如在兩個小時內(nèi)，根據(jù)被舉報用戶的行為數(shù)據(jù)，識別被舉報用戶對應(yīng)的個人賬號分別在廣州、西安和北京三個地理位置相距甚遠(yuǎn)的地方登錄，則識別被舉報用戶為非法登錄；或者，服務(wù)端監(jiān)控到被舉報用戶刪除了所登錄的個人賬號好友列表中的所有好友等異常行為，則識別被舉報用戶為非法登錄。
[0053]為進(jìn)一步維護(hù)良好的互聯(lián)網(wǎng)環(huán)境，服務(wù)端強制退出被舉報用戶所登錄的個人賬號之后，識別被舉報用戶利用非法登錄的個人賬號所發(fā)布的所有信息；在識別被舉報用戶利用非法登錄的個人賬號所發(fā)布的所有信息中有與惡意數(shù)據(jù)庫中已存儲的數(shù)據(jù)匹配的信息時，則刪除所有與惡意數(shù)據(jù)庫匹配的信息。
[0054]本實施例在識別被舉報用戶為非法登錄時，強制退出被舉報用戶所登錄的個人賬號，在保障互聯(lián)網(wǎng)良好環(huán)境的同時，具有維護(hù)用戶個人賬號安全性的有益效果。
[0055]圖4是本發(fā)明舉報信息的處理裝置第一實施例功能模塊示意圖；如圖4所示，本發(fā)明舉報信息的處理裝置包括:數(shù)據(jù)接收模塊01、數(shù)據(jù)調(diào)用模塊02、數(shù)據(jù)解析模塊03和數(shù)據(jù)處理模塊04。
[0056]數(shù)據(jù)接收模塊01，用于實時接收舉報信息，所述舉報信息包括被舉報用戶信息、舉報內(nèi)容以及舉報用戶信息；
[0057]數(shù)據(jù)接收模塊01響應(yīng)用戶在預(yù)先配置的舉報程序接口輸入的舉報指令，實時接收用戶的舉報信息。由于目前各網(wǎng)絡(luò)應(yīng)用均設(shè)置了對應(yīng)的舉報程序接口，因此用戶一旦發(fā)現(xiàn)不良信息或者不健康的內(nèi)容，便能在第一時間對上述信息進(jìn)行舉報；比如某社交網(wǎng)站在用戶A主頁的個人信息一欄設(shè)置一舉報控件，其他用戶如用戶B認(rèn)為該用戶A的主頁上由用戶A發(fā)布的某一條信息包含不健康內(nèi)容，則用戶B對該條信息進(jìn)行舉報時，只需單擊用戶A主頁上的舉報控件，即觸發(fā)了對用戶A的舉報指令；服務(wù)端的數(shù)據(jù)接收模塊01便根據(jù)接收到舉報指令，接收用戶B對用戶A的舉報信息。
[0058]本實施例中，數(shù)據(jù)接收模塊01接收的舉報信息包括被舉報用戶信息、舉報內(nèi)容以及舉報用戶信息；該被舉報用戶信息包括被舉報用戶的用戶名和特征信息，該特征信息與用戶名對應(yīng)，并唯一確定一個用戶名，該用戶名也可以理解為被舉報用戶登錄時的個人賬號；同樣地，舉報用戶信息包括舉報用戶的用戶名和特征信息，該特征信息與用戶名對應(yīng)，并唯一確定一個用戶名，該用戶名也可以理解為舉報用戶登錄時的個人賬號。舉報內(nèi)容可以理解為舉報用戶所舉報的不符合中華人民共和國相關(guān)互聯(lián)網(wǎng)規(guī)范的不良信息；本發(fā)明實施例中的舉報內(nèi)容多為UGC數(shù)據(jù)中的不良信息。
[0059]數(shù)據(jù)調(diào)用模塊02，用于根據(jù)所述被舉報用戶信息和舉報用戶信息，分別調(diào)用被舉報用戶對應(yīng)的歷史數(shù)據(jù)和舉報用戶對應(yīng)的歷史數(shù)據(jù)；
[0060]數(shù)據(jù)調(diào)用模塊02根據(jù)被舉報用戶信息，調(diào)用數(shù)據(jù)庫中被舉報用戶對應(yīng)的歷史數(shù)據(jù)；根據(jù)舉報用戶信息，調(diào)用數(shù)據(jù)庫中舉報用戶對應(yīng)的歷史數(shù)據(jù)。
[0061]被舉報用戶的歷史數(shù)據(jù)包括:被舉報用戶在預(yù)設(shè)時長(如一周內(nèi))產(chǎn)生的行為數(shù)據(jù)、被舉報次數(shù)和被舉報成功率以及對應(yīng)的被舉報用戶的信譽度；舉報用戶的歷史數(shù)據(jù)包括:舉報用戶在預(yù)設(shè)時長(如一周內(nèi))產(chǎn)生的行為數(shù)據(jù)、舉報次數(shù)和舉報成功率以及對應(yīng)的舉報人的信譽度。
[0062]本實施例中的信譽度可以理解為用戶在一定時長內(nèi)(如一個月內(nèi)或者一周內(nèi))的行為對互聯(lián)網(wǎng)環(huán)境所產(chǎn)生的好的影響；信譽度越高，表示該用戶在這段時長內(nèi)所發(fā)布的信息起到了積極作用并產(chǎn)生了有益影響；信譽度越低，表示該用戶在這段時長內(nèi)所發(fā)布的信息起到了消極并產(chǎn)生了不利影響。信譽度的量化可以根據(jù)用戶發(fā)布該信息后，其他用戶針對該信息所發(fā)表的評論及對該信息的轉(zhuǎn)載次數(shù)等。
[0063]數(shù)據(jù)解析模塊03，用于解析所述被舉報用戶的歷史數(shù)據(jù)、舉報用戶的歷史數(shù)據(jù)及所述舉報內(nèi)容，獲取解析結(jié)果；
[0064]數(shù)據(jù)處理模塊04，用于在所述解析結(jié)果滿足實時反饋條件時，設(shè)置所述舉報內(nèi)容的可見范圍。
[0065]數(shù)據(jù)解析模塊03解析被舉報用戶的歷史數(shù)據(jù)、舉報用戶的歷史數(shù)據(jù)及舉報內(nèi)容，并對舉報內(nèi)容、舉報用戶的行為數(shù)據(jù)和信譽度、被舉報用戶的行為數(shù)據(jù)和信譽度、被舉報人的個人賬號是否被非法盜用等多維度進(jìn)行綜合評估，獲取解析結(jié)果；數(shù)據(jù)處理模塊04根據(jù)解析結(jié)果是否滿足實時反饋條件，對舉報內(nèi)容進(jìn)行相應(yīng)處理。在解析結(jié)果滿足實時反饋條件時，數(shù)據(jù)處理模塊04設(shè)置舉報內(nèi)容的可見范圍，比如僅設(shè)置為被舉報用戶好友列表中的用戶可見，或者僅設(shè)置為被舉報用戶可見，或者僅設(shè)置為被舉報用戶個人可見，或者設(shè)置為對所有用戶均不可見。在實際的應(yīng)用環(huán)境中，若服務(wù)端將該被舉報內(nèi)容設(shè)置為對被舉報用戶不可見，則被舉報用戶為了達(dá)到散播非法信息的目的，可能會采用其他賬號繼續(xù)發(fā)布該被舉報內(nèi)容，因此為了避免該被舉報用戶采用其他賬號繼續(xù)發(fā)布該被舉報內(nèi)容，同時及時反饋舉報用戶該舉報內(nèi)容已得到及時處理，服務(wù)器可以設(shè)置該舉報內(nèi)容僅為被舉報用戶可見。服務(wù)端在接收到舉報信息的第一時間即對其進(jìn)行相應(yīng)處理，提高了舉報內(nèi)容處理的時效性。
[0066]在解析結(jié)果不滿足實時反饋條件時，數(shù)據(jù)處理模塊04按照正常的處理流程進(jìn)行處理，比如對上述舉報內(nèi)容進(jìn)行識別后，再進(jìn)行處理。
[0067]本實施例中，數(shù)據(jù)處理模塊04識別獲取的解析結(jié)果滿足實時反饋條件包括:
[0068]數(shù)據(jù)解析模塊03解析出被舉報用戶在預(yù)設(shè)時長內(nèi)被舉報次數(shù)達(dá)到第一預(yù)設(shè)閾值和/或被舉報成功率達(dá)到第一預(yù)設(shè)百分率和/或被舉報用戶的信譽度低于第一預(yù)設(shè)信譽度值，則數(shù)據(jù)處理模塊04識別解析結(jié)果滿足實時反饋條件；比如，在一周之內(nèi)，被舉報用戶一共被舉報次數(shù)已超過50次；或者，其他用戶對被舉報用戶進(jìn)行舉報的成功率達(dá)到了 80% ;或者，被舉報用戶的信譽度低于50% ;只要滿足上述三個條件中的至少一個，則數(shù)據(jù)處理模塊04識別解析結(jié)果滿足實時反饋條件。
[0069]數(shù)據(jù)解析模塊03解析出舉報用戶在預(yù)設(shè)時長內(nèi)舉報次數(shù)小于第二預(yù)設(shè)閾值和/或舉報成功率達(dá)到第二預(yù)設(shè)百分率和/或舉報用戶的信譽度高于第二預(yù)設(shè)信譽度值，則解析結(jié)果滿足實時反饋條件；比如，在一周之內(nèi)，舉報用戶舉報的總舉報次數(shù)不超過20次；或者，該舉報用戶對惡意用戶的舉報成功率達(dá)到了 85% ;或者，該舉報用戶的信譽度高于90% ；只要滿足上述三個條件中的至少一個，則數(shù)據(jù)處理模塊04識別解析結(jié)果滿足實時反饋條件。
[0070]數(shù)據(jù)解析模塊03解析出被舉報用戶在預(yù)設(shè)時長內(nèi)產(chǎn)生的行為數(shù)據(jù)與惡意信息數(shù)據(jù)庫中已存儲的數(shù)據(jù)匹配時，則識別解析結(jié)果滿足實時反饋條件；比如，數(shù)據(jù)解析模塊03解析出舉報內(nèi)容中包含的圖片與惡意數(shù)據(jù)庫中已存儲的圖片的相似度達(dá)到90%以上，數(shù)據(jù)處理模塊04則認(rèn)為與惡意數(shù)據(jù)庫中已存儲的圖片相匹配，則識別解析結(jié)果滿足實時反饋條件。
[0071]在一典型的應(yīng)用場景中，比如，微博應(yīng)用程序中，一舉報信譽度高達(dá)95%的用戶老紅軍對一些經(jīng)常發(fā)送不良消息的用戶進(jìn)行舉報，則數(shù)據(jù)接收模塊01接收到老紅軍發(fā)送的舉報內(nèi)容時，數(shù)據(jù)處理模塊04會在第一時間內(nèi)將舉報內(nèi)容設(shè)置為被舉報人自己可見，控制不良信息不被擴散；同時，數(shù)據(jù)處理模塊04在第一時間內(nèi)向用戶反饋處理結(jié)果；在維護(hù)網(wǎng)絡(luò)環(huán)境的同時，提高了人機的可交互性。
[0072]本發(fā)明實施例實時接收舉報信息；根據(jù)被舉報用戶信息和舉報用戶信息，分別調(diào)用被舉報用戶對應(yīng)的歷史數(shù)據(jù)和舉報用戶對應(yīng)的歷史數(shù)據(jù)；解析被舉報用戶的歷史數(shù)據(jù)、舉報用戶的歷史數(shù)據(jù)及舉報內(nèi)容，獲取解析結(jié)果；在解析結(jié)果滿足實時反饋條件時，設(shè)置所述舉報內(nèi)容的可見范圍；具有及時控制舉報信息的可見范圍的有益效果，避免了尚未確認(rèn)的舉報信息的傳播和擴散。
[0073]圖5是本發(fā)明舉報信息的處理裝置第二實施例功能模塊示意圖；本實施例與圖4所述實施例的區(qū)別是，增加了數(shù)據(jù)識別模塊05 ;基于圖4所述實施例的具體描述，如圖5所示，本發(fā)明舉報信息的處理裝置還包括:
[0074]數(shù)據(jù)識別模塊05，用于識別所述舉報內(nèi)容；在所述舉報內(nèi)容為合法信息時，設(shè)置所述舉報內(nèi)容為正常可見狀態(tài)。
[0075]數(shù)據(jù)處理模塊04對舉報用戶所舉報的內(nèi)容進(jìn)行實時響應(yīng)后，為避免誤判，數(shù)據(jù)識別模塊05將對舉報用戶發(fā)送的舉報內(nèi)容進(jìn)行識別；在舉報內(nèi)容為合法信息時，設(shè)置舉報內(nèi)容為正?？梢姞顟B(tài)。
[0076]本實施例中，數(shù)據(jù)識別模塊05識別舉報內(nèi)容包括，遍歷已存儲的惡意數(shù)據(jù)庫，若未查找到任何與舉報內(nèi)容相匹配的數(shù)據(jù)，則識別該舉報內(nèi)容為合法內(nèi)容；遍歷時，數(shù)據(jù)識別模塊05可以采用特征匹配的方法進(jìn)行識別；比如，識別舉報內(nèi)容中是否包含惡意數(shù)據(jù)庫中存儲的關(guān)鍵詞、惡意信息的MD5 (Message Digest5，消息摘要)值等。
[0077]進(jìn)一步地，為了確保識別的準(zhǔn)確性，避免漏掉新產(chǎn)生的惡意信息，數(shù)據(jù)識別模塊05可以發(fā)送通知信息，以提醒后臺維護(hù)人員進(jìn)行判斷；數(shù)據(jù)處理模塊04根據(jù)后臺維護(hù)人員的判斷結(jié)果進(jìn)行相應(yīng)處理；比如，數(shù)據(jù)處理模塊04識別舉報內(nèi)容為惡意信息時，設(shè)置該惡意信息僅為被舉報人可見，并發(fā)送禁止傳播并刪除該惡意信息的提示信息；同時，將該惡意信息添加至惡意信息數(shù)據(jù)庫。
[0078]本實施例設(shè)置舉報內(nèi)容的可見范圍后，識別舉報內(nèi)容；并在舉報內(nèi)容為合法信息時，設(shè)置舉報內(nèi)容為正?？梢姞顟B(tài)；避免了對舉報內(nèi)容的誤判，提高了舉報內(nèi)容處理的準(zhǔn)確率。
[0079]圖6是本發(fā)明舉報信息的處理裝置第三實施例功能模塊示意圖。本實施例與圖4所述實施例的區(qū)別是，增加了強制退出模塊06 ;基于圖4所述實施例的具體描述，如圖6所示，本發(fā)明舉報信息的處理裝置還包括:
[0080]強制退出模塊06，用于在所述解析結(jié)果為被舉報用戶非法登錄時，強制所述被舉報用戶退出所登錄的個人賬號。
[0081]基于圖4所述實施例的具體描述，如圖6所示，本實施例與圖4所述實施例的區(qū)別是，數(shù)據(jù)處理模塊04在獲取的解析結(jié)果滿足實時反饋條件時，設(shè)置舉報內(nèi)容的可見范圍之后，若數(shù)據(jù)解析模塊03獲取的解析結(jié)果還包括被舉報用戶非法登錄，則強制退出模塊06強制被舉報用戶退出當(dāng)前所登錄的個人賬號。
[0082]數(shù)據(jù)解析模塊03根據(jù)解析結(jié)果識別被舉報用戶為非法登錄包括，數(shù)據(jù)解析模塊03在一定時間內(nèi)識別該賬號信息在多個不同地點登錄，比如在兩個小時內(nèi)，根據(jù)被舉報用戶的行為數(shù)據(jù)，識別被舉報用戶對應(yīng)的個人賬號分別在廣州、西安和北京三個地理位置相距甚遠(yuǎn)的地方登錄，則識別被舉報用戶為非法登錄；或者，數(shù)據(jù)解析模塊03監(jiān)控到被舉報用戶刪除了所登錄的個人賬號好友列表中的所有好友等異常行為，則識別被舉報用戶為非法登錄。
[0083]為進(jìn)一步維護(hù)良好的互聯(lián)網(wǎng)環(huán)境，強制退出模塊06強制退出被舉報用戶所登錄的個人賬號之后，由數(shù)據(jù)處理模塊04識別被舉報用戶利用非法登錄的個人賬號所發(fā)布的所有信息；在數(shù)據(jù)處理模塊04識別被舉報用戶利用非法登錄的個人賬號所發(fā)布的所有信息中有與惡意數(shù)據(jù)庫中已存儲的數(shù)據(jù)匹配的信息時，數(shù)據(jù)處理模塊04刪除所有與惡意數(shù)據(jù)庫匹配的信息。
[0084]本實施例在識別被舉報用戶為非法登錄時，強制退出被舉報用戶所登錄的個人賬號，在保障互聯(lián)網(wǎng)良好環(huán)境的同時，具有維護(hù)用戶個人賬號安全性的有益效果。
[0085]需要說明的是，在本文中，術(shù)語“包括”、“包含”或者其任何其他變體意在涵蓋非排他性的包含，從而使得包括一系列要素的過程、方法、物品或者裝置不僅包括那些要素，而且還包括沒有明確列出的其他要素，或者是還包括為這種過程、方法、物品或者裝置所固有的要素。在沒有更多限制的情況下，由語句“包括一個……”限定的要素，并不排除在包括該要素的過程、方法、物品或者裝置中還存在另外的相同要素。
[0086]上述本發(fā)明實施例序號僅僅為了描述，不代表實施例的優(yōu)劣。
[0087]通過以上的實施方式的描述，本領(lǐng)域的技術(shù)人員可以清楚地了解到上述實施例方法可借助軟件加必需的通用硬件平臺的方式來實現(xiàn)，當(dāng)然也可以通過硬件，但很多情況下前者是更佳的實施方式?；谶@樣的理解，本發(fā)明的技術(shù)方案本質(zhì)上或者說對現(xiàn)有技術(shù)做出貢獻(xiàn)的部分可以以軟件產(chǎn)品的形式體現(xiàn)出來，該計算機軟件產(chǎn)品存儲在圖3、圖4、圖5所述舉報信息的處理裝置或者包括圖3至圖5所述舉報信息的處理裝置的服務(wù)器的一個存儲介質(zhì)(如R0M/RAM、磁碟、光盤)中，圖3、圖4、圖5所述舉報信息的處理裝置包括若干指令用以使得一臺終端設(shè)備(可以是手機，計算機，包括圖3至圖5所述舉報信息的處理裝置的服務(wù)器，或者網(wǎng)絡(luò)設(shè)備等)執(zhí)行本發(fā)明各個實施例所述的方法。
[0088]以上所述僅為本發(fā)明的優(yōu)選實施例，并非因此限制其專利范圍，凡是利用本發(fā)明說明書及附圖內(nèi)容所作的等效結(jié)構(gòu)或等效流程變換，直接或間接運用在其他相關(guān)的【技術(shù)領(lǐng)域】，均同理包括在本發(fā)明的專利保護(hù)范圍內(nèi)。
【權(quán)利要求】
1.一種舉報信息的處理方法，其特征在于，包括以下步驟: 實時接收舉報信息，所述舉報信息包括被舉報用戶信息、舉報內(nèi)容以及舉報用戶信息； 根據(jù)所述被舉報用戶信息和舉報用戶信息，分別調(diào)用被舉報用戶對應(yīng)的歷史數(shù)據(jù)和舉報用戶對應(yīng)的歷史數(shù)據(jù)； 解析所述被舉報用戶的歷史數(shù)據(jù)、舉報用戶的歷史數(shù)據(jù)及所述舉報內(nèi)容，獲取解析結(jié)果; 在所述解析結(jié)果滿足實時反饋條件時，設(shè)置所述舉報內(nèi)容的可見范圍。
2.如權(quán)利要求1所述的方法，其特征在于，所述設(shè)置舉報內(nèi)容的可見范圍，包括: 設(shè)置所述舉報內(nèi)容僅為該舉報內(nèi)容的發(fā)布者和/或被舉報用戶可見；或者，設(shè)置所述舉報內(nèi)容對所有用戶均不可見。
3.如權(quán)利要求1或2所述的方法，其特征在于，所述設(shè)置舉報內(nèi)容的可見范圍；或者，設(shè)置所述舉報內(nèi)容對用戶完全不可見，之后還包括: 識別所述舉報內(nèi)容； 在識別到所述舉報內(nèi)容為合法信息時，設(shè)置所述舉報內(nèi)容為正?？梢姞顟B(tài)。
4.如權(quán)利要求1或2所述的方法，其特征在于，所述被舉報用戶的歷史數(shù)據(jù)包括:所述被舉報用戶在預(yù)設(shè)時長內(nèi)產(chǎn)生的行為數(shù)據(jù)、被舉報次數(shù)和被舉報成功率； 所述舉報用戶的歷史數(shù)據(jù)包括:所述舉報用戶在所述預(yù)設(shè)時長內(nèi)產(chǎn)生的行為數(shù)據(jù)、舉報次數(shù)和舉報成功率。
5.如權(quán)利要求4所述的方法，其特征在于，所述解析結(jié)果滿足實時反饋條件包括: 在所述解析結(jié)果為:獲取的所述被舉報用戶在所述預(yù)設(shè)時長內(nèi)被舉報次數(shù)達(dá)到第一預(yù)設(shè)閾值和/或被舉報成功率達(dá)到第一預(yù)設(shè)百分率時，則所述解析結(jié)果滿足所述實時反饋條件。
6.如權(quán)利要求4所述的方法，其特征在于，所述解析結(jié)果滿足實時反饋條件包括: 在所述解析結(jié)果為:獲取的所述舉報用戶在預(yù)設(shè)時長內(nèi)舉報次數(shù)小于第二預(yù)設(shè)閾值和/或舉報成功率達(dá)到第二預(yù)設(shè)百分率時，則所述解析結(jié)果滿足所述實時反饋條件。
7.如權(quán)利要求4所述的方法，其特征在于，所述解析結(jié)果滿足實時反饋條件包括: 在所述解析結(jié)果為:所述被舉報用戶在預(yù)設(shè)時長內(nèi)產(chǎn)生的行為數(shù)據(jù)與惡意信息數(shù)據(jù)庫中已存儲的數(shù)據(jù)匹配時，則所述解析結(jié)果滿足實時反饋條件。
8.如權(quán)利要求1或2所述的方法，其特征在于，所述設(shè)置舉報內(nèi)容的可見范圍，之后還包括: 在所述解析結(jié)果為被舉報用戶非法登錄時，強制所述被舉報用戶退出所登錄的個人賬號。
9.如權(quán)利要求8所述的方法，其特征在于，所述強制所述被舉報用戶退出所登錄的個人賬號，之后還包括:識別所述被舉報用戶利用登錄的所述個人賬號所發(fā)布的所有信息中存在與惡意數(shù)據(jù)庫中已存儲數(shù)據(jù)相匹配的信息時，刪除與所述惡意數(shù)據(jù)中已存儲數(shù)據(jù)相匹配的所有信息。
10.一種舉報信息的處理裝置，其特征在于，包括: 數(shù)據(jù)接收模塊，用于實時接收舉報信息，所述舉報信息包括被舉報用戶信息、舉報內(nèi)容以及舉報用戶信息； 數(shù)據(jù)調(diào)用模塊，用于根據(jù)所述被舉報用戶信息和舉報用戶信息，分別調(diào)用被舉報用戶對應(yīng)的歷史數(shù)據(jù)和舉報用戶對應(yīng)的歷史數(shù)據(jù)； 數(shù)據(jù)解析模塊，用于解析所述被舉報用戶的歷史數(shù)據(jù)、舉報用戶的歷史數(shù)據(jù)及所述舉報內(nèi)容，獲取解析結(jié)果； 數(shù)據(jù)處理模塊，用于在所述解析結(jié)果滿足實時反饋條件時，設(shè)置所述舉報內(nèi)容的可見范圍。
11.如權(quán)利要求10所述的裝置，其特征在于，所述數(shù)據(jù)處理模塊用于: 設(shè)置所述舉報內(nèi)容僅為該舉報內(nèi)容的發(fā)布者和/或被舉報用戶可見；或者，設(shè)置所述舉報內(nèi)容對所有用戶均不可見。
12.如權(quán)利要求10或11所述的裝置，其特征在于，還包括: 數(shù)據(jù)識別模塊，用于識別所述舉報內(nèi)容；在識別到所述舉報內(nèi)容為合法信息時，設(shè)置所述舉報內(nèi)容為正常可見狀態(tài)。
13.如權(quán)利要求10或11所述的裝置，其特征在于，所述被舉報用戶的歷史數(shù)據(jù)包括:所述被舉報用戶在預(yù)設(shè)時長內(nèi)產(chǎn)生的行為數(shù)據(jù)、被舉報次數(shù)和被舉報成功率； 所述舉報用戶的歷史數(shù)據(jù)包括:所述舉報用戶在所述預(yù)設(shè)時長內(nèi)產(chǎn)生的行為數(shù)據(jù)、舉報次數(shù)和舉報成功率。
14.如權(quán)利要求13所述的裝置，其特征在于，所述數(shù)據(jù)處理模塊還用于: 在所述解析結(jié)果為:獲取的所述被舉報用戶在所述預(yù)設(shè)時長內(nèi)被舉報次數(shù)達(dá)到第一預(yù)設(shè)閾值和/或被舉報成功率達(dá)到第一預(yù)設(shè)百分率時，則所述解析結(jié)果滿足所述實時反饋條件。
15.如權(quán)利要求13所述的裝置，其特征在于，所述數(shù)據(jù)處理模塊還用于: 在所述解析結(jié)果為:獲取的所述舉報用戶在預(yù)設(shè)時長內(nèi)舉報次數(shù)小于第二預(yù)設(shè)閾值和/或舉報成功率達(dá)到第二預(yù)設(shè)百分率時，則所述解析結(jié)果滿足所述實時反饋條件。
16.如權(quán)利要求13所述的裝置，其特征在于，所述數(shù)據(jù)處理模塊還用于: 在所述解析結(jié)果為:所述被舉報用戶在預(yù)設(shè)時長內(nèi)產(chǎn)生的行為數(shù)據(jù)與惡意信息數(shù)據(jù)庫中已存儲的數(shù)據(jù)匹配時，則所述解析結(jié)果滿足實時反饋條件。
17.如權(quán)利要求10或11所述的裝置，其特征在于，還包括: 強制退出模塊，用于在所述解析結(jié)果為被舉報用戶非法登錄時，強制所述被舉報用戶退出所登錄的個人賬號。
18.如權(quán)利要求17所述的裝置，其特征在于，所述數(shù)據(jù)處理模塊還用于: 識別所述被舉報用戶利用登錄的所述個人賬號所發(fā)布的所有信息中存在與惡意數(shù)據(jù)庫中已存儲數(shù)據(jù)相匹配的信息時，刪除與所述惡意數(shù)據(jù)中已存儲數(shù)據(jù)相匹配的所有信息。
【文檔編號】G06F17/30GK104424277SQ201310386461
【公開日】2015年3月18日 申請日期:2013年8月29日 優(yōu)先權(quán)日:2013年8月29日
【發(fā)明者】鐘呈祥 申請人:深圳市騰訊計算機系統(tǒng)有限公司