本申請涉及即時通信中的消息處理
技術(shù)領(lǐng)域：
，特別是涉及群組消息處理方法及裝置。
背景技術(shù)：
：在網(wǎng)絡(luò)越來越發(fā)達(dá)的今天，人們對網(wǎng)絡(luò)的依賴也越來越多，由此產(chǎn)生的即時通信(IM)工具也越來越多。使用這種即時通信工具，人們可以通過文字、語音甚至視頻等多種方式進(jìn)行聊天。在使用IM進(jìn)行交流時，除了可以在兩個用戶之間一對一的交流，還可以以群組的方式進(jìn)行交流。這種群組一般是由某個用戶創(chuàng)建的，該創(chuàng)建者用戶一般被稱為“群主”。群主在創(chuàng)建群組以后，可以邀請朋友或者有共同興趣愛好的人到一個群組里面聊天。同一個用戶可以加入多個群組，例如大學(xué)同學(xué)群組、同事群組，等等。具體在進(jìn)行群組聊天時，任意用戶在群組內(nèi)的發(fā)言，都是可以被群組內(nèi)其他用戶看到的，每個用戶都具有言論自由。但是，由于同一個群組中包括的用戶數(shù)量一般都比較多，不同用戶對于能夠接受的話題尺度等可能會有所不同。例如，某大學(xué)同學(xué)群組中，一般既有男生又有女生，男生之間的對話中可能會夾雜著一些在女生看來屬于臟話的內(nèi)容，等等。針對這種情況，可能會提醒某些用戶在發(fā)言時注意，但是，由于一些習(xí)慣性因素或者個人認(rèn)識等原因，這種提醒往往作用不大。因此，對于不能接受的用戶，可能會選擇對整個群組的發(fā)言進(jìn)行屏蔽，但這又會導(dǎo)致群組內(nèi)用戶關(guān)系的不和諧，影響用戶對群組功能的使用。為此，現(xiàn)有技術(shù)中，服務(wù)器可以對用戶的發(fā)言內(nèi)容進(jìn)行過濾，例如，當(dāng)發(fā)現(xiàn)一些具有辱罵等性質(zhì)的詞語時，可以進(jìn)行屏蔽，但是實(shí)際應(yīng)用中，這種屏蔽操作收效甚微，在很多情況下，用戶仍然會經(jīng)常受到一些不和諧言論的干擾。技術(shù)實(shí)現(xiàn)要素：本申請?zhí)峁┝巳航M消息處理方法及裝置，可以為用戶創(chuàng)造更和諧的群組溝通環(huán)境，也使得群組通信功能得到更好的應(yīng)用。本申請?zhí)峁┝巳缦路桨福阂环N群組消息處理方法，包括：服務(wù)器預(yù)先保存針對各用戶群組的自定義敏感詞列表；所述自定義敏感詞列表根據(jù)各用戶群組內(nèi)的成員用戶客戶端上傳的自定義敏感詞進(jìn)行創(chuàng)建；接收到發(fā)送方客戶端的待發(fā)送群組消息時，確定所述群組消息對應(yīng)的目標(biāo)群組標(biāo)識；查詢所述目標(biāo)群組對應(yīng)的自定義待屏蔽敏感詞列表，判斷所述待發(fā)送群組消息中是否包含該目標(biāo)群組對應(yīng)的自定義敏感詞；當(dāng)所述待發(fā)送群組消息中包含該目標(biāo)群組對應(yīng)的自定義敏感詞時，則將所述待發(fā)送群組消息進(jìn)行屏蔽處理。一種群組消息處理方法，包括：發(fā)送方客戶端預(yù)先保存用戶所加入的至少一個用戶群組對應(yīng)的自定義敏感詞列表；所述自定義敏感詞列表根據(jù)各用戶群組內(nèi)的成員用戶客戶端上傳的自定義敏感詞進(jìn)行創(chuàng)建；在需要發(fā)送群組消息至目標(biāo)用戶群組時，查詢所述目標(biāo)群組對應(yīng)的自定義待屏蔽敏感詞列表，判斷所述群組消息中是否包含有該目標(biāo)用戶群組對應(yīng)的自定義敏感詞；當(dāng)所述群組消息中包含有該目標(biāo)用戶群組對應(yīng)的自定義敏感詞時，則將所述群組消息進(jìn)行屏蔽處理。一種群組消息處理方法，包括：接收方客戶端預(yù)先保存用戶所加入的至少一個用戶群組對應(yīng)的自定義敏 感詞列表；所述自定義敏感詞列表根據(jù)各用戶群組內(nèi)的成員用戶客戶端上傳的自定義敏感詞進(jìn)行創(chuàng)建；在接收到來自目標(biāo)用戶群組的群組消息時，查詢所述目標(biāo)群組對應(yīng)的自定義待屏蔽敏感詞列表，判斷所述群組消息中是否包含有該目標(biāo)用戶群組對應(yīng)的自定義敏感詞；如果所述群組消息中包含有該目標(biāo)用戶群組對應(yīng)的自定義敏感詞，則將所述群組消息進(jìn)行屏蔽處理。一種群組消息處理裝置，應(yīng)用于服務(wù)器，包括：列表保存單元，用于預(yù)先保存針對各用戶群組的自定義敏感詞列表；所述自定義敏感詞列表根據(jù)各用戶群組內(nèi)的成員用戶客戶端上傳的自定義敏感詞進(jìn)行創(chuàng)建；群組標(biāo)識確定單元，用于接收到發(fā)送方客戶端的待發(fā)送群組消息時，確定所述群組消息對應(yīng)的目標(biāo)群組標(biāo)識；第一判斷單元，用于查詢所述目標(biāo)群組對應(yīng)的自定義待屏蔽敏感詞列表，判斷所述待發(fā)送群組消息中是否包含該目標(biāo)群組對應(yīng)的自定義敏感詞；第一屏蔽處理單元，用于當(dāng)所述待發(fā)送群組消息中包含該目標(biāo)群組對應(yīng)的自定義敏感詞時，則將所述待發(fā)送群組消息進(jìn)行屏蔽處理。一種群組消息處理裝置，應(yīng)用于發(fā)送方客戶端，包括：列表保存單元，用于預(yù)先保存用戶所加入的至少一個用戶群組對應(yīng)的自定義敏感詞列表；所述自定義敏感詞列表根據(jù)各用戶群組內(nèi)的成員用戶客戶端上傳的自定義敏感詞進(jìn)行創(chuàng)建及更新；第三判斷單元，用于在需要發(fā)送群組消息至目標(biāo)用戶群組時，查詢所述目標(biāo)群組對應(yīng)的自定義待屏蔽敏感詞列表，判斷所述群組消息中是否包含有該目標(biāo)用戶群組對應(yīng)的自定義敏感詞；第二屏蔽處理單元，用于當(dāng)所述群組消息中包含有該目標(biāo)用戶群組對應(yīng)的 自定義敏感詞時，則將所述群組消息進(jìn)行屏蔽處理。一種群組消息處理裝置，應(yīng)用于接收方客戶端，包括：列表保存單元，用于預(yù)先保存用戶所加入的至少一個用戶群組對應(yīng)的自定義敏感詞列表；所述自定義敏感詞列表根據(jù)各用戶群組內(nèi)的成員用戶客戶端上傳的自定義敏感詞進(jìn)行創(chuàng)建及更新；第四判斷單元，用于在接收到來自目標(biāo)用戶群組的群組消息時，查詢所述目標(biāo)群組對應(yīng)的自定義待屏蔽敏感詞列表，判斷所述群組消息中是否包含有該目標(biāo)用戶群組對應(yīng)的自定義敏感詞；第三屏蔽處理單元，用于如果所述群組消息中包含有該目標(biāo)用戶群組對應(yīng)的自定義敏感詞，則將所述群組消息進(jìn)行屏蔽處理。根據(jù)本申請?zhí)峁┑木唧w實(shí)施例，本申請公開了以下技術(shù)效果：通過本申請實(shí)施例，可以分別為各個用戶群組設(shè)置自定義的敏感詞列表，該敏感詞列表可以是由用戶群組內(nèi)部的成員(包括群主、群成員等)來創(chuàng)建和更新的，也即，用戶群組內(nèi)的用戶可以根據(jù)實(shí)際的聊天需要以及群組自身的特點(diǎn)，來將需要屏蔽的敏感詞加入到自己的自定義敏感詞列表中。這樣，就可以利用各自的自定義敏感詞列表對各個用戶群組內(nèi)的群組消息進(jìn)行過濾，一旦發(fā)現(xiàn)某條消息中包含某自定義敏感詞條，就可以將其屏蔽，這樣，可以避免由于敏感詞的存在影響用戶對群通信功能的使用。并且，用戶在其中一個用戶群組中言論中包含某詞匯時，可能會被判為敏感詞，但在其他用戶群組中提到該詞匯時，可能就不會被判為敏感詞，因此，可以實(shí)現(xiàn)基于各個用戶群組的個性化屏蔽，使得屏蔽的信息更加符合自己群組的聊天環(huán)境，不會對其他用戶群組產(chǎn)生影響。當(dāng)然，實(shí)施本申請的任一產(chǎn)品并不一定需要同時達(dá)到以上所述的所有優(yōu)點(diǎn)。附圖說明為了更清楚地說明本申請實(shí)施例或現(xiàn)有技術(shù)中的技術(shù)方案，下面將對實(shí)施例中所需要使用的附圖作簡單地介紹，顯而易見地，下面描述中的附圖僅僅是 本申請的一些實(shí)施例，對于本領(lǐng)域普通技術(shù)人員來講，在不付出創(chuàng)造性勞動的前提下，還可以根據(jù)這些附圖獲得其他的附圖。圖1是本申請實(shí)施例提供的第一方法的流程圖；圖2是本申請實(shí)施例提供的第二方法的流程圖；圖3是本申請實(shí)施例提供的第三方法的流程圖；圖4是本申請實(shí)施例提供的第一裝置的示意圖；圖5是本申請實(shí)施例提供的第二裝置的示意圖；圖6是本申請實(shí)施例提供的第三裝置的示意圖。具體實(shí)施方式下面將結(jié)合本申請實(shí)施例中的附圖，對本申請實(shí)施例中的技術(shù)方案進(jìn)行清楚、完整地描述，顯然，所描述的實(shí)施例僅僅是本申請一部分實(shí)施例，而不是全部的實(shí)施例?；诒旧暾堉械膶?shí)施例，本領(lǐng)域普通技術(shù)人員所獲得的所有其他實(shí)施例，都屬于本申請保護(hù)的范圍。本申請發(fā)明人在實(shí)現(xiàn)本申請的過程中發(fā)現(xiàn)，現(xiàn)有技術(shù)中服務(wù)器能夠?qū)θ航M發(fā)言進(jìn)行屏蔽，但收效甚微的原因在于：服務(wù)器維護(hù)的敏感詞列表是針對全網(wǎng)通用的，主要是從大多數(shù)用戶的角度出發(fā)，將全網(wǎng)用戶普遍比較反感的一些詞匯作為敏感詞進(jìn)行屏蔽。但在實(shí)際應(yīng)用中，具體用戶群組由于成員組成的不同等因素，導(dǎo)致成員在發(fā)言時，具體哪些詞在該小范圍的用戶群組之間是敏感的，一般可能會體現(xiàn)出個性化的特點(diǎn)。例如，某用戶群組是大學(xué)同學(xué)群，該群組中的某用戶在上學(xué)期間有某綽號，但是由于社會身份的變化等原因，該用戶不喜歡再被這樣稱呼，但可能不一定群里的每個同學(xué)都知道，因此，可能仍然會有人用該綽號稱呼該同學(xué)，導(dǎo)致群組內(nèi)可能會發(fā)生不和諧。而關(guān)于這種綽號類的詞匯，顯然不會被服務(wù)器加入到敏感詞列表中，因?yàn)樵撛~匯對于其他用戶群組而言可能是很正常的。因此，在本申請實(shí)施例中，可以分別為各個用戶群組設(shè)置自定義的敏感詞 列表，該敏感詞列表可以是由用戶群組內(nèi)部的成員(包括群主、群成員等)來創(chuàng)建和更新的，也即，用戶群組內(nèi)的用戶可以根據(jù)實(shí)際的聊天需要以及群組自身的特點(diǎn)，來將需要屏蔽的敏感詞加入到自己的自定義敏感詞列表中。也就是說，假設(shè)某用戶加入了三個用戶群組，則每個用戶群組對應(yīng)的自定義敏感詞列表都可以是不同的。這樣，就可以利用各自的自定義敏感詞列表對各個用戶群組內(nèi)的群組消息進(jìn)行過濾，一旦發(fā)現(xiàn)某條消息中包含某自定義敏感詞條，就可以將其屏蔽，這樣，可以避免由于敏感詞的存在影響用戶對群通信功能的使用。并且，用戶在其中一個用戶群組中言論中包含某詞匯時，可能會被判為敏感詞，但在其他用戶群組中提到該詞匯時，可能就不會被判為敏感詞，因此，可以實(shí)現(xiàn)基于各個用戶群組的個性化屏蔽，使得屏蔽的信息更加符合自己群組的聊天環(huán)境，不會對其他用戶群組產(chǎn)生影響。下面對具體的實(shí)現(xiàn)方式進(jìn)行詳細(xì)介紹。首先需要說明的是，一般而言，當(dāng)群組中的某用戶發(fā)送一條群組消息時，后續(xù)的處理流程如下：第一步：該用戶自己的客戶端可以直接在對話窗口的群組消息展示區(qū)域展示出該消息；第二步：在執(zhí)行第一步的同時，該客戶端可以將該群組消息提交到服務(wù)器，并攜帶上用戶群組id、當(dāng)前用戶的id等等；第三步：服務(wù)器在收到該群組消息之后，將該消息轉(zhuǎn)發(fā)到該用戶群組的其他成員用戶的客戶端；第四步：其他成員用戶的客戶端根據(jù)從服務(wù)器接收到的群組消息，在對話窗口的群組消息展示區(qū)域進(jìn)行展示。在本申請實(shí)施例中，對群組消息進(jìn)行敏感詞屏蔽的操作可以在服務(wù)器側(cè)完成，也可以在發(fā)送方客戶端側(cè)完成，還可以在接收方客戶端側(cè)完成，下面分別進(jìn)行介紹。實(shí)施例一在該實(shí)施例一中，對群組消息進(jìn)行敏感詞屏蔽的操作是在服務(wù)器側(cè)完成的， 對于發(fā)送方客戶端以及接收方而言，按照正常的邏輯進(jìn)行處理即可。參見圖1，本申請實(shí)施例一首先提供了一種群組消息處理方法，該方法可以包括以下步驟：S101：服務(wù)器預(yù)先保存針對各用戶群組的自定義敏感詞列表；所述自定義敏感詞列表根據(jù)各用戶群組內(nèi)的成員用戶客戶端上傳的自定義敏感詞進(jìn)行創(chuàng)建；為了確定哪些詞為敏感詞，服務(wù)器可以預(yù)先確定出各個用戶群組的自定義敏感詞列表，并進(jìn)行保存，以便后續(xù)針對具體的群組消息，利用該列表進(jìn)行敏感詞的過濾。其中，關(guān)于具體敏感詞的來源，為了體現(xiàn)個性化的特點(diǎn)，可以是由各個用戶群組內(nèi)的成員用戶(包括群主、管理員、普通成員等)為用戶群組提交待屏蔽敏感詞列表，由服務(wù)器進(jìn)行保存。服務(wù)器具體對上述信息的保存形式可以有多種，例如，其中一種方式可以如以下表1所示：表1序號用戶群組id敏感詞列表1id1敏感詞1，敏感詞2……2id2敏感詞3，敏感詞4……………………也就是說，假設(shè)用戶甲是某用戶群組A的成員，則其可以向該用戶群組A的敏感詞列表中增加敏感詞，這樣，就可以在該群組內(nèi)對該敏感詞進(jìn)行屏蔽。具體實(shí)現(xiàn)時，同一用戶可能會同時加入多個用戶群組，該用戶在為其中某用戶群組設(shè)置敏感詞時，很有可能也需要將其設(shè)置為其加入的其他用戶群組的敏感詞，因此，在具體實(shí)現(xiàn)時，服務(wù)器在接收到某用戶客戶端上傳的自定義敏感詞時，可以首先確定出該用戶所屬的一個或多個用戶群組，然后將該自定義敏感 詞加入到該一個或多個用戶群組對應(yīng)的自定義敏感詞列表中。這樣可以實(shí)現(xiàn)同一用戶對多個用戶群組自定義敏感詞列表的批量設(shè)置。在成員用戶為各自的用戶群組設(shè)置自定義敏感詞列表的過程中，服務(wù)器還可以分別對各個用戶群組的歷史消息記錄等進(jìn)行語義分析，從中分析中可能會成為該群組內(nèi)敏感詞的詞匯，然會推薦給該群組內(nèi)的成員用戶，由成員用戶確認(rèn)后，也可以加入到該用戶群組的自定義敏感詞列表中。例如，在某用戶群組的消息記錄中，其中一條消息為“二孬，在嗎？”，緊接著有一條回復(fù)是：“不要再這么叫我了?。　?，由此可以分析出“二孬”可能是該群組的敏感詞，進(jìn)而就可以向該群組內(nèi)的各個成員用戶發(fā)送推薦消息，如果收到其中一個或多個(例如過半數(shù)，等等)成員用戶的確認(rèn)，即可將其加入到該用戶群組的自定義敏感詞列表中。關(guān)于具體如何進(jìn)行自動化的語義分析，可以按照已有技術(shù)中的方式來實(shí)現(xiàn)，這里不再詳述。另外，在實(shí)際應(yīng)用中，關(guān)于某個詞條是否為需要屏蔽的敏感詞，對于同一用戶群組中的不同成員用戶而言可能仍然會是不同的，也就是說，同一個用戶群組的各個自定義敏感詞，可能有些是對全體成員有效，例如前述例子中的綽號等，有些則是僅對部分成員有效，例如，一些罵人、調(diào)侃性質(zhì)的話，只要不涉及人身攻擊或者特別過分的成員，則對于男性成員而言可能是可以接受的，而女性成員則不能接受，等等。因此，在進(jìn)行屏蔽的過程中，還可以進(jìn)行區(qū)別對待。因此，在具體實(shí)現(xiàn)時，成員用戶在提交自定義敏感詞時，還可以為用戶提供用于選擇敏感詞作用的成員用戶信息的操作選項(xiàng)，可以選擇全體成員，還可以從成員列表中選擇出其中的一部分成員。服務(wù)器在收到自定義敏感詞之后，還可以收到該敏感詞會那些成員用戶有效，相應(yīng)的，還可以在數(shù)據(jù)庫中保存各個自定義敏感詞分別對哪些成員用戶有效，用以表示，需要對這些有效的成員用戶屏蔽該敏感詞。在這種情況下，數(shù)據(jù)庫中保存的信息結(jié)構(gòu)可以如以下表2所示：表2S102：接收到發(fā)送方客戶端的待發(fā)送群組消息時，確定所述群組消息對應(yīng)的目標(biāo)群組標(biāo)識；在保存了前述各個用戶群組對應(yīng)的自定義敏感詞列表之后，就可以在具體的群組通訊過程中，對群組消息中包含的敏感詞進(jìn)行過濾。具體的，服務(wù)器作為群組消息的中轉(zhuǎn)方，群組消息的發(fā)送方客戶端都會將群組消息首先發(fā)送給服務(wù)器，然后再由服務(wù)器轉(zhuǎn)發(fā)給群組內(nèi)的其他成員，因此，服務(wù)器就可以在接收到發(fā)送方客戶端的群組消息后，對群組消息的內(nèi)容進(jìn)行判斷。具體的，由于發(fā)送方客戶端發(fā)送的群組消息中攜帶有用戶群組id等群組標(biāo)識，因此，可以首先從中提取出目標(biāo)群組標(biāo)識。S103：查詢所述目標(biāo)群組對應(yīng)的自定義待屏蔽敏感詞列表，判斷所述待發(fā)送群組消息中是否包含該目標(biāo)群組對應(yīng)的自定義敏感詞；在確定了目標(biāo)群組標(biāo)識之后，可以首先通過查詢表1等方式，確定出該用戶群組標(biāo)識對應(yīng)的自定義敏感詞列表，進(jìn)而，就可以通過文本比對等方式，判斷當(dāng)前接收到的群組消息中是否包含有該用戶群組標(biāo)識對應(yīng)的自定義敏感詞。S104：當(dāng)所述待發(fā)送群組消息中包含該目標(biāo)群組對應(yīng)的自定義敏感詞時，則將所述敏感詞進(jìn)行屏蔽處理。如果判斷出當(dāng)前的群組消息中包含有某敏感詞，就可以將該消息進(jìn)行屏蔽處理。具體的屏蔽處理方式可以有多種，例如，其中一種方式可以是：該服務(wù) 器拒絕轉(zhuǎn)發(fā)該消息，并且可以向發(fā)送方用戶客戶端提供其消息由于包含敏感詞不能發(fā)送的提示信息?；蛘?，還可以將其中包含的自定義敏感詞進(jìn)行模糊處理，例如打上馬賽克，或者還可以替換為其他的信息，例如替換為某預(yù)置的符號或者文字等。另外，如果服務(wù)器預(yù)先保存的敏感詞列表中還保存了敏感詞對應(yīng)的替換信息，則還可以利用該預(yù)先保存的替換信息對敏感詞進(jìn)行替換。在替換處理后，就可以將替換后的群組消息轉(zhuǎn)發(fā)給群組內(nèi)的其他用戶客戶端，這樣，由于其他用戶客戶端接收到的群組消息已經(jīng)是進(jìn)行了替換處理之后的信息，因此，直接在對話窗口中的消息展示區(qū)域進(jìn)行展示即可，此時，這種其他用戶在消息展示區(qū)域看到的就是已經(jīng)替換處理后的群組消息，例如，其中部分內(nèi)容被打上馬賽克，等等。另外，在具體實(shí)現(xiàn)時，還可以與通用型敏感詞列表進(jìn)行結(jié)合，也即，服務(wù)器在分別為各個用戶群組保存各自的自定義敏感詞列表的同時，還可以保存通用的敏感詞列表，這樣，針對當(dāng)前的待發(fā)送群組消息，服務(wù)器在利用當(dāng)前用戶群組的自定義敏感詞列表進(jìn)行過濾時，如果發(fā)現(xiàn)沒有命中自定義敏感詞列表，還可以再利用通用敏感詞列表進(jìn)行二次過濾，如果命中該通用敏感詞列表，同樣可以對待發(fā)送消息進(jìn)行屏蔽處理。當(dāng)然，如步驟S101中所述，預(yù)先保存的自定義敏感詞條可能是對全部成員有效，也可能僅對部分成員有效，因此，在確定出當(dāng)前群組消息中包含的自定義敏感詞條后，還可以確定出該自定義敏感詞條對應(yīng)的有效成員用戶，然后僅針對這種有效成員用戶進(jìn)行屏蔽處理。例如，當(dāng)待發(fā)送群組消息中含有對全體成員有效的自定義敏感詞時，則可以針對全體成員，對待發(fā)送群組消息進(jìn)行屏蔽處理；當(dāng)待發(fā)送群組消息中含有對部分成員有效的自定義敏感詞時，則可以針對該部分成員，對待發(fā)送群組消息進(jìn)行屏蔽處理。無論是針對全體成員，還是部分成員，在對待發(fā)送消息進(jìn)行屏蔽處理時，都既可以是直接拒絕轉(zhuǎn)發(fā)，或者是對敏感詞進(jìn)行替換。例如，針對部分成員進(jìn)行屏蔽處理時，可以是對消息中的敏感詞進(jìn)行替換，將替換后的消息轉(zhuǎn)發(fā)給這部分有效成員，而對于群組內(nèi)的其他成員用戶則可以收到原始的群組消息。例如，某群組消息中包含某詞匯，通過本申請實(shí)施例的方法，可以使得只有群組中的男生能夠看到該詞匯， 而女生則看不到，等等。需要說明的是，在該實(shí)施例一中，客戶端的邏輯可以不做修改，但是，由于是在服務(wù)器端對敏感詞進(jìn)行的過濾，因此，通過敏感詞替換的方式進(jìn)行屏蔽的情況下，對于群組消息的發(fā)送者用戶而言，其在對話窗口的消息展示區(qū)域看到的可能仍然是完整的未屏蔽處理的消息，但由于是將自己的言論給自己看，因此，這種影響可以忽略。當(dāng)然，為了實(shí)現(xiàn)同一群組內(nèi)各個用戶展示的消息內(nèi)容的一致性，也使得消息的發(fā)送者知曉其發(fā)送的某些內(nèi)容已經(jīng)被屏蔽了，還可以對該發(fā)送者用戶客戶端展示的消息內(nèi)容進(jìn)行敏感詞屏蔽處理。具體的實(shí)現(xiàn)方式可以有多種，例如，由于發(fā)送者客戶端展示出的消息內(nèi)容不需要經(jīng)過服務(wù)器的中轉(zhuǎn)，直接就可以進(jìn)行展示，因此，在一種可行的方式下，可以預(yù)先在客戶端本地保存用戶群組中需要屏蔽的敏感詞列表，這樣，當(dāng)該客戶端關(guān)聯(lián)的當(dāng)前用戶發(fā)送了某條群組消息時，則首先可以利用本地保存的敏感詞列表進(jìn)行比對，如果其中存在敏感詞，則可以由客戶端對其進(jìn)行屏蔽處理后，再輸出到對話窗口的消息展示區(qū)域進(jìn)行展示。當(dāng)然，客戶端使用的屏蔽處理方式與服務(wù)器端使用的方式可以是一致的。在另一種方式下，還可以在服務(wù)器確定出某條群組消息中存在敏感詞，并進(jìn)行了屏蔽處理后，向消息發(fā)送者用戶也發(fā)送一份處理后的群組消息，這樣，消息發(fā)送方客戶端就可以將之前已經(jīng)在對話窗口的消息展示區(qū)域展示的群組消息，替換為進(jìn)行了屏蔽處理后的消息，或者，也可以不采用替換的方式，而是另外在消息展示區(qū)域展示出該屏蔽處理后的消息，同時，還可以通過顯示為不同顏色等方式提示發(fā)送方用戶，已經(jīng)對其發(fā)送的某條群組消息中的部分內(nèi)容進(jìn)行了屏蔽處理?？傊ㄟ^本申請實(shí)施例，可以分別為各個用戶群組設(shè)置自定義的敏感詞列表，該敏感詞列表可以是由用戶群組內(nèi)部的成員(包括群主、群成員等)來創(chuàng)建和更新的，也即，用戶群組內(nèi)的用戶可以根據(jù)實(shí)際的聊天需要以及群組自身的特點(diǎn)，來將需要屏蔽的敏感詞加入到自己的自定義敏感詞列表中。這樣，就可以利用各自的自定義敏感詞列表對各個用戶群組內(nèi)的群組消息進(jìn)行過濾，一旦發(fā)現(xiàn)某條消息中包含某自定義敏感詞條，就可以將其屏蔽，這樣，可以避免由于敏感詞的存在影響用戶對群通信功能的使用。并且，用戶在其中一個用戶群組中言論中包含某詞匯時，可能會被判為敏感詞，但在其他用戶群組中提 到該詞匯時，可能就不會被判為敏感詞，因此，可以實(shí)現(xiàn)基于各個用戶群組的個性化屏蔽，使得屏蔽的信息更加符合自己群組的聊天環(huán)境，不會對其他用戶群組產(chǎn)生影響。實(shí)施例二在該實(shí)施例二中，對群組消息中部分敏感詞的屏蔽處理操作可以是在客戶端來完成的。與前述對發(fā)送方用戶客戶端對群組消息的第一種屏蔽處理方式類似，可以在各個用戶的客戶端本地都保存用戶群組對應(yīng)的自定義屏蔽敏感詞列表，這樣，發(fā)送方客戶端可以在發(fā)送群組消息的事件發(fā)生時，對其中的敏感詞進(jìn)行屏蔽處理，接收方客戶端可以在接收到服務(wù)器轉(zhuǎn)發(fā)的群組消息時，對其中的敏感詞進(jìn)行屏蔽處理。參見圖2，該實(shí)施例二首先從發(fā)送方用戶客戶端的角度，提供了一種群組消息處理方法，參見圖2，該方法可以包括以下步驟：S201：發(fā)送方客戶端預(yù)先保存用戶所加入的至少一個用戶群組對應(yīng)的自定義敏感詞列表；所述自定義敏感詞列表根據(jù)各用戶群組內(nèi)的成員用戶客戶端上傳的自定義敏感詞進(jìn)行創(chuàng)建；客戶端保存的自定義敏感詞列表可以是從服務(wù)器獲取的，例如，可以是由服務(wù)器推送的方式，或者客戶端請求的方式來實(shí)現(xiàn)。其中，從服務(wù)器角度而言，用戶群組非常多，但是對于具體一個用戶而言，其加入的群組往往只有少數(shù)幾個，因此，在客戶端的終端設(shè)備本地保存的自定義敏感詞列表，可以僅僅是客戶端的關(guān)聯(lián)用戶所加入的一個或多個用戶群組對應(yīng)的自定義敏感詞列表。其中，所謂的客戶端關(guān)聯(lián)的用戶，也就是通過該客戶端登錄到服務(wù)器的用戶，例如，某用戶A通過安裝在某移動終端設(shè)備上的App客戶端登錄到服務(wù)器，則該用戶A就是該客戶端的關(guān)聯(lián)用戶。具體實(shí)現(xiàn)時，可以在某用戶通過某終端設(shè)備上安裝的客戶端首次登錄到服務(wù)器時，服務(wù)器將該用戶加入的各個用戶群組的自定義敏感詞列表推送給該客戶端，該客戶端就可以在其所在的終端設(shè)備本地保存各個用戶群組對應(yīng)的自定義敏感詞列表。S202：在需要發(fā)送群組消息至目標(biāo)用戶群組時，查詢所述目標(biāo)群組對應(yīng)的自定義待屏蔽敏感詞列表，判斷所述群組消息中是否包含有該目標(biāo)用戶群組對應(yīng)的自定義敏感詞；S203：當(dāng)所述群組消息中包含有該目標(biāo)用戶群組對應(yīng)的自定義敏感詞時，將所述群組消息進(jìn)行屏蔽處理。發(fā)送方用戶客戶端進(jìn)行屏蔽處理的方式也可以有多種，例如，直接提示發(fā)送者用戶，其發(fā)送的消息中由于含有某敏感詞而不能發(fā)送，或者，還可以將敏感詞進(jìn)行替換，例如打上馬賽克，或者替換為其他文字、符號等，之后，將替換后的消息發(fā)送到服務(wù)器，由服務(wù)器轉(zhuǎn)發(fā)給群組內(nèi)其他成員，或者，也可以通過點(diǎn)對點(diǎn)的方式，直接將替換后的消息轉(zhuǎn)發(fā)給群組內(nèi)其他成員，等等。當(dāng)然，在后一種情況下，服務(wù)器在收到替換后的消息后，同樣可以繼續(xù)使用通用的敏感詞列表進(jìn)行過濾，如果發(fā)現(xiàn)其中存在通用的敏感詞，可以進(jìn)一步進(jìn)行屏蔽，例如，不再向其他成員用戶轉(zhuǎn)發(fā)，或者，將其中包含的通用的敏感詞也進(jìn)行替換后再轉(zhuǎn)發(fā)，等等。實(shí)施例三該實(shí)施例三中，可以是在接收方客戶端接收到群組消息之后，在對話窗口中輸入消息之前，對消息中是否包含自定義敏感詞進(jìn)行判斷。參見圖3，該實(shí)施例三提供了一種群組消息處理方法，該方法可以包括以下步驟：S301：接收方客戶端預(yù)先保存用戶所加入的至少一個用戶群組對應(yīng)的自定義敏感詞列表；所述自定義敏感詞列表根據(jù)各用戶群組內(nèi)的成員用戶客戶端上傳的自定義敏感詞進(jìn)行創(chuàng)建；S302：在接收到來自目標(biāo)用戶群組的群組消息時，查詢所述目標(biāo)群組對應(yīng)的自定義待屏蔽敏感詞列表，判斷所述群組消息中是否包含有該目標(biāo)用戶群組對應(yīng)的自定義敏感詞；接收方客戶端接收到的群組可能是來自于服務(wù)器轉(zhuǎn)發(fā)的，因此，可能是已經(jīng)由服務(wù)器進(jìn)行過一次屏蔽處理后的消息，例如，已經(jīng)用通用的敏感詞列表進(jìn) 行了判斷，如果發(fā)現(xiàn)其中包含某通用的敏感詞，則可以進(jìn)行替換，等等。在本申請實(shí)施例中，對于服務(wù)器已經(jīng)進(jìn)行過屏蔽處理后的群組消息，接收方客戶端在接收到之后，可以進(jìn)一步的進(jìn)行第二次的屏蔽處理，這次屏蔽處理是基于當(dāng)前用戶群組的自定義敏感詞列表進(jìn)行的。S303：如果所述群組消息中包含有該目標(biāo)用戶群組對應(yīng)的自定義敏感詞，則將所述群組消息進(jìn)行屏蔽處理。接收方客戶端的屏蔽處理方式也可以有多種，例如，可以直接拒絕輸出到對話框的消息展示區(qū)域，或者，將自定義敏感詞替換為其他的字符、符號，或者打上馬賽克等，之后，再將處理過的消息輸出到消息展示區(qū)域，以避免接收方用戶受到敏感詞的影響。關(guān)于實(shí)施例二以及實(shí)施例三的其他具體實(shí)現(xiàn)細(xì)節(jié)，可以參見實(shí)施例一中的介紹，這里不再贅述。與本申請實(shí)施例一提供的群組消息處理方法相對應(yīng)，本申請實(shí)施例還提供了一種群組消息處理裝置，該裝置應(yīng)用于服務(wù)器，參見圖4，該裝置具體可以包括：列表保存單元401，用于預(yù)先保存針對各用戶群組的自定義敏感詞列表；所述自定義敏感詞列表根據(jù)各用戶群組內(nèi)的成員用戶客戶端上傳的自定義敏感詞進(jìn)行創(chuàng)建；群組標(biāo)識確定單元402，用于接收到發(fā)送方客戶端的待發(fā)送群組消息時，確定所述群組消息對應(yīng)的目標(biāo)群組標(biāo)識；第一判斷單元403，用于查詢所述目標(biāo)群組對應(yīng)的自定義待屏蔽敏感詞列表，判斷所述待發(fā)送群組消息中是否包含該目標(biāo)群組對應(yīng)的自定義敏感詞；第一屏蔽處理單元404，用于當(dāng)所述待發(fā)送群組消息中包含該目標(biāo)群組對應(yīng)的自定義敏感詞時，則將所述待發(fā)送群組消息進(jìn)行屏蔽處理。其中，在創(chuàng)建所述自定義敏感詞列表時，所述裝置包括：敏感詞接收單元，用于接收到某用戶客戶端上傳的自定義敏感詞時，確定 該用戶所屬的一個或多個用戶群組；第一添加單元，用于將該自定義敏感詞加入到所述一個或多個用戶群組對應(yīng)的自定義敏感詞列表中?；蛘撸趧?chuàng)建所述自定義敏感詞列表時，所述裝置還包括：語義分析單元，用于對用戶群組內(nèi)的消息記錄進(jìn)行語義分析；推薦詞提供單元，用于根據(jù)語義分析結(jié)果為該用戶群組提供推薦的自定義敏感詞；第二添加單元，用于接收到該用戶群組內(nèi)某成員用戶客戶端的確認(rèn)消息后，將所述推薦的自定義敏感詞加入到該用戶群組的自定義敏感詞列表中。具體實(shí)現(xiàn)時，所述服務(wù)器預(yù)先還保存通用敏感詞列表，所述裝置還包括：第二判斷單元，用于當(dāng)所述待發(fā)送群組消息中不包含該目標(biāo)群組對應(yīng)的自定義敏感詞時，查詢所述通用敏感詞列表，判斷所述待發(fā)送群組消息中是否包含通用敏感詞；所述第一屏蔽處理單元還用于：當(dāng)所述待發(fā)送群組消息中包含通用敏感詞時，將所述待發(fā)送群組消息進(jìn)行屏蔽處理。其中，所述自定義敏感詞列表中值的自定義敏感詞對全體成員有效，或者對部分成員有效，所述第一屏蔽處理單元包括：第一處理子單元，用于當(dāng)所述待發(fā)送群組消息中含有對全體成員有效的自定義敏感詞時，針對全體成員，將所述待發(fā)送群組消息進(jìn)行屏蔽處理；第二處理子單元，用于當(dāng)所述待發(fā)送群組消息中含有對部分成員有效的自定義敏感詞時，針對該部分成員，將所述待發(fā)送群組消息進(jìn)行屏蔽處理。具體的，所述第一屏蔽處理單元具體用于：向所述發(fā)送方客戶端提供所述待發(fā)送群組消息無法發(fā)送的提示信息?；蛘撸诹硪环N實(shí)現(xiàn)方式下，所述第一屏蔽處理單元具體用于：將所述待發(fā)送群組消息中包含的敏感詞進(jìn)行替換處理；將所述替換處理后的群組消息進(jìn)行轉(zhuǎn)發(fā)。與實(shí)施例二提供的群組消息處理方法相對應(yīng)，本申請實(shí)施例還提供了一種群組消息處理裝置，應(yīng)用于發(fā)送方客戶端，參見圖5，該裝置具體可以包括：列表保存單元501，用于預(yù)先保存用戶所加入的至少一個用戶群組對應(yīng)的自定義敏感詞列表；所述自定義敏感詞列表根據(jù)各用戶群組內(nèi)的成員用戶客戶端上傳的自定義敏感詞進(jìn)行創(chuàng)建及更新；第三判斷單元502，用于在需要發(fā)送群組消息至目標(biāo)用戶群組時，查詢所述目標(biāo)群組對應(yīng)的自定義待屏蔽敏感詞列表，判斷所述群組消息中是否包含有該目標(biāo)用戶群組對應(yīng)的自定義敏感詞；第二屏蔽處理單元503，用于當(dāng)所述群組消息中包含有該目標(biāo)用戶群組對應(yīng)的自定義敏感詞時，則將所述群組消息進(jìn)行屏蔽處理。其中，所述群組消息被發(fā)送到服務(wù)器后，所述服務(wù)器利用通用的敏感詞列表對所述群組消息進(jìn)行屏蔽處理。與本申請實(shí)施例三提供的群組消息處理方法相對應(yīng)，本申請實(shí)施例還提供了一種群組消息處理裝置，應(yīng)用于接收方客戶端，參見圖6，該裝置具體可以包括：列表保存單元601，用于預(yù)先保存用戶所加入的至少一個用戶群組對應(yīng)的自定義敏感詞列表；所述自定義敏感詞列表根據(jù)各用戶群組內(nèi)的成員用戶客戶端上傳的自定義敏感詞進(jìn)行創(chuàng)建及更新；第四判斷單元602，用于在接收到來自目標(biāo)用戶群組的群組消息時，查詢所述目標(biāo)群組對應(yīng)的自定義待屏蔽敏感詞列表，判斷所述群組消息中是否包含有該目標(biāo)用戶群組對應(yīng)的自定義敏感詞；第三屏蔽處理單元603，用于如果所述群組消息中包含有該目標(biāo)用戶群組對應(yīng)的自定義敏感詞，則將所述群組消息進(jìn)行屏蔽處理。其中，所述接收到的來自目標(biāo)用戶群組的群組消息為服務(wù)器轉(zhuǎn)發(fā)的群組消息，所述服務(wù)器在轉(zhuǎn)發(fā)所述群組消息前，利用預(yù)置的通用敏感詞列表，對所述群組消息中的敏感詞進(jìn)行屏蔽處理。通過本申請實(shí)施例，可以分別為各個用戶群組設(shè)置自定義的敏感詞列表，該敏感詞列表可以是由用戶群組內(nèi)部的成員(包括群主、群成員等)來創(chuàng)建和更新的，也即，用戶群組內(nèi)的用戶可以根據(jù)實(shí)際的聊天需要以及群組自身的特點(diǎn)，來將需要屏蔽的敏感詞加入到自己的自定義敏感詞列表中。這樣，就可以利用各自的自定義敏感詞列表對各個用戶群組內(nèi)的群組消息進(jìn)行過濾，一旦發(fā)現(xiàn)某條消息中包含某自定義敏感詞條，就可以將其屏蔽，這樣，可以避免由于敏感詞的存在影響用戶對群通信功能的使用。并且，用戶在其中一個用戶群組中言論中包含某詞匯時，可能會被判為敏感詞，但在其他用戶群組中提到該詞匯時，可能就不會被判為敏感詞，因此，可以實(shí)現(xiàn)基于各個用戶群組的個性化屏蔽，使得屏蔽的信息更加符合自己群組的聊天環(huán)境，不會對其他用戶群組產(chǎn)生影響。通過以上的實(shí)施方式的描述可知，本領(lǐng)域的技術(shù)人員可以清楚地了解到本申請可借助軟件加必需的通用硬件平臺的方式來實(shí)現(xiàn)?；谶@樣的理解，本申請的技術(shù)方案本質(zhì)上或者說對現(xiàn)有技術(shù)做出貢獻(xiàn)的部分可以以軟件產(chǎn)品的形式體現(xiàn)出來，該計(jì)算機(jī)軟件產(chǎn)品可以存儲在存儲介質(zhì)中，如ROM/RAM、磁碟、光盤等，包括若干指令用以使得一臺計(jì)算機(jī)設(shè)備(可以是個人計(jì)算機(jī)，服務(wù)器，或者網(wǎng)絡(luò)設(shè)備等)執(zhí)行本申請各個實(shí)施例或者實(shí)施例的某些部分所述的方法。本說明書中的各個實(shí)施例均采用遞進(jìn)的方式描述，各個實(shí)施例之間相同相似的部分互相參見即可，每個實(shí)施例重點(diǎn)說明的都是與其他實(shí)施例的不同之處。尤其，對于系統(tǒng)或系統(tǒng)實(shí)施例而言，由于其基本相似于方法實(shí)施例，所以描述得比較簡單，相關(guān)之處參見方法實(shí)施例的部分說明即可。以上所描述的系統(tǒng)及系統(tǒng)實(shí)施例僅僅是示意性的，其中所述作為分離部件說明的單元可以是或者也可以不是物理上分開的，作為單元顯示的部件可以是或者也可以不是物理單元，即可以位于一個地方，或者也可以分布到多個網(wǎng)絡(luò)單元上?？梢愿鶕?jù)實(shí)際的需要選擇其中的部分或者全部模塊來實(shí)現(xiàn)本實(shí)施例方案的目的。本領(lǐng)域普通技術(shù) 人員在不付出創(chuàng)造性勞動的情況下，即可以理解并實(shí)施。以上對本申請所提供的群組消息處理方法及裝置，進(jìn)行了詳細(xì)介紹，本文中應(yīng)用了具體個例對本申請的原理及實(shí)施方式進(jìn)行了闡述，以上實(shí)施例的說明只是用于幫助理解本申請的方法及其核心思想；同時，對于本領(lǐng)域的一般技術(shù)人員，依據(jù)本申請的思想，在具體實(shí)施方式及應(yīng)用范圍上均會有改變之處。綜上所述，本說明書內(nèi)容不應(yīng)理解為對本申請的限制。當(dāng)前第1頁1 2 3