專利名稱：一種網(wǎng)絡信息的發(fā)布方法及系統(tǒng)的制作方法
技術領域：
本發(fā)明屬于信息發(fā)布技術領域，具體涉及一種網(wǎng)絡信息的發(fā)布方法及系統(tǒng)。
背景技術：
現(xiàn)在的大部分網(wǎng)站，尤其是含有互動內容的網(wǎng)站，比如在線反饋、咨詢、博客、論 壇、聊天室、投稿、評論等等，都對用戶開放了信息輸入的方式。但由于少數(shù)用戶違規(guī)輸入淫 穢、反動等非法內容，給網(wǎng)絡環(huán)境和社會的穩(wěn)定造成了極其惡劣的影響。因此，必須采取相 應措施，對用戶輸入的信息進行審核，保證良好的網(wǎng)絡環(huán)境，促進和諧社會的發(fā)展。目前有兩種審核方式，一種是自動過濾用戶提交信息中包含的非法字符的機制。 具體方法是建立一個非法詞庫，然后遍歷這個詞庫，看輸入文本中是否含有非法詞匯或者 與非法詞匯類似的詞匯，有則替換，無則將內容發(fā)布。這種方法實現(xiàn)起來簡單，也是最普遍 的方式，但也存在一些不足。機器自動替換機制的準確性較差，有可能將用戶原本合法的內 容替換掉，容易給閱讀者造成誤導。另一種是完全人工的審核機制。用戶提交信息后，并不直接發(fā)布到網(wǎng)絡上，而是在 后臺由專門的審核人員對內容進行審查，發(fā)現(xiàn)沒有問題，再發(fā)布到網(wǎng)絡上。人工審核盡管準 確，但是成本太大，而且效率不高，信息發(fā)布的實時性也比較差。

發(fā)明內容
針對現(xiàn)有技術中存在的缺陷，本發(fā)明的目的是提供一種及時、準確、高效的網(wǎng)絡信 息發(fā)布方法及系統(tǒng)。為了實現(xiàn)上述目的，本發(fā)明采用的技術方案如下一種網(wǎng)絡信息的發(fā)布方法，包括以下步驟(1)將信息提交到網(wǎng)絡；(2)對信息的危險程度進行評估，并給出信息的危險程度分值；(3)判斷信息的危險程度分值是否達到或超出預設的危險程度閥值；如是，則發(fā) 出報警信息；如否，則直接將該信息發(fā)布到網(wǎng)絡上。一種網(wǎng)絡信息的發(fā)布系統(tǒng)，包括用于將信息提交到WEB服務器的信息提交裝置； 用于接收信息提交裝置提交的信息的WEB服務器；用于根據(jù)非法詞庫對信息的危險程度進 行評估，并判斷該信息的危險程度分值是否達到或超過預設的危險程度閥值的信息評估裝 置；用于將信息發(fā)布到網(wǎng)絡上的信息發(fā)布裝置；以及用于存儲具有危險分值的非法詞的非 法詞庫。本發(fā)明所述方法及系統(tǒng)，通過對信息的危險程度進行評估的方式，能夠快速地檢 測出危險程度高的信息，將危險程度高的信息進行修改后發(fā)布或采用人工審核方式，將危 險程度低的信息直接發(fā)布，既保證了信息發(fā)布的實時性，又兼顧了信息修改的準確性，并提 高了信息發(fā)布的效率。


圖1是具體實施方式
中網(wǎng)絡信息發(fā)布系統(tǒng)結構框圖；圖2是采用圖1所示系統(tǒng)發(fā)布網(wǎng)絡信息的流程圖。
具體實施例方式本發(fā)明的核心思想是首先對現(xiàn)有的或自定義的非法詞庫中的非法詞設定危險分 值，可以根據(jù)非法詞的危險程度設置不同的分值；例如，設置1至10的分值檔，為普通的非 法詞設置相對較低的分值，為嚴重的非法詞設置較高的分值；用戶提交信息后，對該信息的 危險程度進行評估；將信息中包含的所有非法詞的總分值作為該信息的危險程度分值，判 斷該信息的危險程度分值是否超出了預設的危險程度閥值，并根據(jù)判斷結果對該信息進行 相應的處理。與現(xiàn)有自動過濾用戶提交信息中非法字符的機制相比，能夠提高非法詞替換 的準確性；與完全由人工審核的方式相比，能夠提高信息發(fā)布的效率。下面結合具體實施方式
和附圖，對本發(fā)明進行詳細描述。圖1出示了本發(fā)明所述的網(wǎng)絡信息發(fā)布系統(tǒng)一種實施方式的結構，該系統(tǒng)包括信 息提交裝置11、WEB服務器12、信息評估裝置14、信息發(fā)布裝置16和非法詞庫17。信息提交裝置11包含信息編輯器，用戶利用信息編輯器編輯信息后，由信息提交 裝置11將該信息提交到WEB服務器12。TOB服務器12主要用于接收信息提交裝置11提 交的信息。信息評估裝置14用于對信息提交裝置11提交的信息的危險程度進行評估，并 判斷該信息的危險程度是否達到或超出預設的危險程度閥值。信息發(fā)布裝置16用于將信 息發(fā)布到網(wǎng)絡上。非法詞庫17用于存儲具有危險分值的非法詞，可以根據(jù)實際需要增加和 刪減非法詞，也可以提高或降低非法詞的危險分值。由于在同一時間可能有多條信息提交到TOB服務器12，因此為保證先提交的信息 先處理的原則，本系統(tǒng)還包括信息隊列裝置13。信息隊列裝置13包含一個信息隊列，用于 緩存信息提交裝置11提交的信息。WEB服務器還用于將信息提交裝置11提交的信息插入 到信息隊列裝置13中的信息隊列。當信息的危險程度分值超出了預設的危險程度閥值時，可能需要對信息中的非法 詞進行屏蔽或替換，因此本系統(tǒng)還包括信息修改裝置15。信息修改裝置15可以對非法詞進 行自動修改。圖2出示了采用圖1所示系統(tǒng)發(fā)布網(wǎng)絡信息的流程，包括以下步驟(1)初始化非法詞庫17，將非法詞庫17導入到信息評估裝置14中。(2)信息提交裝置11提交信息。用戶在信息編輯器中編輯完信息后，信息提交裝置12將該信息提交到WEB服務器 12中，WEB服務器12接收該信息，并將該信息插入到信息隊列裝置13中信息隊列的隊尾， 等待后續(xù)處理。(3)信息評估裝置14從信息隊列中逐條取出信息，對信息的危險程度進行評估， 并給出該信息的危險程度分值。信息評估裝置14首先根據(jù)非法詞庫17檢測信息中包含的所有非法詞，然后將所 有非法詞的危險分值相加，總和作為該信息的危險程度分值。(4)信息評估裝置14判斷該信息的危險程度分值是否超過預設的危險程度閥值，并根據(jù)判斷結果對信息進行相應的處理。當信息中不包含非法詞，即危險程度分值為0時，信息發(fā)布裝置16直接將該信息 發(fā)布到網(wǎng)絡上。當信息的危險程度分值大于或等于危險程度閥值時，發(fā)出報警信息。發(fā)出報警信 息后，可以由信息修改裝置15自動對該信息中的非法詞進行屏蔽或修改，然后再由信息發(fā) 布裝置16發(fā)布到網(wǎng)絡上；或者由審核人員進行人工審核，決定該信息是否可以直接發(fā)布到 網(wǎng)絡上，或修改后發(fā)布到網(wǎng)絡上，或不發(fā)布到網(wǎng)絡上。當信息中含有非法詞，但其危險程度分值低于預設的危險程度閥值時，信息發(fā)布 裝置16直接將該信息發(fā)布網(wǎng)絡上，同時發(fā)出提示信息，提示審核人員進行審核。如果發(fā)現(xiàn) 有必須屏蔽或修改的非法詞、或者該信息不適宜發(fā)布時，對該信息進行修改后再重新發(fā)布 或者刪除該發(fā)布后的信息，這樣可以不影響信息發(fā)布的實時性。實施例1本實施例中，某網(wǎng)站定義的非法詞庫包括“法輪” 一詞，其危險分值為10分(危險 分值范圍為1-10分，分數(shù)越高，危險程度越高)，對一篇文章的危險程度閥值設定為10分。某用戶通過信息編輯器撰寫了一篇文章，內容中兩次包含了 “魔法輪船”這個詞。 信息提交裝置11將該篇文章提交給WEB服務器，TOB服務器將其插入到信息隊列裝置13的 信息隊列中。當信息評估裝置14從消息隊列裝置13的信息隊列中提取出這篇文章后，檢 測到其中包含“法輪”一詞兩次，因此該篇文章的危險程度分值為20，大于危險程度閥值10 分，故發(fā)出報警信息，提示該篇文章由審核人員進行人工審核。審核人員發(fā)現(xiàn)在此語境下， “法輪”兩個字不構成威脅，因此利用信息發(fā)布裝置16將該篇文章直接發(fā)布到網(wǎng)絡上。如果 通過傳統(tǒng)的方式直接替換的話，那么用戶就會看到類似“魔**船”一詞，顯然這種屏蔽是不 準確的，會引起用戶的誤讀。實施例2與實施例1不同的是在發(fā)出報警信息后，由信息修改裝置15直接對信息進行修 改，然后發(fā)布到網(wǎng)絡上。審核人員收到報警信息后，可以進行人工審核，如果認為修改不當 或者該信息不宜發(fā)布，則可以對發(fā)布后的信息再進行修改后重新發(fā)布或者將發(fā)布后的信息 刪除。這樣，可以加快信息發(fā)布的效率，實現(xiàn)信息發(fā)布的實時性。通過上面的描述可知本發(fā)明所述方法及系統(tǒng)能夠快速地評估出危險程度較高的 信息，對危險程度較低的信息或者對危險程度較高的信息自動修改后，將其發(fā)布到網(wǎng)絡上， 從而保證了信息發(fā)布的實時性；同時又兼顧了信息修改的準確性，并提高了信息發(fā)布的效率。顯然，本領域的技術人員可以對本發(fā)明進行各種改動和變型而不脫離本發(fā)明的精 神和范圍。這樣，倘若本發(fā)明的這些修改和變型屬于本發(fā)明權利要求及其同等技術的范圍 之內，則本發(fā)明也意圖包含這些改動和變型在內。
權利要求
1.一種網(wǎng)絡信息的發(fā)布方法，包括以下步驟(1)將信息提交到網(wǎng)絡；(2)對信息的危險程度進行評估，并給出信息的危險程度分值；(3)判斷信息的危險程度分值是否達到或超出預設的危險程度閥值；如是，則發(fā)出報 警信息；如否，則直接將該信息發(fā)布到網(wǎng)絡上。
2.如權利要求1所述的一種網(wǎng)絡信息的發(fā)布方法，其特征在于步驟(1)中，信息提交 到網(wǎng)絡后，將該信息插入到信息隊列中。
3.如權利要求2所述的一種網(wǎng)絡信息的發(fā)布方法，其特征在于步驟O)中，從信息隊 列中逐條取出信息，進行危險程度評估。
4.如權利要求1至3之一所述的一種網(wǎng)絡信息的發(fā)布方法，其特征在于步驟O)中， 對信息的危險程度進行評估，并給出信息的危險程度分值的具體過程為根據(jù)預先建立的 非法詞庫，檢測信息中包含的所有非法詞，將所有非法詞的危險程度分值相加，總和作為該 信息的危險程度分值；所述非法詞庫用于存儲具有危險分值的非法詞。
5.如權利要求1至3之一所述的一種網(wǎng)絡信息的發(fā)布方法，其特征在于步驟(3)中， 發(fā)出報警信息后，采用自動將非法詞屏蔽或替換方式對該信息進行修改，然后發(fā)布到網(wǎng)絡 上。
6.如權利要求1至3之一所述的一種網(wǎng)絡信息的發(fā)布方法，其特征在于步驟(3)中， 發(fā)出報警信息后，采用人工審核方式確定信息是否能夠直接發(fā)布、或者經(jīng)過修改后發(fā)布、或 者不發(fā)布。
7.如權利要求1至3之一所述的一種網(wǎng)絡信息的發(fā)布方法，其特征在于步驟(3)中， 當信息中含有非法詞，但其危險程度分值低于預設的危險程度閥值時，在將該信息發(fā)布到 網(wǎng)絡上的同時，發(fā)出提示信息。
8.—種網(wǎng)絡信息的發(fā)布系統(tǒng)，包括用于將信息提交到WEB服務器(12)的信息提交裝置 (11)；用于接收信息提交裝置(11)提交的信息的WEB服務器(12)；用于根據(jù)非法詞庫(17) 對信息的危險程度進行評估，并判斷該信息的危險程度分值是否達到或超過預設的危險程 度閥值的信息評估裝置(14)；用于將信息發(fā)布到網(wǎng)絡上的信息發(fā)布裝置(16)；以及用于存 儲具有危險分值的非法詞的非法詞庫(17)。
9.如權利要求8所述的一種網(wǎng)絡信息的發(fā)布系統(tǒng)，其特征在于所述系統(tǒng)還包括用于 將信息提交裝置(11)提交的信息緩存到信息隊列的信息隊列裝置(13) ；WEB服務器(12) 還用于將信息提交裝置(11)提交的信息插入到信息隊列裝置(13)中的信息隊列。
10.如權利要求8或9所述的一種網(wǎng)絡信息的發(fā)布系統(tǒng)，其特征在于所述系統(tǒng)還包括 用于對達到或超過預設危險程度的信息進行修改的信息修改裝置(15)。
全文摘要
本發(fā)明公開了一種網(wǎng)絡信息的發(fā)布方法及系統(tǒng)，屬于信息發(fā)布技術領域?，F(xiàn)有技術中，通常采用自動過濾非法字符或者全人工審核方式，準確性差或者效率低。本發(fā)明首先對現(xiàn)有的或自定義的非法詞庫中的非法詞設定危險分值，可以根據(jù)非法詞的危險程度設置不同的分值；用戶提交信息后，對該信息的危險程度進行評估；將信息中包含的所有非法詞的總分值作為該信息的危險程度分值，然后判斷該信息的危險程度分值是否超出了預設的危險程度閥值，并根據(jù)判斷結果對該信息進行相應的處理。與現(xiàn)有的自動過濾非法字符的方式相比，提高了非法詞替換的準確性；與人工審核的方式相比，提高了信息發(fā)布的效率。
文檔編號G06F17/20GK102087641SQ20091024228
公開日2011年6月8日 申請日期2009年12月8日 優(yōu)先權日2009年12月8日
發(fā)明者朱建波, 楊慶東, 陳志雄 申請人:北京北大方正電子有限公司, 北大方正集團有限公司