本發(fā)明涉及計算機，更具體的說是涉及一種基于人工智能的視頻審核系統(tǒng)及方法。

背景技術：

1、隨著互聯(lián)網教育的蓬勃興起，網絡上教學視頻的數(shù)量呈指數(shù)級增長，旨在滿足廣大用戶多元化的學習訴求。然而，這一知識傳播渠道的廣泛性也暴露了內容質量控制的挑戰(zhàn)：視頻資料在健康性、適宜性及觀看友好度方面存在顯著差異。傳統(tǒng)的視頻內容管理依賴于大規(guī)模的人工運營團隊執(zhí)行逐一審查，此方法不僅受限于巨大的時間與資源消耗，更因審查任務繁重而難以避免遺漏，導致審核效能與精確度雙雙打折，無法充分保障平臺內容的質量標準。

2、因此，如何提高視頻審核的效率和精度是本領域技術人員亟需解決的問題。

技術實現(xiàn)思路

1、有鑒于此，本發(fā)明提供了一種基于人工智能的視頻審核系統(tǒng)及方法，能夠通過ai實現(xiàn)自動審核，提高視頻的審核效率，同時，能夠根據(jù)不同的審核項目分別配置識別模型，能夠更準確地識別違規(guī)內容與質量問題，減少誤報與漏報。

2、為了實現(xiàn)上述目的，本發(fā)明采用如下技術方案：

3、一種基于人工智能的視頻審核系統(tǒng)，包括視頻數(shù)據(jù)采集模塊、策略配置模塊、ai審核模塊和復核模塊；

4、所述視頻數(shù)據(jù)采集模塊用于接收至少一種格式的視頻文件；

5、所述策略配置模塊用于供用戶配置ai審核的檢測參數(shù)；

6、所述ai審核模塊用于配置審核項目，并根據(jù)所述檢測參數(shù)針對各個選定的審核項目進行識別，對于識別的異常點，標記其在視頻文件中的時間戳、畫面截圖和置信度并基于視頻文件中生成鏈接；

7、所述復核模塊用于根據(jù)所述異常點的異常類別以及時間戳進行統(tǒng)計排序，生成可視化操作環(huán)境；用于接收用戶指令生成關于視頻文件的時序分析結果。

8、優(yōu)選的，所述ai審核模塊包括第一視頻預處理子模塊、視頻內容審核子模塊、第二視頻預處理子模塊和視頻質量審核子模塊。

9、所述第一視頻預處理子模塊用于根據(jù)第一配置信息對視頻文件進行抽幀和音頻提?。凰鲆曨l內容審核子模塊用于根據(jù)所述第一視頻預處理子模塊的輸出結果，針對預設的第一檢測項目進行檢測；所述視頻質量審核子模塊用于根據(jù)第二配置信息對視頻文件進行抽幀和音頻提?。挥糜趯μ崛〉囊纛l進行切片處理；所述第二視頻處理子模塊用于根據(jù)所述第二視頻預處理子模塊的輸出結果，針對預設的第二檢測項目進行檢測。

10、優(yōu)選的，所述視頻內容審核子模塊包括涉黃檢測單元、涉政檢測單元、涉敏檢測單元、廣告檢測單元和圖文檢測單元中的一種或多種。

11、優(yōu)選的，所述視頻質量審核子模塊包括黑屏檢測單元、白屏檢測單元、模糊檢測單元、馬賽克檢測單元、靜音檢測單元、聲音間斷檢測單元、音量過低檢測單元和音量過高檢測單元。

12、優(yōu)選的，所述ai審核模塊還包括敏感詞管理子模塊，所述敏感詞管理子模塊用于線下采集敏感詞黑名單文本，用于供所述視頻內容審核子模塊進行內容異常檢測。

13、優(yōu)選的，所述復核模塊包括異常統(tǒng)計子模塊、視頻放映子模塊和異常處理子模塊。

14、所述異常統(tǒng)計子模塊用于根據(jù)異常點的異常項分類，并根據(jù)異常點的時間戳進行排序；所述視頻放映子模塊用于播放視頻文件，并接收異常點選擇信號定位至相應的時間戳；異常處理子模塊用于對各個異常點進行關注或忽略處理。

15、優(yōu)選的，還包括審核詳情模塊和報告生成模塊；所述審核詳情模塊用于對所述復核模塊的復核結果進行存儲管理；所述報告生成模塊用于根據(jù)復核結果生成審核報告。

16、優(yōu)選的，還包括異常修正模塊，用于對視頻文件進行馬賽克處理、刪除、畫質增強、畫面修復和顏色糾偏。

17、一種基于人工智能的視頻審核方法，包括以下步驟：

18、s1：獲取待審核視頻。

19、s2：ai審核：

20、選擇審核項目，并根據(jù)各個審核項目的審核需求對待審核視頻進行預處理；對預處理后的結果進行異常識別，得到視頻中的異常點；將各個異常點標記為在視頻文件中的時間戳、畫面截圖和異常項類別置信度，并相應生成播放鏈接；

21、s3：復核：

22、統(tǒng)計異常點進行分類和排序，并生成可視化操作環(huán)境；接收外部操作信號，生成關于視頻文件的時序分析結果。

23、優(yōu)選的，步驟還包括：

24、s4：將s3的結果進行詳情展示，展示每個異常點的具體信息，包括畫面截圖、時間戳、異常類型置信度、復核處置方式以及相應的視頻跳轉鏈接。

25、s5：配置報告格式，生成審核報告。

26、經由上述的技術方案可知，與現(xiàn)有技術相比，本發(fā)明公開提供了一種基于人工智能的視頻審核系統(tǒng)及方法，能夠通過ai實現(xiàn)對不同審核項目的分別審核提高的效率和精度；通過復核得到的時序分析結果能夠直觀反應出視頻文件中的異常情況，有助于幫助上傳者快速修復異常問題。

技術特征：

1.一種基于人工智能的視頻審核系統(tǒng)，其特征在于，包括視頻數(shù)據(jù)采集模塊、策略配置模塊、ai審核模塊和復核模塊；

2.根據(jù)權利要求1所述的一種基于人工智能的視頻審核系統(tǒng)，其特征在于，所述ai審核模塊包括第一視頻預處理子模塊、視頻內容審核子模塊、第二視頻預處理子模塊和視頻質量審核子模塊；

3.根據(jù)權利要求2所述的一種基于人工智能的視頻審核系統(tǒng)，其特征在于，所述視頻內容審核子模塊包括涉黃檢測單元、涉政檢測單元、涉敏檢測單元、廣告檢測單元和圖文檢測單元中的一種或多種。

4.根據(jù)權利要求2所述的一種基于人工智能的視頻審核系統(tǒng)，其特征在于，所述視頻質量審核子模塊包括黑屏檢測單元、白屏檢測單元、模糊檢測單元、馬賽克檢測單元、靜音檢測單元、聲音間斷檢測單元、音量過低檢測單元和音量過高檢測單元。

5.根據(jù)權利要求2所述的一種基于人工智能的視頻審核系統(tǒng)，其特征在于，所述ai審核模塊還包括敏感詞管理子模塊，所述敏感詞管理子模塊用于線下采集敏感詞黑名單文本，用于供所述視頻內容審核子模塊進行內容異常檢測。

6.根據(jù)權利1所述的一種基于人工智能的視頻審核系統(tǒng)，其特征在于，所述復核模塊包括異常統(tǒng)計子模塊、視頻放映子模塊和異常處理子模塊；

7.根據(jù)權利1所述的一種基于人工智能的視頻審核系統(tǒng)，其特征在于，還包括審核詳情模塊和報告生成模塊；

8.根據(jù)權利要求1所述的一種基于人工智能的視頻審核系統(tǒng)，其特征在于，還包括異常修正模塊，用于對視頻文件進行馬賽克處理、刪除、畫質增強、畫面修復和顏色糾偏。

9.一種基于人工智能的視頻審核方法，其特征在于，包括以下步驟：

10.根據(jù)權利要求9所述的一種基于人工智能的視頻審核方法，其特征在于，步驟還包括：

技術總結
本發(fā)明公開了一種基于人工智能的視頻審核系統(tǒng)及方法，該系統(tǒng)包括視頻數(shù)據(jù)采集模塊用于接收至少一種格式的視頻文件；策略配置模塊用于供用戶配置AI審核的檢測參數(shù)；AI審核模塊用于配置審核項目，并根據(jù)檢測參數(shù)針對各個選定的審核項目進行識別，對于識別的異常點，標記其在視頻文件中的時間戳、畫面截圖和置信度并基于視頻文件中生成鏈接；復核模塊用于根據(jù)異常點的異常類別以及時間戳進行統(tǒng)計排序，生成可視化操作環(huán)境；用于接收用戶指令生成關于視頻文件的時序分析結果；本發(fā)明通過AI實現(xiàn)對不同審核項目的分別審核提高了效率和精度；通過復核得到的時序分析結果能夠直觀反應出視頻文件中的異常情況，有助于幫助上傳者快速修復異常問題。

技術研發(fā)人員：邱雪茵,吳家圣,馮唐泉,陳苑琪,郭宜紋,蔡佳峰,王兆均
受保護的技術使用者：暗物質（北京）智能科技有限公司
技術研發(fā)日：
技術公布日：2024/12/10