技術(shù)特征：

1.一種基于大模型的拒識(shí)拒答方法，其特征在于，包括如下步驟：

2.根據(jù)權(quán)利要求1所述的一種基于大模型的拒識(shí)拒答方法，其特征在于，所述步驟s3具體包括：

3.根據(jù)權(quán)利要求1所述的一種基于大模型的拒識(shí)拒答方法，其特征在于，所述步驟s4具體包括：

4.根據(jù)權(quán)利要求3所述的一種基于大模型的拒識(shí)拒答方法，其特征在于，對(duì)用戶提交的問題文本、以及標(biāo)記或攔截內(nèi)容進(jìn)行人工審核，根據(jù)問題文本的誤報(bào)率和漏報(bào)率調(diào)整設(shè)定的距離閾值：

5.根據(jù)權(quán)利要求1所述的一種基于大模型的拒識(shí)拒答方法，其特征在于，執(zhí)行步驟s1，對(duì)用戶提交的問題文本進(jìn)行去除標(biāo)點(diǎn)符號(hào)、停用詞、文本規(guī)范化、詞干提取或詞形還原的預(yù)處理操作；

6.一種基于大模型的拒識(shí)拒答系統(tǒng)，其特征在于，其包括：

7.根據(jù)權(quán)利要求6所述的一種基于大模型的拒識(shí)拒答系統(tǒng)，其特征在于，所述定義構(gòu)建模塊具體包括：

8.根據(jù)權(quán)利要求6所述的一種基于大模型的拒識(shí)拒答系統(tǒng)，其特征在于，所述計(jì)算返回模塊具體包括：

9.根據(jù)權(quán)利要求8所述的一種基于大模型的拒識(shí)拒答系統(tǒng)，其特征在于，對(duì)用戶提交的問題文本、以及標(biāo)記或攔截內(nèi)容進(jìn)行人工審核，根據(jù)問題文本的誤報(bào)率和漏報(bào)率調(diào)整設(shè)定的距離閾值：

10.根據(jù)權(quán)利要求6所述的一種基于大模型的拒識(shí)拒答系統(tǒng)，其特征在于，所述預(yù)處理模塊對(duì)用戶提交的問題文本進(jìn)行去除標(biāo)點(diǎn)符號(hào)、停用詞、文本規(guī)范化、詞干提取或詞形還原的預(yù)處理操作；

技術(shù)總結(jié)
本發(fā)明公開一種基于大模型的拒識(shí)拒答方法及系統(tǒng)，涉及網(wǎng)絡(luò)安全技術(shù)領(lǐng)域，方法包括：對(duì)用戶提交的問題文本進(jìn)行預(yù)處理；選擇并加載預(yù)訓(xùn)練的大模型，大模型將預(yù)處理后的問題文本轉(zhuǎn)換為嵌入向量；定義非法內(nèi)容，構(gòu)建索引庫；計(jì)算用戶所提交問題文本與索引庫中非法內(nèi)容的距離值，根據(jù)計(jì)算結(jié)果，觸發(fā)拒答條件，自動(dòng)判定該問題文本存在非法風(fēng)險(xiǎn)，隨后采取標(biāo)記或攔截措施，并反饋提示信息給對(duì)應(yīng)用戶，或者通過聯(lián)網(wǎng)搜索或者預(yù)先構(gòu)建的數(shù)據(jù)庫向用戶返回與問題文本對(duì)應(yīng)的答案。本發(fā)明可以提升網(wǎng)絡(luò)環(huán)境的和諧度與安全水平，通過智能攔截功能有效應(yīng)對(duì)各類網(wǎng)絡(luò)威脅。

技術(shù)研發(fā)人員：桑新靖,薛嬌,姜建彪,張忠瑞
受保護(hù)的技術(shù)使用者：浪潮云信息技術(shù)股份公司
技術(shù)研發(fā)日：
技術(shù)公布日：2024/12/10