本技術涉及大模型驅動領域,且更為在本技術的實施例中,涉及一種大模型驅動的客訴歸因系統(tǒng)。
背景技術:
1、隨著電子商務的發(fā)展,智能客服系統(tǒng)已成為商家處理客戶咨詢的重要工具。特別是對于跨境電商而言,面對來自全球不同地區(qū)、使用多種語言的客戶,處理大量的客戶反饋是一項巨大挑戰(zhàn)。傳統(tǒng)的處理方式通常依賴人工客服,但由于語言障礙以及客戶反饋數(shù)量龐大,這種方法效率低下且容易出錯。
2、目前,現(xiàn)有一些技術在處理客戶投訴(客訴)分類時,主要通過預先訓練分類模型的方式來運作。這意味著在模型部署前,需要有大量的標注數(shù)據(jù)來訓練模型,使之能夠識別和分類不同的客訴情形。這種方式限制了現(xiàn)有客訴歸因系統(tǒng)的靈活性和準確性,此外,無法靈活地將特定客訴作為例外情況傳達給模型,告訴模型要進行例外情況的特殊處理。
3、近年來,大語言模型(llm)的發(fā)展為解決上述技術問題提供了新的途徑。llm具有處理跨語言復雜自然語言描述的能力,能夠理解客戶反饋并對其進行歸因分析,如識別出“產品質量差”或“物流延遲”等問題。相比于傳統(tǒng)方法,llm的強大理解力使得無需預先訓練專門的分類模型,并且能夠更好地處理語氣詞、方言俚語等非標準化語言表達。通過應用大語言模型,能夠提高客訴分類的準確性以及系統(tǒng)的適應能力。
4、此外,為了進一步提高分類的準確性和適應性,檢索增強生成(rag)技術也被引入。rag利用嵌入模型將自然語言客戶反饋文本數(shù)據(jù)轉換為向量形式,并存儲在知識庫中。當接收到新的查詢請求時,系統(tǒng)會將此請求也轉化為向量形式,并與知識庫中的向量進行對比,找到最相關的記錄作為上下文信息加入到llm的提示詞中來得到提示信息,以此來優(yōu)化客訴分類結果。這種方式特別適用于那些需要特殊處理的復雜案例,可以作為校正或干預llm預期結果的方法。也就是說,特別地,在本技術的技術方案中,知識庫主要用來存儲一些特別困難或需要特殊處理的客訴判例,如果不在提示詞中向llm給出這些提示信息,那么僅使用llm已有的知識,得不到預期的客訴分類結果。所以通過應用rag技術,可以作為一種校正或者干預llm預期結果的方法。而對于一些普通的,按照常理可以順利推斷出結果的客訴,并沒有必要在rag中存儲其結果。
5、因此,期望一種優(yōu)化的客訴歸因系統(tǒng)。
技術實現(xiàn)思路
1、為了解決上述技術問題,提出了本技術。本技術的實施例提供了一種大模型驅動的客訴歸因系統(tǒng),其通過對知識庫中的各條記錄采用與客戶反饋文本數(shù)據(jù)相同的編碼方式后,再將客戶反饋語義分別和各個記錄語義進行特征間顯著引導語義特征交互處理,以此來對客戶反饋語義和知識庫中的各個記錄語義進行匹配度評估,從而返回出與客戶反饋語義匹配度較高的若干條記錄作為匹配結果。這樣,能夠自動從知識庫中匹配出與客戶反饋語義相關的記錄,并將其作為上下文信息提供給llm以確??驮V分類的準確性,進而增強客訴歸因系統(tǒng)的靈活性和適應性,為商家及時處理客戶反饋信息和提供更好的服務提供基礎。
2、根據(jù)本技術的一個方面,提供了一種大模型驅動的客訴歸因系統(tǒng),其包括:客戶反饋數(shù)據(jù)采集模塊,用于獲取客戶反饋文本數(shù)據(jù);客戶反饋文本語義編碼模塊,用于對所述客戶反饋文本數(shù)據(jù)進行語義嵌入編碼以得到客戶反饋語義編碼向量;記錄匹配模塊,用于基于客戶反饋語義編碼向量,從知識庫匹配出若干條記錄,所述記錄包括客戶反饋記錄文本數(shù)據(jù)和分類標簽;大模型提示詞填充模塊,用于將所述客戶反饋文本數(shù)據(jù)和所述若干條記錄作為上下文信息填充到大語言模型的提示詞中以得到提示信息;客訴歸因分類模塊,用于基于所述提示信息,確定所述客戶反饋文本數(shù)據(jù)的客訴分類結果。
3、在上述大模型驅動的客訴歸因系統(tǒng)中,所述記錄匹配模塊,包括:知識庫記錄語義嵌入編碼單元,用于對所述知識庫中的各條記錄進行語義嵌入編碼以得到記錄語義嵌入編碼向量的集合;語義特征聯(lián)合顯著融合單元,用于對所述客戶反饋語義編碼向量和所述記錄語義嵌入編碼向量的集合中的各個記錄語義嵌入編碼向量分別進行語義特征聯(lián)合顯著融合以得到客戶反饋-記錄語義聯(lián)合顯著融合表示,包括:聯(lián)合隱式特征分析激活處理子單元,用于對所述客戶反饋語義編碼向量和所述記錄語義嵌入編碼向量進行聯(lián)合隱式特征分析和激活處理以得到客戶反饋-記錄語義條件特征;特征交互融合子單元,用于以所述客戶反饋-記錄語義條件特征為條件信息,對所述客戶反饋語義編碼向量和所述記錄語義嵌入編碼向量進行特征交互融合以得到所述客戶反饋-記錄語義聯(lián)合顯著融合表示;匹配度估計值分析單元,用于基于所述客戶反饋-記錄語義聯(lián)合顯著融合表示進行匹配度評估,確定匹配度估計值,并確定是否返回某條記錄作為匹配結果。
4、在上述大模型驅動的客訴歸因系統(tǒng)中,所述聯(lián)合隱式特征分析激活處理子單元,包括:聯(lián)合隱式特征捕獲卷積編碼二級子單元,用于將所述客戶反饋語義編碼向量和所述記錄語義嵌入編碼向量輸入聯(lián)合隱式特征捕獲網絡以得到客戶反饋-記錄語義聯(lián)合隱式特征向量;客戶反饋-記錄語義聯(lián)合隱式特征激活二級子單元,用于對所述客戶反饋-記錄語義聯(lián)合隱式特征向量進行基于sigmoid函數(shù)的特征激活以得到客戶反饋-記錄語義條件特征向量作為所述客戶反饋-記錄語義條件特征。
5、在上述大模型驅動的客訴歸因系統(tǒng)中,所述聯(lián)合隱式特征捕獲卷積編碼二級子單元,用于:將所述客戶反饋語義編碼向量和所述記錄語義嵌入編碼向量進行按位置點加后,將得到的客戶反饋-記錄語義加和向量與權重矩陣進行相乘后再與偏置向量進行按位置相加以得到客戶反饋-記錄語義聯(lián)合交互向量;使用tanh函數(shù)對所述客戶反饋-記錄語義聯(lián)合交互向量進行處理以得到所述客戶反饋-記錄語義聯(lián)合隱式特征向量。
6、在上述大模型驅動的客訴歸因系統(tǒng)中,所述特征交互融合子單元,包括:客戶反饋語義貢獻度計算二級子單元,用于計算所述客戶反饋語義編碼向量相對于所述客戶反饋-記錄語義條件特征向量的客戶反饋語義貢獻度;記錄語義貢獻度計算二級子單元,用于計算所述記錄語義嵌入編碼向量相對于所述客戶反饋-記錄語義條件特征向量的記錄語義貢獻度;加權調制二級子單元,用于對所述客戶反饋語義貢獻度和所述記錄語義貢獻度進行歸一化處理,并使用歸一化后的客戶反饋語義貢獻度和歸一化后的記錄語義貢獻度對所述客戶反饋語義編碼向量和所述記錄語義嵌入編碼向量進行加權調制以得到調制后客戶反饋語義編碼向量和調制后記錄語義嵌入編碼向量;特征間顯著引導交互二級子單元,用于以所述調制后客戶反饋語義編碼向量作為查詢向量、以所述調制后記錄語義嵌入編碼向量作為鍵向量且以所述客戶反饋-記錄語義條件特征向量作為值向量,將所述調制后客戶反饋語義編碼向量、所述調制后記錄語義嵌入編碼向量和所述客戶反饋-記錄語義條件特征向量輸入基于轉換器結構的特征間顯著引導交互模塊以得到客戶反饋-記錄語義聯(lián)合顯著融合表示向量作為所述客戶反饋-記錄語義聯(lián)合顯著融合表示。
7、在上述大模型驅動的客訴歸因系統(tǒng)中,所述客戶反饋語義貢獻度計算二級子單元,用于:計算所述客戶反饋語義編碼向量與所述客戶反饋-記錄語義條件特征向量的按位置除法以得到客戶反饋語義貢獻向量;計算所述客戶反饋語義貢獻向量的每個特征值的絕對值的以二為底的對數(shù)函數(shù)值以得到客戶反饋語義貢獻對數(shù)向量;計算所述客戶反饋語義編碼向量與所述客戶反饋語義貢獻對數(shù)向量的按位置點乘,并將得到的點乘向量進行逐位置點加以得到客戶反饋語義貢獻值;計算以自然常數(shù)e為底的,所述客戶反饋語義貢獻值為指數(shù)的指數(shù)函數(shù)以獲得所述客戶反饋語義貢獻度。
8、在上述大模型驅動的客訴歸因系統(tǒng)中,所述加權調制二級子單元,用于:計算所述客戶反饋語義貢獻度和所述記錄語義貢獻度的加和值以得到客戶反饋-記錄語義貢獻總加和值;分別將所述客戶反饋語義貢獻度和所述記錄語義貢獻度除以所述客戶反饋-記錄語義貢獻總加和值以得到所述歸一化后的客戶反饋語義貢獻度和所述歸一化后的記錄語義貢獻度;將所述客戶反饋語義編碼向量與所述歸一化后的客戶反饋語義貢獻度進行按位置點乘以得到所述調制后客戶反饋語義編碼向量;將所述記錄語義嵌入編碼向量與所述歸一化后的記錄語義貢獻度進行按位置點乘以得到所述調制后記錄語義嵌入編碼向量。
9、在上述大模型驅動的客訴歸因系統(tǒng)中,所述特征間顯著引導交互二級子單元,用于:將所述調制后客戶反饋語義編碼向量與所述調制后記錄語義嵌入編碼向量的轉置向量進行向量相乘,將得到的調制后客戶反饋-記錄語義關聯(lián)矩陣與所述調制后記錄語義嵌入編碼向量的長度的平方根進行按位置相除以得到調制后客戶反饋-記錄語義關聯(lián)縮放矩陣;使用softmax函數(shù)對所述調制后客戶反饋-記錄語義關聯(lián)縮放矩陣進行激活處理,并將得到的調制后客戶反饋-記錄語義關聯(lián)縮放激活矩陣與所述客戶反饋-記錄語義條件特征向量進行相乘以得到所述客戶反饋-記錄語義聯(lián)合顯著融合表示向量。
10、在上述大模型驅動的客訴歸因系統(tǒng)中,所述匹配度估計值分析單元,用于:將所述客戶反饋-記錄語義聯(lián)合顯著融合表示向量輸入基于解碼器的匹配度評估模塊以得到匹配度估計值;基于所述匹配度估計值與預設閾值之間的比較,確定是否返回某條記錄作為匹配結果。
11、與現(xiàn)有技術相比,本技術提供的一種大模型驅動的客訴歸因系統(tǒng),其通過對知識庫中的各條記錄采用與客戶反饋文本數(shù)據(jù)相同的編碼方式后,再將客戶反饋語義分別和各個記錄語義進行特征間顯著引導語義特征交互處理,以此來對客戶反饋語義和知識庫中的各個記錄語義進行匹配度評估,從而返回出與客戶反饋語義匹配度較高的若干條記錄作為匹配結果。這樣,能夠自動從知識庫中匹配出與客戶反饋語義相關的記錄,并將其作為上下文信息提供給llm以確??驮V分類的準確性,進而增強客訴歸因系統(tǒng)的靈活性和適應性,為商家及時處理客戶反饋信息和提供更好的服務提供基礎。