技術(shù)編號：39344014
提示：您尚未登錄，請點(diǎn) 登 陸 后下載，如果您還沒有賬戶請點(diǎn) 注 冊 ，登陸完成后，請刷新本頁查看技術(shù)詳細(xì)信息。本公開涉及互聯(lián)網(wǎng)，尤其涉及自然語言處理、大語言模型、語音識別、云服務(wù)等人工智能。提供了一種大語言模型的推理方法、裝置、電子設(shè)備與可讀存儲介質(zhì)。背景技術(shù)、隨著大語言模型技術(shù)的發(fā)展越來越快，更多的用戶開始利用大語言模型來滿足工作和生活中的需求或者所遇到的問題。在實(shí)際使用過程中，用戶對于大語言模型的延遲有著越來越高的要求，尤其對語音對話場景，用戶希望在發(fā)出語音提問之后，大語言模型可以在較短的時間內(nèi)進(jìn)行答復(fù)，因此如何提升大語言模型的推理速度是亟待解決的技術(shù)問題。技術(shù)實(shí)現(xiàn)思路、根據(jù)本公開的第一方面，提...
注意：該技術(shù)已申請專利，請尊重研發(fā)人員的辛勤研發(fā)付出，在未取得專利權(quán)人授權(quán)前，僅供技術(shù)研究參考不得用于商業(yè)用途。
該專利適合技術(shù)人員進(jìn)行技術(shù)研發(fā)參考以及查看自身技術(shù)是否侵權(quán)，增加技術(shù)思路，做技術(shù)知識儲備，不適合論文引用。