国产精品1024永久观看,大尺度欧美暖暖视频在线观看,亚洲宅男精品一区在线观看,欧美日韩一区二区三区视频,2021中文字幕在线观看

  • <option id="fbvk0"></option>
    1. <rt id="fbvk0"><tr id="fbvk0"></tr></rt>
      <center id="fbvk0"><optgroup id="fbvk0"></optgroup></center>
      <center id="fbvk0"></center>

      <li id="fbvk0"><abbr id="fbvk0"><dl id="fbvk0"></dl></abbr></li>

      多模態(tài)數(shù)據(jù)融合控制方法、裝置、設(shè)備及介質(zhì)

      文檔序號:39622719發(fā)布日期:2024-10-11 13:44閱讀:來源:國知局

      技術(shù)特征:

      1.一種多模態(tài)數(shù)據(jù)融合控制方法,其特征在于,所述方法包括:

      2.根據(jù)權(quán)利要求1所述的多模態(tài)數(shù)據(jù)融合控制方法,其特征在于,當(dāng)至少兩種模態(tài)數(shù)據(jù)包含文本和圖像時,對至少兩種模態(tài)數(shù)據(jù)分別進行特征提取和嵌入映射,得到初始的不同模態(tài)嵌入表示,包括:

      3.根據(jù)權(quán)利要求2所述的多模態(tài)數(shù)據(jù)融合控制方法,其特征在于,在embedding層使用跨模態(tài)注意力對初始的不同模態(tài)嵌入表示進行交互融合,得到跨模態(tài)融合特征,包括:

      4.根據(jù)權(quán)利要求3所述的多模態(tài)數(shù)據(jù)融合控制方法,其特征在于,在transformer編碼器的每一層中使用跨模態(tài)注意力對所述跨模態(tài)融合特征進行融合,得到多層次跨模態(tài)融合特征,包括:

      5.根據(jù)權(quán)利要求1所述的多模態(tài)數(shù)據(jù)融合控制方法,其特征在于,根據(jù)所述多層次跨模態(tài)融合特征和當(dāng)前解碼隱藏狀態(tài),動態(tài)預(yù)測不同模態(tài)在當(dāng)前時間步的重要性權(quán)重,并利用所述重要性權(quán)重結(jié)合所述多層次跨模態(tài)融合特征,得到自適應(yīng)多模態(tài)融合特征,包括:

      6.根據(jù)權(quán)利要求1所述的多模態(tài)數(shù)據(jù)融合控制方法,其特征在于,通過最小化不同模態(tài)特征之間的對比損失,包括:

      7.根據(jù)權(quán)利要求1所述的多模態(tài)數(shù)據(jù)融合控制方法,其特征在于,實時評估生成內(nèi)容與其中一種模態(tài)數(shù)據(jù)之間的相關(guān)性,包括:

      8.一種多模態(tài)數(shù)據(jù)融合控制裝置,其特征在于,所述裝置包括:

      9.一種多模態(tài)數(shù)據(jù)融合控制設(shè)備,其特征在于,所述設(shè)備包括:

      10.一種計算機可讀存儲介質(zhì),其特征在于,所述計算機可讀存儲介質(zhì)上存儲有計算機程序,所述計算機程序被處理器執(zhí)行時實現(xiàn)如權(quán)利要求1至7任一項所述的多模態(tài)數(shù)據(jù)融合控制方法的步驟。


      技術(shù)總結(jié)
      本發(fā)明涉及計算機技術(shù)領(lǐng)域,公開了一種多模態(tài)數(shù)據(jù)融合控制方法、裝置、設(shè)備及介質(zhì),該方法通過在預(yù)訓(xùn)練語言模型的Embedding層和Transformer編碼器層引入跨模態(tài)注意力,實現(xiàn)模態(tài)間信息在不同語義層次上的充分融合,形成富有層次性和語義交互性的多模態(tài)表示;自適應(yīng)地調(diào)節(jié)不同模態(tài)信息在多模態(tài)融合過程中的重要性權(quán)重,實現(xiàn)靈活、動態(tài)的跨模態(tài)信息交互,提高模型在不同場景下的適應(yīng)能力和泛化能力;顯式地轉(zhuǎn)化生成內(nèi)容與源輸入在語義層面的一致性,并實時評估生成內(nèi)容與其中一種模態(tài)數(shù)據(jù)之間的相關(guān)性,提高模型輸出內(nèi)容的準確性、相關(guān)性和可靠性,這樣顯著提升模型在跨模態(tài)理解和生成任務(wù)中的性能表現(xiàn),提高硬件處理效率。

      技術(shù)研發(fā)人員:鐘鎮(zhèn)濤,王強
      受保護的技術(shù)使用者:浙江大學(xué)
      技術(shù)研發(fā)日:
      技術(shù)公布日:2024/10/10
      當(dāng)前第2頁1 2 
      網(wǎng)友詢問留言 已有0條留言
      • 還沒有人留言評論。精彩留言會獲得點贊!
      1