国产精品1024永久观看,大尺度欧美暖暖视频在线观看,亚洲宅男精品一区在线观看,欧美日韩一区二区三区视频,2021中文字幕在线观看

  • <option id="fbvk0"></option>
    1. <rt id="fbvk0"><tr id="fbvk0"></tr></rt>
      <center id="fbvk0"><optgroup id="fbvk0"></optgroup></center>
      <center id="fbvk0"></center>

      <li id="fbvk0"><abbr id="fbvk0"><dl id="fbvk0"></dl></abbr></li>

      一種邊云環(huán)境下卷積神經(jīng)網(wǎng)絡(luò)模型的協(xié)同推理方法

      文檔序號(hào):40405790發(fā)布日期:2024-12-20 12:29閱讀:來源:國知局

      技術(shù)特征:

      1.一種邊云環(huán)境下卷積神經(jīng)網(wǎng)絡(luò)模型的協(xié)同推理方法,其特征在于,基于由邊緣設(shè)備與云服務(wù)器構(gòu)成的邊-云協(xié)同推理系統(tǒng),卷積神經(jīng)網(wǎng)絡(luò)模型的協(xié)同推理方法包括:

      2.根據(jù)權(quán)利要求1所述的一種邊云環(huán)境下卷積神經(jīng)網(wǎng)絡(luò)模型的協(xié)同推理方法,其特征在于,所述有向無環(huán)圖表示為:

      3.根據(jù)權(quán)利要求2所述的一種邊云環(huán)境下卷積神經(jīng)網(wǎng)絡(luò)模型的協(xié)同推理方法,其特征在于,卷積神經(jīng)網(wǎng)絡(luò)模型中部署在邊緣設(shè)備上的模型層的推理時(shí)延之和表示為:

      4.根據(jù)權(quán)利要求1所述的一種邊云環(huán)境下卷積神經(jīng)網(wǎng)絡(luò)模型的協(xié)同推理方法,其特征在于,所述目標(biāo)函數(shù)為:

      5.根據(jù)權(quán)利要求1所述的一種邊云環(huán)境下卷積神經(jīng)網(wǎng)絡(luò)模型的協(xié)同推理方法,其特征在于,獲得卷積神經(jīng)網(wǎng)絡(luò)模型在異構(gòu)設(shè)備上各層的執(zhí)行時(shí)延以及各層輸出數(shù)據(jù),包括:

      6.根據(jù)權(quán)利要求1所述的一種邊云環(huán)境下卷積神經(jīng)網(wǎng)絡(luò)模型的協(xié)同推理方法,其特征在于,構(gòu)建預(yù)量化后的時(shí)延圖,包括:

      7.根據(jù)權(quán)利要求6所述的一種邊云環(huán)境下卷積神經(jīng)網(wǎng)絡(luò)模型的協(xié)同推理方法,其特征在于,基于卷積神經(jīng)網(wǎng)絡(luò)模型在異構(gòu)設(shè)備上各層的執(zhí)行時(shí)延以及各層輸出數(shù)據(jù)、規(guī)模優(yōu)化后有向無環(huán)圖以及各層預(yù)量化至int8位后輸出數(shù)據(jù)的大小,構(gòu)建預(yù)量化后的時(shí)延圖,包括:

      8.根據(jù)權(quán)利要求7所述的一種邊云環(huán)境下卷積神經(jīng)網(wǎng)絡(luò)模型的協(xié)同推理方法,其特征在于,所述特殊節(jié)點(diǎn)“”,“”和“”節(jié)點(diǎn)的時(shí)延和輸出大小設(shè)置為0;邊的容量屬性被設(shè)置為存儲(chǔ)在每個(gè)節(jié)點(diǎn)的層信息中的云端或邊緣時(shí)延值,“e”到“o”的無限容量表示進(jìn)入沒有約束,“o”到“c”的零容量表示沒有時(shí)延,以及“o”到第一層的容量為r,模擬目標(biāo)約束。

      9.根據(jù)權(quán)利要求1所述的一種邊云環(huán)境下卷積神經(jīng)網(wǎng)絡(luò)模型的協(xié)同推理方法,其特征在于,獲得給定卷積神經(jīng)網(wǎng)絡(luò)模型在異構(gòu)設(shè)備上協(xié)同推理決策,包括:

      10.一種計(jì)算機(jī)可讀存儲(chǔ)介質(zhì),其上存儲(chǔ)有計(jì)算機(jī)程序,其特征在于,該計(jì)算機(jī)程序被處理器執(zhí)行時(shí),實(shí)現(xiàn)如權(quán)利要求1-9中任一所述的一種邊云環(huán)境下卷積神經(jīng)網(wǎng)絡(luò)模型的協(xié)同推理方法。


      技術(shù)總結(jié)
      本發(fā)明公開了一種邊云環(huán)境下卷積神經(jīng)網(wǎng)絡(luò)模型的協(xié)同推理方法,包括:將卷積神經(jīng)網(wǎng)絡(luò)模型轉(zhuǎn)換為有向無環(huán)圖,并構(gòu)建邊?云協(xié)同推理系統(tǒng)的目標(biāo)函數(shù)與約束條件,在邊?云協(xié)同推理系統(tǒng)執(zhí)行給定的卷積神經(jīng)網(wǎng)絡(luò)模型,獲得卷積神經(jīng)網(wǎng)絡(luò)模型在異構(gòu)設(shè)備上各層的執(zhí)行時(shí)延以及各層輸出數(shù)據(jù),對有向無環(huán)圖合并節(jié)點(diǎn),獲得規(guī)模優(yōu)化后的有向無環(huán)圖;對卷積神經(jīng)網(wǎng)絡(luò)模型各層輸出數(shù)據(jù)進(jìn)行預(yù)量化,在規(guī)模優(yōu)化后的有向無環(huán)圖基礎(chǔ)上,根據(jù)各層在異構(gòu)設(shè)備上的執(zhí)行時(shí)延以及預(yù)量化后的各層輸出數(shù)據(jù)的傳輸時(shí)延,構(gòu)建預(yù)量化后的時(shí)延圖,計(jì)算時(shí)延圖中源點(diǎn)到匯點(diǎn)的最小割,進(jìn)行實(shí)際模型壓縮,獲得給定卷積神經(jīng)網(wǎng)絡(luò)模型在異構(gòu)設(shè)備上協(xié)同推理決策。

      技術(shù)研發(fā)人員:程勇,李茂文
      受保護(hù)的技術(shù)使用者:南京信息工程大學(xué)
      技術(shù)研發(fā)日:
      技術(shù)公布日:2024/12/19
      當(dāng)前第2頁1 2 
      網(wǎng)友詢問留言 已有0條留言
      • 還沒有人留言評論。精彩留言會(huì)獲得點(diǎn)贊!
      1