本公開涉及一種用于通過預(yù)測多個(gè)裝置的狀態(tài)信息來確定多個(gè)裝置之間的人工神經(jīng)網(wǎng)絡(luò)的推斷分布比率的電子裝置以及該電子裝置的操作方法。

背景技術(shù)：

1、人工神經(jīng)網(wǎng)絡(luò)是指基于人腦或動(dòng)物大腦的神經(jīng)網(wǎng)絡(luò)并被實(shí)現(xiàn)為硬件或軟件的計(jì)算系統(tǒng)。在各種領(lǐng)域中通過使用人工神經(jīng)網(wǎng)絡(luò)的分類或推斷等來使用人工神經(jīng)網(wǎng)絡(luò)。

2、為了減少執(zhí)行人工神經(jīng)網(wǎng)絡(luò)的推斷的裝置的計(jì)算量，一個(gè)裝置不執(zhí)行人工神經(jīng)網(wǎng)絡(luò)的推斷，而是人工神經(jīng)網(wǎng)絡(luò)可被分割并因此可在多個(gè)裝置中執(zhí)行推斷過程。

3、對于人工神經(jīng)網(wǎng)絡(luò)的分布式推斷，可根據(jù)每一個(gè)裝置的功能對人工神經(jīng)網(wǎng)絡(luò)進(jìn)行分割，并且可根據(jù)分割比率在每一個(gè)裝置中分布式地執(zhí)行人工神經(jīng)網(wǎng)絡(luò)的推斷過程。

技術(shù)實(shí)現(xiàn)思路

1、技術(shù)方案

2、根據(jù)本公開的一方面，一種電子裝置可包括：存儲(chǔ)器，存儲(chǔ)狀態(tài)推斷模型和至少一個(gè)指令；收發(fā)器；以及至少一個(gè)處理器，被配置為執(zhí)行所述至少一個(gè)指令以進(jìn)行以下操作：經(jīng)由收發(fā)器獲得多個(gè)裝置中的每一個(gè)裝置在第一時(shí)間點(diǎn)的第一狀態(tài)信息，通過將第一狀態(tài)信息輸入到狀態(tài)推斷模型來獲得所述多個(gè)裝置中的每一個(gè)裝置在從第一時(shí)間點(diǎn)起預(yù)設(shè)時(shí)間間隔之后的第二時(shí)間點(diǎn)的第二狀態(tài)信息，以及基于所述多個(gè)裝置中的每一個(gè)裝置的第二狀態(tài)信息，確定所述多個(gè)裝置中的每一個(gè)裝置的人工神經(jīng)網(wǎng)絡(luò)的推斷分布比率，其中，所述電子裝置是基于所述多個(gè)裝置的網(wǎng)絡(luò)狀態(tài)在所述多個(gè)裝置中被確定的。

3、第一狀態(tài)信息和第二狀態(tài)信息中的每一個(gè)可包括所述多個(gè)裝置中的每一個(gè)裝置的中央處理器(cpu)的使用率、圖形處理器(gpu)的使用率、cpu的溫度、gpu的溫度、執(zhí)行的應(yīng)用的數(shù)量或運(yùn)行時(shí)間中的至少一個(gè)。

4、第二狀態(tài)信息可包括運(yùn)行時(shí)間，并且至少一個(gè)處理器還可被配置為執(zhí)行至少一個(gè)指令以進(jìn)行以下操作：對所述多個(gè)裝置中的每一個(gè)裝置的運(yùn)行時(shí)間的倒數(shù)進(jìn)行歸一化，并且將所述運(yùn)行時(shí)間的歸一化的倒數(shù)確定為所述多個(gè)裝置中的每一個(gè)裝置的所述人工神經(jīng)網(wǎng)絡(luò)的所述推斷分布比率。

5、所述至少一個(gè)處理器還可被配置為執(zhí)行所述至少一個(gè)指令以進(jìn)行以下操作：獲得在第一時(shí)間點(diǎn)的第三狀態(tài)信息，其中，第三狀態(tài)信息包括預(yù)設(shè)應(yīng)用是否可被執(zhí)行、屏幕是否開啟或相機(jī)是否被執(zhí)行中的至少一個(gè)；以及基于將第三狀態(tài)信息另外地輸入到所述狀態(tài)推斷模型來獲得第二狀態(tài)信息。

6、所述至少一個(gè)處理器還可被配置為執(zhí)行至少一個(gè)指令以進(jìn)行以下操作：經(jīng)由所述收發(fā)器將確定的所述推斷分布比率和所述人工神經(jīng)網(wǎng)絡(luò)的推斷起始點(diǎn)發(fā)送到所述多個(gè)裝置中的每一個(gè)裝置。

7、所述至少一個(gè)處理器還可被配置為執(zhí)行至少一個(gè)指令以進(jìn)行以下操作：根據(jù)確定的所述推斷分布比率對所述人工神經(jīng)網(wǎng)絡(luò)進(jìn)行分割，以及經(jīng)由所述收發(fā)器將分割的人工神經(jīng)網(wǎng)絡(luò)發(fā)送到與確定的所述推斷分布比率相應(yīng)的所述多個(gè)裝置中的每一個(gè)裝置。

8、所述狀態(tài)推斷模型可以是基于以下輸入被回歸訓(xùn)練的：在第三時(shí)間點(diǎn)的用于訓(xùn)練的狀態(tài)信息、以及在從第三時(shí)間點(diǎn)起預(yù)設(shè)時(shí)間間隔之后的第四時(shí)間點(diǎn)的目標(biāo)狀態(tài)信息。

9、所述網(wǎng)絡(luò)狀態(tài)可以是基于測試信息的多個(gè)裝置的網(wǎng)絡(luò)輸入/輸出(i/o)分組量，其中，所述測試信息是由從所述多個(gè)裝置中隨機(jī)選擇的第一裝置從所述多個(gè)裝置中的排除第一裝置的每一個(gè)裝置接收到的。

10、所述電子裝置可以是至少一個(gè)候選裝置之中的連接到有線網(wǎng)絡(luò)的候選裝置，其中，所述至少一個(gè)候選裝置可從所述多個(gè)裝置中被選擇并且具有等于或小于預(yù)設(shè)分組量的網(wǎng)絡(luò)i/o分組量。

11、所述電子裝置可以是所述至少一個(gè)候選裝置之中的具有最高gpu吞吐量的候選裝置。

12、根據(jù)本公開的一方面，一種由電子裝置執(zhí)行的方法包括：從多個(gè)裝置中的每一個(gè)裝置獲得在第一時(shí)間點(diǎn)的第一狀態(tài)信息；通過將第一狀態(tài)信息輸入到狀態(tài)推斷模型，獲得所述多個(gè)裝置中的每一個(gè)裝置在從第一時(shí)間點(diǎn)起預(yù)設(shè)時(shí)間間隔之后的第二時(shí)間點(diǎn)處的第二狀態(tài)信息；以及基于所述多個(gè)裝置中的每一個(gè)裝置的第二狀態(tài)信息，確定所述多個(gè)裝置中的每一個(gè)裝置的人工神經(jīng)網(wǎng)絡(luò)的推斷分布比率，其中，所述電子裝置是基于所述多個(gè)裝置的網(wǎng)絡(luò)狀態(tài)在所述多個(gè)裝置中被確定的。

13、第一狀態(tài)信息和第二狀態(tài)信息中的每一個(gè)包括所述多個(gè)裝置中的每一個(gè)裝置的中央處理器(cpu)的使用率、圖形處理器(gpu)的使用率、所述cpu的溫度、所述gpu的溫度、執(zhí)行的應(yīng)用的數(shù)目、或運(yùn)行時(shí)間中的至少一個(gè)。

14、第二狀態(tài)信息包括運(yùn)行時(shí)間，并且確定所述推斷分布比率的步驟包括：對所述多個(gè)裝置中的每一個(gè)裝置的運(yùn)行時(shí)間的倒數(shù)進(jìn)行歸一化；以及將運(yùn)行時(shí)間的歸一化的倒數(shù)確定為所述人工神經(jīng)網(wǎng)絡(luò)的所述推斷分布比率。

15、獲得第二狀態(tài)信息的步驟包括：獲得在第一時(shí)間點(diǎn)的第三狀態(tài)信息，其中，第三狀態(tài)信息包括預(yù)設(shè)應(yīng)用是否被執(zhí)行、屏幕是否開啟或相機(jī)是否被執(zhí)行中的至少一個(gè)；以及基于將第三狀態(tài)信息另外地輸入到所述狀態(tài)推斷模型來獲得第二狀態(tài)信息。

16、所述方法還可包括：將確定的所述推斷分布比率和所述人工神經(jīng)網(wǎng)絡(luò)的推斷起始點(diǎn)發(fā)送到所述多個(gè)裝置中的每一個(gè)裝置。

17、所述方法還可包括：根據(jù)確定的所述推斷分布比率對所述人工神經(jīng)網(wǎng)絡(luò)進(jìn)行分割；以及將分割的人工神經(jīng)網(wǎng)絡(luò)發(fā)送到與確定的所述推斷分布比率相應(yīng)的所述多個(gè)裝置中的每一個(gè)裝置。

18、所述狀態(tài)推斷模型可以是基于以下輸入被回歸訓(xùn)練的：在第三時(shí)間點(diǎn)的用于訓(xùn)練的狀態(tài)信息、以及在從第三時(shí)間點(diǎn)起預(yù)設(shè)時(shí)間間隔之后的第四時(shí)間點(diǎn)的目標(biāo)狀態(tài)信息。

19、所述網(wǎng)絡(luò)狀態(tài)是基于測試信息的多個(gè)裝置的網(wǎng)絡(luò)輸入/輸出(i/o)分組量，其中，所述測試信息是由從所述多個(gè)裝置中隨機(jī)選擇的第一裝置從所述多個(gè)裝置中的排除第一裝置的每一個(gè)裝置接收到的。

20、電子裝置可以是至少一個(gè)候選裝置之中的具有最高gpu吞吐量的候選裝置。

21、根據(jù)本公開的一個(gè)方面，一種非暫時(shí)性計(jì)算機(jī)可讀介質(zhì)存儲(chǔ)計(jì)算機(jī)可讀程序代碼或指令，其中，所述計(jì)算機(jī)可讀程序代碼或指令能夠由處理器執(zhí)行以執(zhí)行方法，所述方法包括：從包括電子裝置的多個(gè)裝置中的每一個(gè)裝置獲得在第一時(shí)間點(diǎn)的第一狀態(tài)信息；通過將第一狀態(tài)信息輸入到狀態(tài)推斷模型，獲取所述多個(gè)裝置中的每一個(gè)裝置在從第一時(shí)間點(diǎn)起預(yù)設(shè)時(shí)間間隔之后的第二時(shí)間點(diǎn)的第二狀態(tài)信息；以及基于所述多個(gè)裝置中的每一個(gè)裝置的第二狀態(tài)信息來確定所述多個(gè)裝置中的每一個(gè)裝置的人工神經(jīng)網(wǎng)絡(luò)的推斷分布比率，其中，所述電子裝置是基于所述多個(gè)裝置的網(wǎng)絡(luò)狀態(tài)從所述多個(gè)裝置中被確定的。

技術(shù)特征：

1.一種電子裝置，包括：

2.根據(jù)權(quán)利要求1所述的電子裝置，其中，第一狀態(tài)信息和第二狀態(tài)信息中的每一個(gè)包括所述多個(gè)裝置中的每一個(gè)裝置的中央處理器(cpu)的使用率、圖形處理器(gpu)的使用率、所述cpu的溫度、所述gpu的溫度、執(zhí)行的應(yīng)用的數(shù)量、或運(yùn)行時(shí)間中的至少一個(gè)。

3.根據(jù)權(quán)利要求1或2中任一項(xiàng)所述的電子裝置，其中，第二狀態(tài)信息包括運(yùn)行時(shí)間，并且所述至少一個(gè)處理器還被配置為執(zhí)行所述至少一個(gè)指令以進(jìn)行以下操作：

4.根據(jù)權(quán)利要求1至3中任一項(xiàng)所述的電子裝置，其中，所述至少一個(gè)處理器還被配置為執(zhí)行所述至少一個(gè)指令以進(jìn)行以下操作：

5.根據(jù)權(quán)利要求1至4中任一項(xiàng)所述的電子裝置，其中，所述至少一個(gè)處理器還被配置為執(zhí)行所述至少一個(gè)指令以進(jìn)行以下操作：經(jīng)由所述收發(fā)器將確定的所述推斷分布比率和所述人工神經(jīng)網(wǎng)絡(luò)的推斷起始點(diǎn)發(fā)送到所述多個(gè)裝置中的每一個(gè)裝置。

6.根據(jù)權(quán)利要求1至5中任一項(xiàng)所述的電子裝置，其中，所述至少一個(gè)處理器還被配置為執(zhí)行所述至少一個(gè)指令以進(jìn)行以下操作：

7.根據(jù)權(quán)利要求1至6中任一項(xiàng)所述的電子裝置，其中，所述狀態(tài)推斷模型是基于以下輸入被回歸訓(xùn)練的：在第三時(shí)間點(diǎn)的用于訓(xùn)練的狀態(tài)信息、以及在從第三時(shí)間點(diǎn)起預(yù)設(shè)時(shí)間間隔之后的第四時(shí)間點(diǎn)的目標(biāo)狀態(tài)信息。

8.根據(jù)權(quán)利要求1至7中任一項(xiàng)所述的電子裝置，其中，所述網(wǎng)絡(luò)狀態(tài)是基于測試信息的所述多個(gè)裝置的網(wǎng)絡(luò)輸入/輸出(i/o)分組量，其中，所述測試信息是由從所述多個(gè)裝置中隨機(jī)選擇的第一裝置從所述多個(gè)裝置中的排除第一裝置的每一個(gè)裝置接收到的。

9.根據(jù)權(quán)利要求8所述的電子裝置，其中，所述電子裝置是至少一個(gè)候選裝置之中的連接到有線網(wǎng)絡(luò)的候選裝置，其中，所述至少一個(gè)候選裝置從所述多個(gè)裝置中被選擇并且具有等于或小于預(yù)設(shè)分組量的網(wǎng)絡(luò)i/o分組量。

10.根據(jù)權(quán)利要求9所述的電子裝置，其中，所述電子裝置是所述至少一個(gè)候選裝置之中的具有最高gpu吞吐量的候選裝置。

11.一種由電子裝置執(zhí)行的方法，包括：

12.根據(jù)權(quán)利要求11所述的方法，其中，第一狀態(tài)信息和第二狀態(tài)信息中的每一個(gè)包括所述多個(gè)裝置中的每一個(gè)裝置的中央處理器(cpu)的使用率、圖形處理器(gpu)的使用率、所述cpu的溫度、所述gpu的溫度、執(zhí)行的應(yīng)用的數(shù)量、或運(yùn)行時(shí)間中的至少一個(gè)。

13.根據(jù)權(quán)利要求11或12中任一項(xiàng)所述的方法，其中，第二狀態(tài)信息包括運(yùn)行時(shí)間，并且確定所述推斷分布比率的步驟包括：

14.根據(jù)權(quán)利要求11或13中任一項(xiàng)所述的方法，其中，所述網(wǎng)絡(luò)狀態(tài)是基于測試信息的所述多個(gè)裝置的網(wǎng)絡(luò)輸入/輸出(i/o)分組量，其中，所述測試信息是由從所述多個(gè)裝置中隨機(jī)選擇的第一裝置從所述多個(gè)裝置中的排除第一裝置的每一個(gè)裝置接收到的。

15.一種用于存儲(chǔ)計(jì)算機(jī)可讀程序代碼或指令的非暫時(shí)性計(jì)算機(jī)可讀介質(zhì)，其中，所述計(jì)算機(jī)可讀程序代碼或指令能夠由處理器執(zhí)行以執(zhí)行方法，所述方法包括：

技術(shù)總結(jié)
提供了一種電子裝置，所述電子裝置包括：存儲(chǔ)器，存儲(chǔ)狀態(tài)推斷模型和至少一個(gè)指令；收發(fā)器；以及至少一個(gè)處理器，執(zhí)行所述至少一個(gè)指令，其中，所述至少一個(gè)處理器：經(jīng)由收發(fā)器從多個(gè)裝置中的每一個(gè)裝置獲得在第一時(shí)間點(diǎn)的第一狀態(tài)信息；將第一狀態(tài)信息輸入到狀態(tài)推斷模型來獲得所述多個(gè)裝置中的每一個(gè)裝置在從第一時(shí)間點(diǎn)起預(yù)設(shè)時(shí)間間隔之后發(fā)生的第二時(shí)間點(diǎn)的第二狀態(tài)信息；并且基于所述多個(gè)裝置中的每一個(gè)裝置的獲得的第二狀態(tài)信息，確定針對每一個(gè)裝置的人工神經(jīng)網(wǎng)絡(luò)的推斷分布比率，其中，所述電子裝置是基于所述多個(gè)裝置的網(wǎng)絡(luò)狀態(tài)從所述多個(gè)裝置中被確定的。

技術(shù)研發(fā)人員：樸燦鍾,丁載鎰,潘東河,張峻翼
受保護(hù)的技術(shù)使用者：三星電子株式會(huì)社
技術(shù)研發(fā)日：
技術(shù)公布日：2024/12/19