本發(fā)明屬于算力網(wǎng)絡(luò)和基礎(chǔ)架構(gòu)，更具體地，涉及一種面向算力調(diào)度與服務(wù)的區(qū)域算力網(wǎng)絡(luò)基礎(chǔ)架構(gòu)。

背景技術(shù)：

1、算力需求在各行各業(yè)持續(xù)擴(kuò)展，普惠、彈性、高效的算力服務(wù)需求迸發(fā)，日益增多的智能化產(chǎn)品和應(yīng)用也正不斷對(duì)算力提出更高要求，多元算力的整合需求無(wú)處不在，區(qū)域算力網(wǎng)絡(luò)概念應(yīng)運(yùn)而生。區(qū)域算力網(wǎng)絡(luò)基礎(chǔ)架構(gòu)是算力調(diào)度與綜合管理的基石，通過(guò)構(gòu)建跨區(qū)域的網(wǎng)絡(luò)架構(gòu)，實(shí)現(xiàn)不同區(qū)域間的計(jì)算資源、存儲(chǔ)資源和網(wǎng)絡(luò)資源的協(xié)同，面向用戶提供統(tǒng)一的平臺(tái)接口，實(shí)時(shí)需求動(dòng)態(tài)提交、調(diào)度、監(jiān)控任務(wù)，是網(wǎng)絡(luò)、算力調(diào)度、算力管理等多方面技術(shù)的綜合應(yīng)用。能夠更好地應(yīng)對(duì)區(qū)域性計(jì)算需求的波動(dòng)，避免資源浪費(fèi)或短缺。

2、國(guó)內(nèi)外現(xiàn)階段的算力調(diào)度與綜合管理技術(shù)研究仍處于起步階段，主要以內(nèi)部組網(wǎng)的方式為用戶提供統(tǒng)一的云計(jì)算服務(wù)。谷歌提出的(谷歌分布式云，簡(jiǎn)稱googledistributed?cloud)，實(shí)現(xiàn)了谷歌內(nèi)部跨域資源共享；如亞馬遜的greengrass，將本地計(jì)算、消息收發(fā)、數(shù)據(jù)管理、同步和ml推理功能引入邊緣設(shè)備；再如華為昇思mindspore和modelarts結(jié)合的大模型開發(fā)套件，主要面向算法開發(fā)、并行計(jì)算、存儲(chǔ)優(yōu)化、斷點(diǎn)續(xù)訓(xùn)，實(shí)現(xiàn)大模型的高效開發(fā)。主要針對(duì)各領(lǐng)域方向或同構(gòu)資源的研究與調(diào)度，尚未形成完整統(tǒng)一針對(duì)異構(gòu)泛在資源的的調(diào)度與管理方案。

3、然而，現(xiàn)有的算力調(diào)度與綜合管理技術(shù)仍存在一些不可忽略的技術(shù)問(wèn)題：第一，其難以提供異構(gòu)算力服務(wù)；第二、其無(wú)法按需充分整合調(diào)度社會(huì)面的大量閑散算力資源；第三，其對(duì)于算力調(diào)度與綜合管理沒(méi)有標(biāo)準(zhǔn)化架構(gòu)，無(wú)法實(shí)現(xiàn)算力的綜合管理。

技術(shù)實(shí)現(xiàn)思路

1、針對(duì)現(xiàn)有技術(shù)的以上缺陷或改進(jìn)需求，本發(fā)明提供了一種面向算力調(diào)度與服務(wù)的區(qū)域算力網(wǎng)絡(luò)基礎(chǔ)架構(gòu)，其目的在于，解決現(xiàn)有的算力調(diào)度與綜合管理技術(shù)難以提供異構(gòu)算力服務(wù)的技術(shù)問(wèn)題，以及無(wú)法按需充分整合調(diào)度社會(huì)面的大量閑散算力資源的技術(shù)問(wèn)題，以及對(duì)于算力調(diào)度與綜合管理沒(méi)有標(biāo)準(zhǔn)化架構(gòu)，無(wú)法實(shí)現(xiàn)算力的綜合管理的技術(shù)問(wèn)題。

2、為實(shí)現(xiàn)上述目的，按照本發(fā)明的一個(gè)方面，提供了一種面向算力調(diào)度與服務(wù)的區(qū)域算力網(wǎng)絡(luò)基礎(chǔ)架構(gòu)，包括算力節(jié)點(diǎn)基礎(chǔ)設(shè)施層、算力網(wǎng)絡(luò)感知層、算力描述層、算力資源層、算力路由層、算力服務(wù)層、以及算力網(wǎng)調(diào)度層，算力節(jié)點(diǎn)基礎(chǔ)設(shè)施層用于提供多種算力資源，并將所有算力資源發(fā)送到算力網(wǎng)絡(luò)感知層；

3、算力網(wǎng)絡(luò)感知層用于通過(guò)網(wǎng)絡(luò)將來(lái)自算力節(jié)點(diǎn)基礎(chǔ)設(shè)施層的多個(gè)算力資源進(jìn)行網(wǎng)絡(luò)接入處理，以得到區(qū)域算力網(wǎng)絡(luò)資源，并將區(qū)域算力網(wǎng)絡(luò)資源發(fā)送到算力描述層。

4、算力描述層用于使用算力能力模板對(duì)來(lái)自算力網(wǎng)絡(luò)感知層的區(qū)域算力網(wǎng)絡(luò)資源進(jìn)行映射處理，以將區(qū)域算力網(wǎng)絡(luò)資源映射到統(tǒng)一的量綱維度，并得到區(qū)域算力網(wǎng)絡(luò)資源的抽象描述，并將該區(qū)域算力網(wǎng)絡(luò)資源的抽象描述發(fā)送到算力資源層。

5、算力資源層用于對(duì)來(lái)自算力描述層的區(qū)域算力網(wǎng)絡(luò)資源的抽象描述進(jìn)行面向服務(wù)的封裝處理，以獲取算力網(wǎng)絡(luò)資源信息，并將該算力網(wǎng)絡(luò)資源信息發(fā)送到算力路由層。

6、算力服務(wù)層用于通過(guò)api網(wǎng)關(guān)獲取來(lái)自用戶的業(yè)務(wù)服務(wù)級(jí)別協(xié)議sla請(qǐng)求，并對(duì)該業(yè)務(wù)sla請(qǐng)求進(jìn)行解析，以生成用戶資源需求信息，并將該用戶資源需求信息發(fā)送到算力路由層。

7、算力路由層包括控制面和轉(zhuǎn)發(fā)面；

8、控制面用于對(duì)來(lái)自算力資源層的算力網(wǎng)絡(luò)資源信息、以及來(lái)自算力服務(wù)層的用戶資源需求信息進(jìn)行指標(biāo)抽取操作，以獲取當(dāng)前算力網(wǎng)絡(luò)的資源狀況，并根據(jù)該資源狀況使用多目標(biāo)優(yōu)化調(diào)度方法及應(yīng)用的冷熱溫特點(diǎn)從當(dāng)前算力網(wǎng)路中獲取滿足業(yè)務(wù)sla請(qǐng)求對(duì)應(yīng)資源需求的算力節(jié)點(diǎn)，獲取的所有算力節(jié)點(diǎn)構(gòu)成最優(yōu)資源算力節(jié)點(diǎn)組合。

9、轉(zhuǎn)發(fā)面用于使用負(fù)載均衡以及質(zhì)量服務(wù)qos路由算法對(duì)控制面得到的最優(yōu)資源算力節(jié)點(diǎn)組合進(jìn)行處理，以得到業(yè)務(wù)sla請(qǐng)求對(duì)應(yīng)的最優(yōu)調(diào)度方案。

10、算力網(wǎng)絡(luò)調(diào)度層分別與算力網(wǎng)絡(luò)感知層、算力資源層、以及算力路由層相連，用于對(duì)算力網(wǎng)絡(luò)感知層獲取的區(qū)域算力網(wǎng)絡(luò)資源、算力資源層獲取的算力網(wǎng)絡(luò)資源信息、以及算力路由層獲取的最優(yōu)資源算力節(jié)點(diǎn)組合先后進(jìn)行資源監(jiān)控、任務(wù)監(jiān)控和計(jì)費(fèi)管理操作，以分別得到資源監(jiān)控結(jié)果、任務(wù)監(jiān)控結(jié)果、以及計(jì)費(fèi)結(jié)果。

11、優(yōu)選地，算力節(jié)點(diǎn)基礎(chǔ)設(shè)施層包括多個(gè)數(shù)據(jù)中心的算力節(jié)點(diǎn)；

12、數(shù)據(jù)中心包括超算中心、省政務(wù)云、各市州云、以及規(guī)模以上數(shù)據(jù)中心。

13、算力資源包括cpu、gpu、fpga、dpu、dsp計(jì)算能力中的一種或者任意多種的組合，

14、優(yōu)選地，算力能力模板是算力路由、算力設(shè)備管理、算力計(jì)費(fèi)等功能中提供標(biāo)準(zhǔn)算力度量的規(guī)則；

15、面向服務(wù)的封裝處理是根據(jù)面向不同應(yīng)用的計(jì)算需求提供資源模型并封裝為算力應(yīng)用程序編程接口api，以滿足各行各業(yè)多樣性的計(jì)算需求；

16、算力網(wǎng)絡(luò)資源信息是用于對(duì)算力網(wǎng)絡(luò)中當(dāng)前可用的計(jì)算資源情況進(jìn)行評(píng)估，且包括處理器的性能、內(nèi)存大小、存儲(chǔ)空間、網(wǎng)絡(luò)以及連接速度等。

17、優(yōu)選地，對(duì)業(yè)務(wù)sla請(qǐng)求進(jìn)行解析這一過(guò)程，是從業(yè)務(wù)sla請(qǐng)求中獲取用戶提交任務(wù)的具體需求，包括計(jì)算量、數(shù)據(jù)規(guī)模、以及執(zhí)行時(shí)間等。

18、優(yōu)選地，對(duì)來(lái)自算力資源層的算力網(wǎng)絡(luò)資源信息、以及來(lái)自算力服務(wù)層的用戶資源需求信息進(jìn)行指標(biāo)抽取操作，以獲取當(dāng)前算力網(wǎng)絡(luò)的資源狀況這一過(guò)程具體為，首先通過(guò)算力網(wǎng)絡(luò)資源信息獲取當(dāng)前算力網(wǎng)絡(luò)的可用計(jì)算資源情況，包括處理器類型、內(nèi)存容量、網(wǎng)絡(luò)帶寬、計(jì)算能力、當(dāng)前負(fù)載、任務(wù)隊(duì)列、延遲和帶寬、節(jié)點(diǎn)位置以及節(jié)點(diǎn)成本，然后，從用戶資源需求信息中獲取任務(wù)性能指標(biāo)(包括響應(yīng)時(shí)間、處理時(shí)間、帶寬、時(shí)延、計(jì)算能力)、任務(wù)優(yōu)先級(jí)以及任務(wù)執(zhí)行狀態(tài)指令，獲取的當(dāng)前算力網(wǎng)絡(luò)的可用計(jì)算資源情況和任務(wù)性能指標(biāo)共同構(gòu)成當(dāng)前算力網(wǎng)絡(luò)的資源狀況；

19、滿足業(yè)務(wù)sla請(qǐng)求對(duì)應(yīng)資源需求的算力節(jié)點(diǎn)指的是類型、容量、性能、成本、帶寬和時(shí)延均滿足業(yè)務(wù)sla請(qǐng)求的算力節(jié)點(diǎn)。

20、優(yōu)選地，資源監(jiān)控過(guò)程具體為，首先，對(duì)算力資源層獲取的算力網(wǎng)絡(luò)資源信息進(jìn)行實(shí)時(shí)監(jiān)控和匯總處理，以得到算力網(wǎng)絡(luò)的監(jiān)控統(tǒng)計(jì)結(jié)果作為資源監(jiān)控結(jié)果，包括作業(yè)數(shù)量、作業(yè)狀態(tài)、數(shù)據(jù)位置、網(wǎng)絡(luò)帶寬、以及計(jì)算/存儲(chǔ)資源負(fù)載等。

21、優(yōu)選地，任務(wù)監(jiān)控過(guò)程具體為，首先，按照業(yè)務(wù)sla請(qǐng)求中每個(gè)任務(wù)的任務(wù)id對(duì)從算力路由層獲取的最優(yōu)資源算力節(jié)點(diǎn)組合進(jìn)行信息分類，以得到該任務(wù)所對(duì)應(yīng)的最優(yōu)資源算力節(jié)點(diǎn)組合；然后，依據(jù)獲取到的該任務(wù)所對(duì)應(yīng)的最優(yōu)資源算力節(jié)點(diǎn)組合，對(duì)從算力資源層獲取的算力網(wǎng)絡(luò)資源信息進(jìn)行實(shí)時(shí)監(jiān)控和匯總處理，以得到該任務(wù)對(duì)應(yīng)的作業(yè)狀態(tài)信息；最后，對(duì)得到的所有任務(wù)對(duì)應(yīng)的所有作業(yè)狀態(tài)信息進(jìn)行信息匯總處理，以得到總體實(shí)時(shí)監(jiān)控信息作為任務(wù)監(jiān)控結(jié)果，包括記錄任務(wù)運(yùn)行狀態(tài)、進(jìn)度、性能等的關(guān)鍵信息。

22、優(yōu)選地，計(jì)費(fèi)管理過(guò)程具體為，首先，按照業(yè)務(wù)sla請(qǐng)求中每個(gè)任務(wù)的任務(wù)id對(duì)來(lái)自算力路由層的最優(yōu)資源算力節(jié)點(diǎn)組合進(jìn)行信息分類，以得到該任務(wù)所對(duì)應(yīng)的最優(yōu)資源算力節(jié)點(diǎn)組合；然后，依據(jù)獲取到的每個(gè)任務(wù)所對(duì)應(yīng)的最優(yōu)資源算力節(jié)點(diǎn)組合(即該任務(wù)下屬所有作業(yè))，對(duì)從算力資源層獲取的算力網(wǎng)絡(luò)資源信息進(jìn)行實(shí)時(shí)監(jiān)控和匯總處理，以得到該任務(wù)所有作業(yè)在集群中的資源使用信息；最后，按照算力能力模版對(duì)獲取到的該任務(wù)所有作業(yè)在集群中的資源使用信息進(jìn)行映射操作，以得到該任務(wù)在算力網(wǎng)絡(luò)中使用資源產(chǎn)生的費(fèi)用結(jié)果，所有任務(wù)對(duì)應(yīng)的費(fèi)用結(jié)果構(gòu)成計(jì)費(fèi)結(jié)果。

23、總而言之，通過(guò)本發(fā)明所構(gòu)思的以上技術(shù)方案與現(xiàn)有技術(shù)相比，能夠取得下列有益效果：

24、1、本發(fā)明由于設(shè)計(jì)了一種面向算力調(diào)度與服務(wù)的區(qū)域算力網(wǎng)絡(luò)基礎(chǔ)架構(gòu)，采用算力節(jié)點(diǎn)基礎(chǔ)設(shè)施層、算力網(wǎng)絡(luò)感知層、算力描述層納管底層物理資源和虛擬資源，并通過(guò)算力資源層向上提供算力調(diào)度和綜合管理服務(wù)，將異構(gòu)資源變成資源池提供多種算力服務(wù)，面向泛在用戶開展普適性的算力公共服務(wù)，促使異構(gòu)算力被路由到區(qū)域內(nèi)多領(lǐng)域應(yīng)用需求方，解決了難以提供異構(gòu)算力服務(wù)的問(wèn)題；

25、2、本發(fā)明由于采用了基于算力路由層的算力控制與算力感知，通過(guò)算力資源層、算力路由層和算力服務(wù)層三個(gè)功能模塊相互協(xié)作，完成算力應(yīng)用與算力網(wǎng)之間支持“用戶需求”與“計(jì)算互聯(lián)資源”的映射和協(xié)商。實(shí)現(xiàn)用戶需求、網(wǎng)絡(luò)環(huán)境和算力資源三者的協(xié)調(diào)統(tǒng)一，為用戶提供最合適的算力服務(wù)，實(shí)現(xiàn)優(yōu)化配置，解決了無(wú)法按需充分整合調(diào)度社會(huì)面的大量閑散算力資源問(wèn)題；

26、3、本發(fā)明由于采用了基于算力網(wǎng)調(diào)度層的算力運(yùn)營(yíng)結(jié)構(gòu)，通過(guò)對(duì)算力網(wǎng)絡(luò)感知層、算力資源層、以及算力路由層的監(jiān)控、度量和管理，完成資源監(jiān)控、任務(wù)監(jiān)控、以及計(jì)費(fèi)等運(yùn)營(yíng)管理功能，解決了算力調(diào)度與綜合管理沒(méi)有標(biāo)準(zhǔn)化架構(gòu)的問(wèn)題，推動(dòng)區(qū)域算力網(wǎng)絡(luò)服務(wù)體系構(gòu)建。