本發(fā)明涉及一種QoS感知的服務(wù)動態(tài)調(diào)度方法。

背景技術(shù)：

目前商用絕大多數(shù)的服務(wù)調(diào)度通常采用輪詢方法等進(jìn)行負(fù)載均衡。這些服務(wù)調(diào)度方法通常是面向廣域網(wǎng)絡(luò)上超大規(guī)模的用戶訪問，為實現(xiàn)高負(fù)載、低時延，采用負(fù)載均衡器/反向代理+集群的方式，采用復(fù)雜度低的負(fù)載均衡策略，來支持大規(guī)模的用戶訪問需要，當(dāng)無法為所有用戶提供高質(zhì)量服務(wù)時，會采用接納控制、延遲等待等方式，損失一批用戶的服務(wù)質(zhì)量來保持系統(tǒng)持續(xù)運行。但是在某些專用的應(yīng)用領(lǐng)域，尤其是內(nèi)部網(wǎng)絡(luò)服務(wù)，雖然用戶規(guī)模相比要相對少一些，但用戶根據(jù)不同的應(yīng)用等級具有不同的優(yōu)先級，一些專用應(yīng)用中用戶的服務(wù)質(zhì)量保障要求嚴(yán)格，損失部分用戶的服務(wù)質(zhì)量要求甚至是拒絕訪問會帶來不可預(yù)估的代價，因此互聯(lián)網(wǎng)上通常追求的整體或平均服務(wù)質(zhì)量的提升不能滿足上述應(yīng)用需求。在一些內(nèi)部專用應(yīng)用，用戶的優(yōu)先級有差別，用戶的服務(wù)質(zhì)量需求又是業(yè)務(wù)的重要要素，必須得到保障。例如，醫(yī)療系統(tǒng)的醫(yī)療信息服務(wù)，不同的科室(急診室、內(nèi)外科等)、普通用戶對服務(wù)對其響應(yīng)時間要求各有差別；財務(wù)系統(tǒng)的相關(guān)服務(wù)，普通員工和財務(wù)人員對服務(wù)的質(zhì)量需求也有差別，這些服務(wù)質(zhì)量要求的違背是無法容忍的。同時注意到，互聯(lián)網(wǎng)上用戶規(guī)模十分龐大，因此輪詢等簡單、時間復(fù)雜度(根據(jù)用戶數(shù)成級數(shù)增長)低、整體性能優(yōu)化的算法比較適用，而專業(yè)或內(nèi)部應(yīng)用中用戶相對較少，因此采用時間復(fù)雜度稍高、服務(wù)質(zhì)量保障嚴(yán)格的最優(yōu)化調(diào)度算法則更為妥當(dāng)。從這個角度出發(fā)，本發(fā)明設(shè)計多約束的服務(wù)調(diào)度策略，滿足這些應(yīng)用的服務(wù)調(diào)度需求。

技術(shù)實現(xiàn)要素：

發(fā)明目的：本發(fā)明的目的是提供一種能夠解決現(xiàn)有技術(shù)中存在的缺陷的QoS感知的服務(wù)動態(tài)調(diào)度方法。

技術(shù)方案：

本發(fā)明所述的QoS感知的服務(wù)動態(tài)調(diào)度方法，包括以下步驟：

S1：確定調(diào)度的角色與問題：模型角色包括用戶節(jié)點、服務(wù)調(diào)度節(jié)點和服務(wù)節(jié)點，調(diào)度的目的是服務(wù)調(diào)度節(jié)點將用戶的請求發(fā)往相應(yīng)的服務(wù)節(jié)點，要求能夠滿足用戶的QoS需求，服務(wù)節(jié)點不能超負(fù)荷，并且保證滿足的用戶盡可能多；

S2：問題分析與形式化定義：考慮服務(wù)調(diào)度的對象、目標(biāo)、相關(guān)參數(shù)與約束條件，對服務(wù)動態(tài)調(diào)度問題進(jìn)行形式化建模；

S3：復(fù)雜度分析與問題歸約：根據(jù)所建模型，分析問題的復(fù)雜度，尋找可歸約的形式化模型；

S4：算法設(shè)計：提出QoS感知的服務(wù)動態(tài)調(diào)度算法，給出算法的執(zhí)行序列；

S5：執(zhí)行算法得到調(diào)度結(jié)果。

進(jìn)一步，所述步驟S4包括以下步驟：

S4.1：獲取算法所需參數(shù)：所述調(diào)度算法的主要參數(shù)包括：服務(wù)節(jié)點距離的遠(yuǎn)近、服務(wù)節(jié)點可靠性參數(shù)和服務(wù)節(jié)點的處理能力參數(shù)；

S4.2：執(zhí)行算法：構(gòu)造一個圖G＝(V₀∪V_S∪V_C∪V₁,E)，其中V₀對應(yīng)于起點v_s，V₁對應(yīng)于起點v_s，每個服務(wù)器節(jié)點V∈V_S對應(yīng)于S中的一個元素,每個用戶節(jié)點V∈V_C也對應(yīng)于C中的一個元素；網(wǎng)絡(luò)是容量網(wǎng)絡(luò)；在V₀與i∈V_S之間存在一條邊，其允許流過的最大流量為min{U_i,B_i}；在i∈V_S和j∈V_C之間存在一條邊，即(i,j)∈E，當(dāng)且僅當(dāng)S_i能滿足C_j的服務(wù)質(zhì)量需求，其允許流過的最大流量為R_j；在j∈V_C和V₁之間存在一條邊，其允許流過的最大流量為R_j；從任意一條可行流x出發(fā)，判斷網(wǎng)絡(luò)G中是否有關(guān)于x的s-t增廣路：如果沒有這樣的增廣路，則x就是最大流；如果存在增廣路，則通過對增廣路上流量進(jìn)行增廣，得到一個新的流量更大的可行流x；繼續(xù)對可行流x重復(fù)上述操作，直到網(wǎng)絡(luò)中不存在增廣路為止，得到的最大流是滿足QoS要求的最大用戶數(shù)；

S4.3：優(yōu)化調(diào)整：若根據(jù)分配其用戶請求總量占容量的比例小于給定閾值Tr，即∑_j:f(cj)＝siRc_j＜Tr，則調(diào)整大于Tr的某用戶到該服務(wù)節(jié)點分配，直到不存在小于Tr的服務(wù)節(jié)點或者按照服務(wù)質(zhì)量需求不能繼續(xù)調(diào)整為止。

有益效果：與現(xiàn)有技術(shù)相比，本發(fā)明具有如下的有益效果：

1)目前互聯(lián)網(wǎng)常用的服務(wù)調(diào)度策略通常采用輪詢方法等進(jìn)行負(fù)載均衡，追求的整體或平均服務(wù)質(zhì)量的提升，沒有考慮用戶不同的應(yīng)用等級具有不同的優(yōu)先級，而本發(fā)明更關(guān)注每個個體的服務(wù)質(zhì)量要求都能夠得到保證；

2)目前商用的調(diào)度方法主要采用負(fù)載均衡器/反向代理+集群的方式，集群采用相同的配置部署相同的服務(wù)，所以沒有考慮服務(wù)節(jié)點負(fù)載能力的差別和網(wǎng)絡(luò)延遲的差別，而本發(fā)明充分考慮了這些約束條件；

3)本發(fā)明針對如何準(zhǔn)確、高效地調(diào)度用戶到最合適的服務(wù)節(jié)點，不僅讓用戶都能不擁塞、不沖突地獲取所需服務(wù)，而且能保證其響應(yīng)時間等QoS需求的問題，提供滿足所有用戶服務(wù)質(zhì)量需求的調(diào)度策略，以滿足軍事應(yīng)用的服務(wù)調(diào)度需求。

附圖說明

圖1為本發(fā)明的QoS感知的服務(wù)調(diào)度問題示意圖；

圖2為本發(fā)明的最大流問題示意圖；

圖3為本發(fā)明步驟S4中的算法的示例圖，其中：

圖3(a)為第一條可行流的示意圖；

圖3(b)為標(biāo)有權(quán)值的第一條可行流的示意圖；

圖3(c)為第一條可行流的反向流的示意圖；

圖3(d)為第一條增廣路的示意圖；

圖3(e)為第一條增廣路的反向流的示意圖；

圖3(f)為第二條增廣路的示意圖；

圖3(g)為第二條增廣路的反向流的示意圖；

圖3(h)為第三條增廣路的示意圖；

圖3(i)為第三條增廣路的反向流的示意圖。

具體實施方式

下面結(jié)合附圖和具體實施方式，對本發(fā)明的技術(shù)方案作進(jìn)一步介紹。

本發(fā)明針對如何準(zhǔn)確、高效地調(diào)度用戶到最合適的服務(wù)節(jié)點，公開了一種QoS感知的服務(wù)動態(tài)調(diào)度方法，不僅讓用戶都能不擁塞、不沖突地獲取所需服務(wù)，而且能保證其響應(yīng)時間等QoS需求的問題，提供滿足所有用戶服務(wù)質(zhì)量需求的調(diào)度策略，以滿足軍事應(yīng)用的服務(wù)調(diào)度需求。

本發(fā)明所述的QoS感知的服務(wù)動態(tài)調(diào)度方法，包括以下步驟：

S1：確定調(diào)度的角色與問題：模型角色包括用戶節(jié)點、服務(wù)調(diào)度節(jié)點和服務(wù)節(jié)點，如圖1所示，調(diào)度的目的是服務(wù)調(diào)度節(jié)點將用戶的請求發(fā)往相應(yīng)的服務(wù)節(jié)點，要求能夠滿足用戶的QoS需求，服務(wù)節(jié)點不能超負(fù)荷，并且保證滿足的用戶盡可能多；

S2：問題分析與形式化定義：給定一個無向圖G＝(V,E)，每條邊(u,v)∈E的時延是l_uv，任何一對節(jié)點{u,v}之間的最短路徑長度是d(u,v)，0.1s到10分鐘，采用最短路徑算法，如Dijkstra算法，得出AB間最短路徑為4，即網(wǎng)絡(luò)距離為4。對用戶節(jié)點集合中的每個用戶c來說，其用戶請求數(shù)據(jù)率記為R_c，例如4kbps-100Mbps，QoS需求記為Q_c，0.1s到10分鐘；對服務(wù)器節(jié)點集合中的每個服務(wù)器S來說，其處理容量記為U_s(10，5000)，傳輸容量記為B_s(5，500)，傳輸時間記為t_r，計算時間記為t_c；QoS感知的服務(wù)調(diào)度問題的目標(biāo)是找到一個函數(shù)f:C→S，使得滿足響應(yīng)時間要求的用戶數(shù)最大，并同時滿足如下兩個限制條件：1)時延限制：對每個用戶c∈C,d(c,f(c))+t_r+t_c≤Q_c；2)容量限制：對每個服務(wù)器s∈D,∑c∈C:f(c)＝s,R_c≤min{U_s,B_s}；

S3：復(fù)雜度分析與問題歸約：根據(jù)所建模型，分析問題的復(fù)雜度，尋找可歸約的形式化模型，具體包括以下步驟：

S3.1：最大流問題定義：1)網(wǎng)絡(luò)有一個起點v_s和一個終點v_t，若有幾個起點或終點，則可以通過增加虛擬節(jié)點而轉(zhuǎn)化為一個起點和一個終點；2)網(wǎng)絡(luò)是容量網(wǎng)絡(luò)，即流有方向性。如果是無向網(wǎng)絡(luò)或混合網(wǎng)絡(luò)，則應(yīng)轉(zhuǎn)化為容量網(wǎng)絡(luò)；3)在網(wǎng)絡(luò)各條弧上都有一個權(quán)，表示允許流過的最大流量。若以c_ij表示由v_i到v_j的弧上允許流過的最大流量，以v_t表示實際流過該弧的流量，則存在v_t；4)網(wǎng)絡(luò)中，對于除起點和終點之外的任何節(jié)點，流入量的總和應(yīng)該等于流出量的總和，即∑f_ij＝∑f_ji,i≠s,t；

S3.2：歸約過程：構(gòu)造一個圖G＝(V₀∪V_S∪V_C∪V₁,E)，其中V₀對應(yīng)于起點v_s，V₁對應(yīng)于起點v_s，每個服務(wù)器節(jié)點V∈V_S對應(yīng)于S中的一個元素，每個用戶節(jié)點V∈V_C也對應(yīng)于C中的一個元素(圖2給出了一個示例)。網(wǎng)絡(luò)是容量網(wǎng)絡(luò)。在V₀與i∈V_S之間存在一條邊，其允許流過的最大流量為min{U_i,B_i}；在i∈V_S和j∈V_C之間存在一條邊，即(i,j)∈E(當(dāng)且僅當(dāng)S_i能滿足C_j的服務(wù)質(zhì)量需求)，其允許流過的最大流量為R_j；在j∈V_C和V₁之間存在一條邊，其允許流過的最大流量為R_j；不難看出，因此，這些符合最大流問題最優(yōu)解的元素組成了QoS感知的服務(wù)調(diào)度問題的最優(yōu)解，反之亦然；如圖2所示；

S4：算法設(shè)計：提出QoS感知的服務(wù)動態(tài)調(diào)度算法，給出算法的執(zhí)行序列；根據(jù)前文給出的問題定義與歸約，由于QoS感知的服務(wù)調(diào)度問題可歸約為最大流問題，因此算法的基本思想是基于網(wǎng)絡(luò)最大流問題的算法(Max-Flow Based Algorithm,MFBA)，但可以看到，當(dāng)節(jié)點容量充足時，為了在保障所有QoS的同時可以均衡負(fù)載，因此需要在最大流算法的基礎(chǔ)上進(jìn)行調(diào)整，既獲得服務(wù)質(zhì)量的保障，又達(dá)到負(fù)載均衡的目標(biāo)，提高系統(tǒng)實際運行的吞吐量；

算法的基本思想是從任意一條可行流x(如零流)出發(fā)，判斷網(wǎng)絡(luò)G中是否有關(guān)于x的s-t增廣路；如果沒有這樣的增廣路，則x就是最大流；如果存在增廣路，則可以通過對增廣路上流量進(jìn)行增廣，得到一個新的流量更大的可行流x；繼續(xù)對可行流x重復(fù)上述操作，直到網(wǎng)絡(luò)中不存在增廣路；此時，根據(jù)增廣路定理，可行流x即為網(wǎng)絡(luò)的最大流；求出網(wǎng)絡(luò)中的最大流后，即得到了一個用戶節(jié)點集合C到服務(wù)節(jié)點集合S的分配，使得用戶的服務(wù)質(zhì)量能夠滿足需求；由于最大流沒有考慮到服務(wù)節(jié)點的剩余容量，因此在此基礎(chǔ)上對容量進(jìn)行一次調(diào)整，對那些剩余容量高的服務(wù)節(jié)點s，將已分配給其他節(jié)點的用戶，如果s能夠滿足其QoS需求，則將部分用戶重新分配給s，達(dá)到負(fù)載均衡，以進(jìn)一步提升系統(tǒng)性能；

所述的調(diào)度策略具體如下：

S4.1：獲取算法所需參數(shù)，本發(fā)明調(diào)度算法的主要參數(shù)包括：

1)服務(wù)節(jié)點距離的遠(yuǎn)近D_ij：這項參數(shù)主要是由網(wǎng)絡(luò)拓?fù)涞捻憫?yīng)時延來表示，通過計算網(wǎng)絡(luò)上兩點間的最短路徑時延長度給出服務(wù)節(jié)點網(wǎng)絡(luò)距離；例如服務(wù)請求節(jié)點A與服務(wù)節(jié)點B在網(wǎng)絡(luò)中，該網(wǎng)絡(luò)拓?fù)淇杀硎緸閹?quán)無向圖G，G＝(V，T)，其中V為結(jié)點集合V＝{A，B，C，D}，T為邊的集合T＝{(A、B)，(A、C)，(A、D)，(B、C)，(B、D)}，邊的權(quán)值(即網(wǎng)絡(luò)延遲)為表示為W＝{4，3，2，4，3}，采用最短路徑算法(如Dijkstra算法)得出AB間最短路徑為4，即網(wǎng)絡(luò)距離為4；

2)服務(wù)節(jié)點可靠性參數(shù)R_j：這項參數(shù)表示的是某服務(wù)節(jié)點運行的可靠性，即提供給用戶有效服務(wù)的比例，參照服務(wù)節(jié)點歷史數(shù)據(jù)。例如A服務(wù)節(jié)點在過去幾個月里平均每周無故障為160個小時，則其服務(wù)可靠性為95.24％；

3)服務(wù)節(jié)點的處理能力參數(shù)C_j：即可處理用戶數(shù)，根據(jù)服務(wù)節(jié)點的性能最大連接數(shù)減去當(dāng)前用戶數(shù)獲得。例如在開始的性能測試中服務(wù)節(jié)點的最大處理能力為500并發(fā)訪問量，而現(xiàn)有處理用戶數(shù)為200，那么服務(wù)節(jié)點的現(xiàn)有處理能力為300；

S4.2：從任意一條可行流x(如零流)出發(fā)，判斷網(wǎng)絡(luò)G中是否有關(guān)于x的s-t增廣路：如果沒有這樣的增廣路，則x就是最大流；如果存在增廣路，則可以通過對增廣路上流量進(jìn)行增廣，得到一個新的流量更大的可行流x；繼續(xù)對可行流x重復(fù)上述操作，直到網(wǎng)絡(luò)中不存在增廣路。得到的最大流是滿足QoS要求的最大用戶數(shù)；

具體舉例如圖3；首先尋找一條可行流s→v₁→v₃→v₂→v₄→t，如圖3(a)，根據(jù)路徑上權(quán)值設(shè)置，可行流的最大流值為4，網(wǎng)絡(luò)G記錄為3(b)。在現(xiàn)有圖上迭代減去目前的最大流量，并添加反向流t→v₄→v₂→v₃→v₁→s，路徑權(quán)值為4，如圖3(c)，在新圖上尋找增廣路s→v₁→v₂→v₄→v₃→t，此路徑最大流為7，則此時最大流為11，如圖3(d)；繼續(xù)添加反向流并尋找增廣路s→v₂→v₁→v₃→t，此路徑最大流為8，如圖3(e)和圖3(f)；依次類推，繼續(xù)添加反向流并尋找增廣路s→v₂→v₃→t，此路徑最大流為4，如圖3(g)和圖3(h)，到圖3(i)網(wǎng)絡(luò)中不存在增廣路為止；則此圖中的最大流為11+12＝23，如圖3(h)；

S4.3：若根據(jù)分配其用戶請求總量占容量的比例小于給定閾值Tr(如50％～80％之間的任意值)，即∑_j:f(cj)＝siRc_j＜Tr，則調(diào)整大于Tr的某用戶到該服務(wù)節(jié)點分配，直到不存在小于Tr的服務(wù)節(jié)點，或者按照服務(wù)質(zhì)量需求不能繼續(xù)調(diào)整；

S5：執(zhí)行算法得到調(diào)度結(jié)果。