一種基于雙層緩存的負載均衡方法及系統(tǒng)的制作方法
【專利摘要】本發(fā)明提供一種基于雙層緩存的負載均衡方法及系統(tǒng)，上述方法包括以下步驟：預(yù)先在網(wǎng)頁服務(wù)器中設(shè)置內(nèi)存管理模塊、磁盤管理模塊并對所述內(nèi)存管理模塊、所述磁盤管理模塊進行參數(shù)設(shè)置；所述網(wǎng)頁服務(wù)器接收到終端請求后，通過查詢所述內(nèi)存管理模塊，獲取到終端請求的數(shù)據(jù)信息并反饋給所述終端；若查詢失敗，則繼續(xù)查詢所述磁盤管理模塊，獲取到所述終端請求的數(shù)據(jù)信息并反饋給所述終端。本發(fā)明增大了從網(wǎng)絡(luò)層響應(yīng)終端用戶請求的概率，減少了將請求調(diào)度到后臺應(yīng)用服務(wù)器集群，減輕了后臺服務(wù)器的請求壓力，同時減少了后臺應(yīng)用服務(wù)器的數(shù)量，達到減少投入成本的目的。
【專利說明】一種基于雙層緩存的負載均衡方法及系統(tǒng)

【技術(shù)領(lǐng)域】
[0001]本發(fā)明屬于負載均衡領(lǐng)域，尤其涉及一種基于雙層緩存的負載均衡方法及系統(tǒng)。

【背景技術(shù)】
[0002]隨著企業(yè)對網(wǎng)頁服務(wù)器即冊13服務(wù)器性能需求的不斷擴大和可靠性的日益重視，越來越多的企業(yè)使用負載均衡器增強冊13服務(wù)的并發(fā)能力，通過構(gòu)建并行集群實現(xiàn)增加系統(tǒng)可靠性的目標，增加了企業(yè)的冊13服務(wù)的計算資源，若通過一味的增加后臺應(yīng)用服務(wù)器的數(shù)量，對企業(yè)來說既增加了成本，同時又造成了資源的浪費。
[0003]大多數(shù)的緩存介質(zhì)都是內(nèi)存緩存，眾所周知，16(?內(nèi)存條的價格已經(jīng)非常昂貴，并且隨著內(nèi)存容量的增加，內(nèi)存價格成指數(shù)級增加并且服務(wù)器主板限制了內(nèi)存容量的上限，因此，單純依靠提高冊13服務(wù)器內(nèi)存容量來增強冊13服務(wù)器并發(fā)能力的方法，也是比較困難的并且往往高昂的價格難以承受。


【發(fā)明內(nèi)容】

[0004]本發(fā)明提供一種基于雙層緩存的負載均衡方法及系統(tǒng)，以解決上述問題。
[0005]本發(fā)明提供一種基于雙層緩存的負載均衡方法。上述方法包括以下步驟:
[0006]預(yù)先在網(wǎng)頁服務(wù)器中設(shè)置內(nèi)存管理模塊、磁盤管理模塊并對所述內(nèi)存管理模塊、所述磁盤管理模塊進行參數(shù)設(shè)置；
[0007]所述網(wǎng)頁服務(wù)器接收到終端請求后，通過查詢所述內(nèi)存管理模塊，獲取到終端請求的數(shù)據(jù)信息并反饋給所述終端；若查詢失敗，則繼續(xù)查詢所述磁盤管理模塊，獲取到所述終端請求的數(shù)據(jù)信息并反饋給所述終端。
[0008]本發(fā)明還提供一種基于雙層緩存的負載均衡系統(tǒng)，包括終端、網(wǎng)頁服務(wù)器；其中，所述終端與所述網(wǎng)頁服務(wù)器相連；
[0009]預(yù)先在網(wǎng)頁服務(wù)器中設(shè)置內(nèi)存管理模塊、磁盤管理模塊并對所述內(nèi)存管理模塊、所述磁盤管理模塊進行參數(shù)設(shè)置；
[0010]所述網(wǎng)頁服務(wù)器，用于接收到終端請求后，通過查詢所述內(nèi)存管理模塊，獲取到終端請求的數(shù)據(jù)信息并反饋給所述終端；若查詢失敗，則繼續(xù)查詢所述磁盤管理模塊，獲取到終端請求的數(shù)據(jù)信息并反饋給所述終端。
[0011]相較于先前技術(shù)，根據(jù)本發(fā)明提供的一種基于雙層緩存的負載均衡方法及系統(tǒng)，通過以下方案:預(yù)先在網(wǎng)頁服務(wù)器中設(shè)置內(nèi)存管理模塊、磁盤管理模塊并對所述內(nèi)存管理模塊、所述磁盤管理模塊進行參數(shù)設(shè)置；所述網(wǎng)頁服務(wù)器接收到終端請求后，通過查詢所述內(nèi)存管理模塊，獲取到終端請求的數(shù)據(jù)信息并反饋給所述終端；若查詢失敗，則繼續(xù)查詢所述磁盤管理模塊，獲取到所述終端請求的數(shù)據(jù)信息并反饋給所述終端；一方面，增大了從網(wǎng)絡(luò)層響應(yīng)終端用戶請求的概率；另一方面，減少了將請求調(diào)度到后臺應(yīng)用服務(wù)器集群，減輕了后臺服務(wù)器的請求壓力，同時減少了后臺應(yīng)用服務(wù)器的數(shù)量，達到減少投入成本的目的。

【專利附圖】

【附圖說明】
[0012]此處所說明的附圖用來提供對本發(fā)明的進一步理解，構(gòu)成本申請的一部分，本發(fā)明的示意性實施例及其說明用于解釋本發(fā)明，并不構(gòu)成對本發(fā)明的不當限定。在附圖中:
[0013]圖1所示為本發(fā)明實施例1的基于雙層緩存的負載均衡方法流程圖；
[0014]圖2所示為本發(fā)明實施例2的基于雙層緩存的負載均衡系統(tǒng)結(jié)構(gòu)圖；
[0015]圖3所示為本發(fā)明實施例3的基于雙層緩存的負載均衡系統(tǒng)結(jié)構(gòu)圖。

【具體實施方式】
[0016]下文中將參考附圖并結(jié)合實施例來詳細說明本發(fā)明。需要說明的是，在不沖突的情況下，本申請中的實施例及實施例中的特征可以相互組合。
[0017]圖1所示為本發(fā)明實施例1的基于雙層緩存的負載均衡方法流程圖，包括以下步驟:
[0018]步驟101:預(yù)先在網(wǎng)頁服務(wù)器中設(shè)置內(nèi)存管理模塊、磁盤管理模塊并對所述內(nèi)存管理模塊、所述磁盤管理模塊進行參數(shù)設(shè)置；
[0019]對內(nèi)存管理模塊進行以下參數(shù)設(shè)置:
[0020]1、設(shè)置連接超時時長、發(fā)送超時時長、讀取超時時長、緩存失效時間；
[0021〕 2、設(shè)置訪問請求方式即只直接接受內(nèi)部訪問，不直接接收外部請求。
[0022]例如:
[0023]11161110^001111601:^1: 111160111: 1001118 ；#11161110 連接超時時長；
[0024]11161110^8611(1^1: 111160111: 1001118 ；#11161110 發(fā)送超時時長；
[0025]11161110^1-68(1^1: 111160111: 1001118 ；#11161110 讀取超時時長；
[0026]861:^11161110^6X1)1: 11116 1000 ；# 緩存失效時間；
[0027]1111:61-118 1 ；#只直接接受內(nèi)部訪問，不直接接收外部仏如請求
[0028]對磁盤管理模塊進行以下參數(shù)設(shè)置:
[0029]1、為磁盤管理模塊命名并分配內(nèi)存大小及磁盤容量；
[0030]例如:磁盤管理模塊命名為分配的內(nèi)存大小為10018，分配的磁盤容量為10⑶。
[0031]2、為磁盤管理模塊分配文件存放目錄及各級目錄的字符數(shù)；
[0032]例如:為磁盤管理模塊分配文件存放目錄為4/(1511:51/118X^^(3116/(^(31161 (表不0&01161這個文件要存放的目錄)。
[0033]#16^61 8 = 1:2表示緩存目錄的第一級目錄是1個字符，第二級目錄是2個字符，即這種形式。
[0034]步驟102:所述網(wǎng)頁服務(wù)器接收到終端請求后，通過查詢所述內(nèi)存管理模塊，獲取到終端請求的數(shù)據(jù)信息并反饋給所述終端；若查詢失敗，則繼續(xù)查詢所述磁盤管理模塊，獲取到終端請求的數(shù)據(jù)信息并反饋給所述終端。
[0035]網(wǎng)頁服務(wù)器繼續(xù)查詢磁盤管理模塊，獲取到終端請求的數(shù)據(jù)信息并反饋給所述終端的同時，向內(nèi)存管理模塊發(fā)送所述終端請求的數(shù)據(jù)信息并由所述內(nèi)存管理模塊存儲。
[0036]內(nèi)存管理模塊周期性地或者實時地向磁盤管理模塊發(fā)送信息獲取請求；
[0037]磁盤管理模塊接收到所述信息獲取請求后，向內(nèi)存管理模塊反饋信息響應(yīng)消息；其中，所述信息響應(yīng)消息中攜帶了終端請求的數(shù)據(jù)信息。
[0038]具體周期值根據(jù)實際情況進行靈活設(shè)置，在此不限定本發(fā)明的保護范圍。
[0039]磁盤管理模塊刪除第一預(yù)設(shè)時段內(nèi)沒有被訪問的數(shù)據(jù)信息。
[0040]所述磁盤管理模塊刪除第一預(yù)設(shè)時段內(nèi)(例如:24小時)沒有被訪問的數(shù)據(jù)信息之前，還包括:所述磁盤管理模塊將第一預(yù)設(shè)時段內(nèi)沒有被訪問的數(shù)據(jù)信息發(fā)送至內(nèi)存管理模塊；所述內(nèi)存管理模塊接收到所述第一預(yù)設(shè)時段內(nèi)沒有被訪問的數(shù)據(jù)信息后，若空閑內(nèi)存大小大于第一預(yù)設(shè)時段內(nèi)沒有被訪問的數(shù)據(jù)大小，則存儲所述第一預(yù)設(shè)時段內(nèi)沒有被訪問的數(shù)據(jù)信息。
[0041]所述內(nèi)存管理模塊刪除第二預(yù)設(shè)時段內(nèi)(例如:12小時)沒有被訪問的數(shù)據(jù)信肩、0
[0042]其中，第一預(yù)設(shè)時段與第二預(yù)設(shè)時段可以相同，也可以不同，具體值的設(shè)置根據(jù)實際情況進行靈活設(shè)置，在此不限定本發(fā)明的保護范圍。
[0043]步驟103:若網(wǎng)頁服務(wù)器在磁盤管理模塊中查詢失敗，則通過向應(yīng)用服務(wù)器發(fā)送查詢請求，獲取終端用戶請求的數(shù)據(jù)信息并反饋給終端用戶。
[0044]圖2所示為本發(fā)明實施例2的基于雙層緩存的負載均衡系統(tǒng)結(jié)構(gòu)圖，包括終端、網(wǎng)頁服務(wù)器；其中，所述終端與所述網(wǎng)頁服務(wù)器相連；
[0045]預(yù)先在網(wǎng)頁服務(wù)器中設(shè)置內(nèi)存管理模塊、磁盤管理模塊并對所述內(nèi)存管理模塊、所述磁盤管理模塊進行參數(shù)設(shè)置；
[0046]所述網(wǎng)頁服務(wù)器，用于接收到終端請求后，通過查詢所述內(nèi)存管理模塊，獲取到終端請求的數(shù)據(jù)信息并反饋給所述終端；若查詢失敗，則繼續(xù)查詢所述磁盤管理模塊，獲取到終端請求的數(shù)據(jù)信息并反饋給所述終端。
[0047]圖3所示為本發(fā)明實施例3的基于雙層緩存的負載均衡系統(tǒng)結(jié)構(gòu)圖，包括:終端、網(wǎng)頁服務(wù)器、應(yīng)用服務(wù)器1、應(yīng)用服務(wù)器2、應(yīng)用服務(wù)器3；其中，所述終端與所述網(wǎng)頁服務(wù)器相連；所述網(wǎng)頁服務(wù)器分別與應(yīng)用服務(wù)器1、應(yīng)用服務(wù)器2、應(yīng)用服務(wù)器3直接相連；
[0048]預(yù)先在網(wǎng)頁服務(wù)器中設(shè)置內(nèi)存管理模塊、磁盤管理模塊并對所述內(nèi)存管理模塊、所述磁盤管理模塊進行參數(shù)設(shè)置；
[0049]所述網(wǎng)頁服務(wù)器，用于接收到終端請求后，通過查詢所述內(nèi)存管理模塊，獲取到終端請求的數(shù)據(jù)信息并反饋給所述終端；若查詢失敗，則繼續(xù)查詢所述磁盤管理模塊，獲取到終端請求的數(shù)據(jù)信息并反饋給所述終端；
[0050]若網(wǎng)頁服務(wù)器在磁盤管理模塊中查詢失敗，則通過向所述應(yīng)用服務(wù)器發(fā)送查詢請求，獲取終端請求的數(shù)據(jù)信息并反饋給終端。
[0051]通過以下方案:預(yù)先在網(wǎng)頁服務(wù)器中設(shè)置內(nèi)存管理模塊、磁盤管理模塊并對所述內(nèi)存管理模塊、所述磁盤管理模塊進行參數(shù)設(shè)置；所述網(wǎng)頁服務(wù)器接收到終端請求后，通過查詢所述內(nèi)存管理模塊，獲取到終端請求的數(shù)據(jù)信息并反饋給所述終端；若查詢失敗，則繼續(xù)查詢所述磁盤管理模塊，獲取到所述終端請求的數(shù)據(jù)信息并反饋給所述終端；一方面，增大了從網(wǎng)絡(luò)層響應(yīng)終端用戶請求的概率；另一方面，減少了將請求調(diào)度到后臺應(yīng)用服務(wù)器集群，減輕了后臺服務(wù)器的請求壓力，同時減少了后臺應(yīng)用服務(wù)器的數(shù)量，達到減少投入成本的目的。
[0052]以上所述僅為本發(fā)明的優(yōu)選實施例而已，并不用于限制本發(fā)明，對于本領(lǐng)域的技術(shù)人員來說，本發(fā)明可以有各種更改和變化。凡在本發(fā)明的精神和原則之內(nèi)，所作的任何修改、等同替換、改進等，均應(yīng)包含在本發(fā)明的保護范圍之內(nèi)。
【權(quán)利要求】
1.一種基于雙層緩存的負載均衡方法，其特征在于，包括以下步驟: 預(yù)先在網(wǎng)頁服務(wù)器中設(shè)置內(nèi)存管理模塊、磁盤管理模塊并對所述內(nèi)存管理模塊、所述磁盤管理模塊進行參數(shù)設(shè)置； 所述網(wǎng)頁服務(wù)器接收到終端請求后，通過查詢所述內(nèi)存管理模塊，獲取到終端請求的數(shù)據(jù)信息并反饋給所述終端；若查詢失敗，則繼續(xù)查詢所述磁盤管理模塊，獲取到所述終端請求的數(shù)據(jù)信息并反饋給所述終端。
2.根據(jù)權(quán)利要求1所述的方法，其特征在于:對所述內(nèi)存管理模塊設(shè)置的參數(shù)包括:連接超時時長參數(shù)、發(fā)送超時時長參數(shù)、讀取超時時長參數(shù)、緩存失效時間參數(shù)、訪問請求方式參數(shù)。
3.根據(jù)權(quán)利要求1所述的方法，其特征在于:對所述磁盤管理模塊設(shè)置的參數(shù)包括:分配內(nèi)存大小參數(shù)、磁盤容量參數(shù)、文件存放目錄參數(shù)、各級目錄字符數(shù)參數(shù)。
4.根據(jù)權(quán)利要求1所述的方法，其特征在于:所述網(wǎng)頁服務(wù)器繼續(xù)查詢所述磁盤管理模塊，獲取到所述終端請求的數(shù)據(jù)信息并反饋給所述終端的同時，向所述內(nèi)存管理模塊發(fā)送所述終端請求的數(shù)據(jù)信息并由所述內(nèi)存管理模塊存儲。
5.根據(jù)權(quán)利要求1所述的方法，其特征在于:所述內(nèi)存管理模塊周期性地或者實時地向所述磁盤管理模塊發(fā)送信息獲取請求； 所述磁盤管理模塊接收到所述信息獲取請求后，向所述內(nèi)存管理模塊反饋信息響應(yīng)消息；其中，所述信息響應(yīng)消息中攜帶了終端請求的數(shù)據(jù)信息。
6.根據(jù)權(quán)利要求1所述的方法，其特征在于:所述磁盤管理模塊刪除第一預(yù)設(shè)時段內(nèi)沒有被訪問的數(shù)據(jù)信息。
7.根據(jù)權(quán)利要求6所述的方法，其特征在于:所述磁盤管理模塊刪除第一預(yù)設(shè)時段內(nèi)沒有被訪問的數(shù)據(jù)信息之前，還包括:所述磁盤管理模塊將第一預(yù)設(shè)時段內(nèi)沒有被訪問的數(shù)據(jù)信息發(fā)送至內(nèi)存管理模塊；所述內(nèi)存管理模塊接收到所述第一預(yù)設(shè)時段內(nèi)沒有被訪問的數(shù)據(jù)信息后，若空閑內(nèi)存大小大于第一預(yù)設(shè)時段內(nèi)沒有被訪問的數(shù)據(jù)大小，則存儲所述第一預(yù)設(shè)時段內(nèi)沒有被訪問的數(shù)據(jù)信息； 所述內(nèi)存管理模塊刪除第二預(yù)設(shè)時段內(nèi)沒有被訪問的數(shù)據(jù)信息。
8.根據(jù)權(quán)利要求1所述的方法，其特征在于:若網(wǎng)頁服務(wù)器在磁盤管理模塊中查詢失敗，則通過向應(yīng)用服務(wù)器發(fā)送查詢請求，獲取終端請求的數(shù)據(jù)信息并反饋給終端。
9.一種基于雙層緩存的負載均衡系統(tǒng)，其特征在于，包括終端、網(wǎng)頁服務(wù)器；其中，所述終端與所述網(wǎng)頁服務(wù)器相連； 預(yù)先在網(wǎng)頁服務(wù)器中設(shè)置內(nèi)存管理模塊、磁盤管理模塊并對所述內(nèi)存管理模塊、所述磁盤管理模塊進行參數(shù)設(shè)置； 所述網(wǎng)頁服務(wù)器，用于接收到終端請求后，通過查詢所述內(nèi)存管理模塊，獲取到終端請求的數(shù)據(jù)信息并反饋給所述終端；若查詢失敗，則繼續(xù)查詢所述磁盤管理模塊，獲取到終端請求的數(shù)據(jù)信息并反饋給所述終端。
10.根據(jù)權(quán)利要求9所述的系統(tǒng)，其特征在于，還包括一個或多個應(yīng)用服務(wù)器；所述網(wǎng)頁服務(wù)器分別與所述一個或多個應(yīng)用服務(wù)器直接相連； 若網(wǎng)頁服務(wù)器在磁盤管理模塊中查詢失敗，則通過向所述應(yīng)用服務(wù)器發(fā)送查詢請求，獲取終端請求的數(shù)據(jù)信息并反饋給終端。
【文檔編號】H04L12/803GK104363182SQ201410613099
【公開日】2015年2月18日 申請日期:2014年11月4日 優(yōu)先權(quán)日:2014年11月4日
【發(fā)明者】李有超, 王渭巍 申請人:浪潮(北京)電子信息產(chǎn)業(yè)有限公司