上述計算單元402可以根據(jù)兩者計算延時操作比例，可以將延時操作的次數(shù)與操作的總次數(shù)之間的比值作為延時操作比例。
[0061]在本實施例中，流量控制裝置400可以預(yù)先存儲預(yù)設(shè)比例閾值，該預(yù)設(shè)比例閾值可以是從客戶端處接收的。由此，流量控制裝置400的上述比較單元403可以將上述延時操作比例與該預(yù)設(shè)比例閾值進行比較，以獲得比較結(jié)果。
[0062]在本實施例中，上述限流單元404可以根據(jù)比較單元403的比較結(jié)果確定是否對分布式緩存系統(tǒng)執(zhí)行限流操作。即，限流單元403在判斷是否進行限流操作后，以比較單元獲得的比較結(jié)果作為判斷依據(jù)。
[0063]本領(lǐng)域技術(shù)人員可以理解，上述用于分布式緩存系統(tǒng)的流量控制裝置400還包括一些其他公知結(jié)構(gòu)，例如處理器、存儲器等，為了不必要地模糊本公開的實施例，這些公知的結(jié)構(gòu)在圖4中未示出。
[0064]下面參考圖5，其示出了適于用來實現(xiàn)本申請實施例的終端設(shè)備或服務(wù)器的計算機系統(tǒng)500的結(jié)構(gòu)示意圖。
[0065]如圖5所示，計算機系統(tǒng)500包括中央處理單元(CPU) 501，其可以根據(jù)存儲在只讀存儲器(ROM) 502中的程序或者從存儲部分508加載到隨機訪問存儲器(RAM) 503中的程序而執(zhí)行各種適當?shù)膭幼骱吞幚?。在RAM 503中，還存儲有系統(tǒng)500操作所需的各種程序和數(shù)據(jù)。CPU 501,ROM 502以及RAM 503通過總線504彼此相連。輸入/輸出(I/O)接口505也連接至總線504。
[0066]以下部件連接至I/O接口 505:包括鍵盤、鼠標等的輸入部分506 ;包括諸如陰極射線管(CRT)、液晶顯示器(LCD)等以及揚聲器等的輸出部分507 ;包括硬盤等的存儲部分508 ；以及包括諸如LAN卡、調(diào)制解調(diào)器等的網(wǎng)絡(luò)接口卡的通信部分509。通信部分509經(jīng)由諸如因特網(wǎng)的網(wǎng)絡(luò)執(zhí)行通信處理。驅(qū)動器510也根據(jù)需要連接至I/O接口 505?？刹鹦督橘|(zhì)511，諸如磁盤、光盤、磁光盤、半導(dǎo)體存儲器等等，根據(jù)需要安裝在驅(qū)動器510上，以便于從其上讀出的計算機程序根據(jù)需要被安裝入存儲部分508。
[0067]特別地，根據(jù)本公開的實施例，上文參考流程圖描述的過程可以被實現(xiàn)為計算機軟件程序。例如，本公開的實施例包括一種計算機程序產(chǎn)品，其包括有形地包含在機器可讀介質(zhì)上的計算機程序，所述計算機程序包含用于執(zhí)行流程圖所示的方法的程序代碼。在這樣的實施例中，該計算機程序可以通過通信部分509從網(wǎng)絡(luò)上被下載和安裝，和/或從可拆卸介質(zhì)511被安裝。
[0068]附圖中的流程圖和框圖，圖示了按照本申請各種實施例的系統(tǒng)、方法和計算機程序產(chǎn)品的可能實現(xiàn)的體系架構(gòu)、功能和操作。在這點上，流程圖或框圖中的每個方框可以代表一個模塊、程序段、或代碼的一部分，所述模塊、程序段、或代碼的一部分包含一個或多個用于實現(xiàn)規(guī)定的邏輯功能的可執(zhí)行指令。也應(yīng)當注意，在有些作為替換的實現(xiàn)中，方框中所標注的功能也可以以不同于附圖中所標注的順序發(fā)生。例如，兩個接連地表示的方框?qū)嶋H上可以基本并行地執(zhí)行，它們有時也可以按相反的順序執(zhí)行，這依所涉及的功能而定。也要注意的是，框圖和/或流程圖中的每個方框、以及框圖和/或流程圖中的方框的組合，可以用執(zhí)行規(guī)定的功能或操作的專用的基于硬件的系統(tǒng)來實現(xiàn)，或者可以用專用硬件與計算機指令的組合來實現(xiàn)。
[0069]描述于本申請實施例中所涉及到的單元可以通過軟件的方式實現(xiàn)，也可以通過硬件的方式來實現(xiàn)。所描述的單元也可以設(shè)置在處理器中，例如，可以描述為:一種處理器包括記錄單元、計算單元、比較單元和限流單元。其中，這些單元的名稱在某種情況下并不構(gòu)成對該單元本身的限定，例如，計算單元還可以被描述為“根據(jù)所述延時操作的次數(shù)與所述操作的總次數(shù)計算延時操作比例的單元”。
[0070]作為另一方面，本申請還提供了一種非易失性計算機存儲介質(zhì)，該非易失性計算機存儲介質(zhì)可以是上述實施例中所述裝置中所包含的非易失性計算機存儲介質(zhì)；也可以是單獨存在，未裝配入終端中的非易失性計算機存儲介質(zhì)。上述非易失性計算機存儲介質(zhì)存儲有一個或者多個程序，當所述一個或者多個程序被一個設(shè)備執(zhí)行時，使得所述設(shè)備:記錄分布式緩存系統(tǒng)在單位時間內(nèi)所完成的操作的總次數(shù)，并獲取所述操作中延時操作的次數(shù)，其中，所述操作是所述分布式緩存系統(tǒng)根據(jù)客戶端請求所執(zhí)行的讀操作或?qū)懖僮?，所述延時操作是時延大于預(yù)設(shè)時延閾值的操作；根據(jù)所述延時操作的次數(shù)與所述操作的總次數(shù)計算延時操作比例；比較所述延時操作比例與預(yù)設(shè)比例閾值；根據(jù)比較結(jié)果確定是否對分布式緩存系統(tǒng)執(zhí)行限流操作。
[0071]以上描述僅為本申請的較佳實施例以及對所運用技術(shù)原理的說明。本領(lǐng)域技術(shù)人員應(yīng)當理解，本申請中所涉及的發(fā)明范圍，并不限于上述技術(shù)特征的特定組合而成的技術(shù)方案，同時也應(yīng)涵蓋在不脫離所述發(fā)明構(gòu)思的情況下，由上述技術(shù)特征或其等同特征進行任意組合而形成的其它技術(shù)方案。例如上述特征與本申請中公開的(但不限于)具有類似功能的技術(shù)特征進行互相替換而形成的技術(shù)方案。
【主權(quán)項】
1.一種用于分布式緩存系統(tǒng)的流量控制方法，其特征在于，所述方法包括: 記錄分布式緩存系統(tǒng)在單位時間內(nèi)所完成的操作的總次數(shù)，并獲取所述操作中延時操作的次數(shù)，其中，所述操作是所述分布式緩存系統(tǒng)根據(jù)客戶端請求所執(zhí)行的讀操作或?qū)懖僮鳎鲅訒r操作是時延大于預(yù)設(shè)時延閾值的操作； 根據(jù)所述延時操作的次數(shù)與所述操作的總次數(shù)計算延時操作比例； 比較所述延時操作比例與預(yù)設(shè)比例閾值； 根據(jù)比較結(jié)果確定是否對分布式緩存系統(tǒng)執(zhí)行限流操作。2.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述時延是每次操作從接收請求到完成應(yīng)答的時間。3.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述根據(jù)比較結(jié)果確定是否執(zhí)行限流操作包括: 當所述延時操作比例大于所述預(yù)設(shè)比例閾值時，執(zhí)行限流操作。4.根據(jù)權(quán)利要求3所述的方法，其特征在于，所述執(zhí)行限流操作包括:將所述分布式緩存系統(tǒng)的令牌數(shù)減少預(yù)設(shè)值，其中，所述令牌數(shù)用于表征分布式緩存系統(tǒng)容納客戶端請求的個數(shù)。5.根據(jù)權(quán)利要求4所述的方法，其特征在于，所述預(yù)設(shè)值為1。6.一種用于分布式緩存系統(tǒng)的流量控制裝置，其特征在于，所述裝置包括: 記錄單元，配置用于記錄分布式緩存系統(tǒng)在單位時間內(nèi)所完成的操作的總次數(shù)，并獲取所述操作中延時操作的次數(shù)，其中，所述操作是所述分布式緩存系統(tǒng)根據(jù)客戶端請求所執(zhí)行的讀操作或?qū)懖僮?，所述延時操作是時延大于預(yù)設(shè)時延閾值的操作； 計算單元，配置用于根據(jù)所述延時操作的次數(shù)與所述操作的總次數(shù)計算延時操作比例； 比較單元，配置用于比較所述延時操作比例與預(yù)設(shè)比例閾值； 限流單元，配置用于根據(jù)比較結(jié)果確定是否對分布式緩存系統(tǒng)執(zhí)行限流操作。7.根據(jù)權(quán)利要求6所述的裝置，其特征在于，所述時延是每次操作從接收請求到完成應(yīng)答的時間。8.根據(jù)權(quán)利要求6所述的裝置，其特征在于，所述限流單元進一步配置用于:當所述延時操作比例大于所述預(yù)設(shè)比例閾值時，執(zhí)行限流操作。9.根據(jù)權(quán)利要求8所述的裝置，其特征在于，所述限流單元進一步配置用于:當所述延時操作比例大于所述預(yù)設(shè)比例閾值時，將所述分布式緩存系統(tǒng)的令牌數(shù)減少預(yù)設(shè)值，其中，所述令牌數(shù)用于表征分布式緩存系統(tǒng)容納客戶端請求的個數(shù)。10.根據(jù)權(quán)利要求9所述的裝置，其特征在于，所述預(yù)設(shè)值為1。
【專利摘要】本申請公開了用于分布式緩存系統(tǒng)的流量控制方法和裝置。所述方法的一【具體實施方式】包括：記錄分布式緩存系統(tǒng)在單位時間內(nèi)所完成的操作的總次數(shù)，并獲取所述操作中延時操作的次數(shù)，其中，所述操作是所述分布式緩存系統(tǒng)根據(jù)客戶端請求所執(zhí)行的讀操作或?qū)懖僮?，所述延時操作是時延大于預(yù)設(shè)時延閾值的操作；根據(jù)所述延時操作的次數(shù)與所述操作的總次數(shù)計算延時操作比例；比較所述延時操作比例與預(yù)設(shè)比例閾值；根據(jù)比較結(jié)果確定是否對分布式緩存系統(tǒng)執(zhí)行限流操作。該實施方式提高了對分布式緩存系統(tǒng)執(zhí)行限流操作時間的準確性。
【IPC分類】H04L29/08, H04L12/813
【公開號】CN105337891
【申請?zhí)枴緾N201510731999
【發(fā)明人】張東陽
【申請人】北京百度網(wǎng)訊科技有限公司
【公開日】2016年2月17日
【申請日】2015年11月2日