一種緩存方法、裝置及代理服務器的制造方法
【專利摘要】本發(fā)明實施例提供一種緩存方法、裝置及代理服務器,涉及通信【技術領域】,實現(xiàn)在緩存未命中,網絡狀況差及系統(tǒng)自身負載高時,降低緩存功對局域網內用戶體驗的不良影響。本發(fā)明提供的方案包括:接收緩存客戶機發(fā)送的訪問請求;統(tǒng)計獲取N次接收緩存客戶機發(fā)送的訪問請求過程中的吞吐率參數(shù);根據吞吐率參數(shù),繼續(xù)接收緩存客戶機發(fā)送的訪問請求并統(tǒng)計獲取N次接收緩存客戶機發(fā)送的訪問請求過程中的吞吐率參數(shù),或者,停止緩存僅接收轉發(fā)所述客戶機發(fā)送的所述訪問請求。本發(fā)明用于緩存。
【專利說明】-種緩存方法、裝置及代理服務器
【技術領域】
[0001] 本發(fā)明涉及通信【技術領域】,尤其涉及一種緩存方法、裝置及代理服務器。
【背景技術】
[0002] 互聯(lián)網的超文本傳輸協(xié)議(Hypertext transfer protocol,簡稱HTTP)訪問過程 是一個典型的客戶機與服務器的交互過程;在客戶機與服務器交互的過程中,一般會在客 戶機與服務器之間設置HTTP代理服務器,HTTP代理服務器用于代理局域網內用戶去取得 網絡信息。HTTP代理服務器的基本功能包括:接收和解釋客戶機的請求;根據上述請求創(chuàng) 建客戶機和服務器之間的新連接;接收服務器發(fā)來的響應;發(fā)出和解釋服務器的響應并將 該響應傳回客戶機。
[0003] 為了縮短HTTP訪問過程中的頁面訪問時間,提高局域網內用戶的上網體驗,HTTP 代理服務器提供了緩存功能,該功能可以將客戶機訪問的且可以緩存的頁面存儲下來;當 HTTP代理服務器接收到的客戶機請求訪問的頁面已經被存儲時,HTTP代理服務器可以直 接將已經存儲的頁面直接回復至客戶機,不用跨廣域網(Wide Area Network,簡稱WAN)到 服務器去獲取,縮短了頁面訪問時間,提高了局域網內用戶的上網體驗。其中,頁面是否可 以被緩存,在RFC2616協(xié)議中有明確的說明,此處不再進行贅述。
[0004] 緩存功能的實現(xiàn)步驟可以包括:解析客戶請求報文、查找索引判斷是否緩存命 中、存儲緩存文件至本地磁盤等,這些步驟的執(zhí)行會占用代理服務器的中央處理器資源 (Central Processing Unit,簡稱CPU)及內存資源等,對HTTP代理服務器的轉發(fā)性能帶來 損耗。當緩存命中時,轉發(fā)性能的損耗可以被加速效果彌補,局域網內用戶上網體驗明顯提 高;當緩存未命中時,緩存功能不能達到加速效果,則只造成HTTP代理服務器的轉發(fā)性能 的損耗。當緩存未命中且網絡狀況好及系統(tǒng)自身負載低時(例如HTTP代理服務器系統(tǒng)空 閑,CPU、內存資源不緊張),局域網內用戶對轉發(fā)性能的損耗沒有明顯感知,因此基本不會 造成使局域網內用戶上網體驗明顯下降;但是當緩存未命中,且網絡狀況差及系統(tǒng)自身負 載高時(比如HTTP代理服務器系統(tǒng)繁忙,CPU、內存資源緊張),轉發(fā)性能的損耗使得頁面 響應時間增加,因此導致了局域網內用戶上網體驗明顯下降。
[0005] 在現(xiàn)有技術中,當緩存未命中,網絡狀況差及系統(tǒng)自身負載高導致的局域網內用 戶上網體驗明顯下降時,管理員可以通過靜態(tài)配置來關閉緩存功能,以消除這一現(xiàn)象。但 是,由于管理員無法準確判斷當前的網絡狀況及系統(tǒng)負載狀況,并且靜態(tài)配置時延較高,因 此,在緩存未命中,網絡狀況差及系統(tǒng)自身負載高時,緩存功能還是會對局域網內用戶體驗 造成不良影響。
【發(fā)明內容】
[0006] 本發(fā)明的實施例提供一種緩存方法及裝置,實現(xiàn)在緩存未命中,網絡狀況差及系 統(tǒng)自身負載高時,降低緩存功對局域網內用戶體驗的不良影響。
[0007] 為達到上述目的,本發(fā)明的實施例采用如下技術方案:
[0008] 第一方面,提供一種緩存方法,應用于緩存裝置,所述方法包括:
[0009] 接收緩存客戶機發(fā)送的訪問請求;
[0010] 統(tǒng)計獲取N次接收緩存客戶機發(fā)送的訪問請求過程中的吞吐率參數(shù);其中,所述N 大于或等于2 ;
[0011] 根據所述吞吐率參數(shù),繼續(xù)接收緩存客戶機發(fā)送的訪問請求并統(tǒng)計獲取N次接收 緩存客戶機發(fā)送的訪問請求過程中的吞吐率參數(shù),或者,停止緩存僅接收轉發(fā)所述客戶機 發(fā)送的所述訪問請求。
[0012] 結合第一方面,在第一方面的第一種可能的實現(xiàn)方式中,所述根據所述吞吐率參 數(shù),繼續(xù)接收緩存客戶機發(fā)送的訪問請求并統(tǒng)計獲取N次接收緩存客戶機發(fā)送的訪問請求 過程中的吞吐率參數(shù),或者,停止緩存僅接收轉發(fā)所述客戶機發(fā)送的所述訪問請求,包括:
[0013] 根據所述吞吐率參數(shù),判斷所述緩存裝置的緩存功能的實際加速效果是否達到目 標加速效果;
[0014] 若所述緩存裝置的緩存功能的實際加速效果達到目標加速效果,則繼續(xù)接收緩存 客戶機發(fā)送的訪問請求并統(tǒng)計獲取N次接收緩存客戶機發(fā)送的訪問請求過程中的吞吐率 參數(shù);
[0015] 若所述緩存裝置的緩存功能的實際加速效果未達到目標加速效果,則停止緩存僅 接收轉發(fā)所述客戶機發(fā)送的所述訪問請求。
[0016] 結合第一方面的第一種可能的實現(xiàn)方式,在第一方面的第二種可能的實現(xiàn)方式 中,若所述吞吐率參數(shù)包括所述緩存裝置局域網(Local Area Network,簡稱LAN)端吞吐 率\及所述緩存裝置廣域網WAN端口的吞吐率Vw,所述根據所述吞吐率參數(shù),判斷所述緩 存裝置的緩存功能的實際加速效果是否達到目標加速效果,包括:
[0017] 若所述 '大于或等于所述AVW,則所述緩存裝置的緩存功能的實際加速效果達到 目標加速效果;其中,所述A大于或等于1 ;
[0018] 若所述 '小于或等于所述AVW,則所述緩存裝置的緩存功能的實際加速效果未達 到目標加速效果;
[0019] 或者,
[0020]
【權利要求】
1. 一種緩存方法,其特征在于,應用于緩存裝置,所述方法包括: 接收緩存客戶機發(fā)送的訪問請求; 統(tǒng)計獲取N次接收緩存客戶機發(fā)送的訪問請求過程中的吞吐率參數(shù);其中,所述N大于 或等于2 ; 根據所述吞吐率參數(shù),繼續(xù)接收緩存客戶機發(fā)送的訪問請求并統(tǒng)計獲取N次接收緩存 客戶機發(fā)送的訪問請求過程中的吞吐率參數(shù),或者,停止緩存僅接收轉發(fā)所述客戶機發(fā)送 的所述訪問請求。
2. 根據權利要求1所述的緩存方法,其特征在于,所述根據所述吞吐率參數(shù),繼續(xù)接收 緩存客戶機發(fā)送的訪問請求并統(tǒng)計獲取N次接收緩存客戶機發(fā)送的訪問請求過程中的吞 吐率參數(shù),或者,停止緩存僅接收轉發(fā)所述客戶機發(fā)送的所述訪問請求,包括: 根據所述吞吐率參數(shù),判斷所述緩存裝置的緩存功能的實際加速效果是否達到目標加 速效果; 若所述緩存裝置的緩存功能的實際加速效果達到目標加速效果,則繼續(xù)接收緩存客戶 機發(fā)送的訪問請求并統(tǒng)計獲取N次接收緩存客戶機發(fā)送的訪問請求過程中的吞吐率參數(shù); 若所述緩存裝置的緩存功能的實際加速效果未達到目標加速效果,則停止緩存僅接收 轉發(fā)所述客戶機發(fā)送的所述訪問請求。
3. 根據權利要求2所述的緩存方法,其特征在于,若所述吞吐率參數(shù)包括所述緩存裝 置局域網LAN端吞吐率\及所述緩存裝置廣域網WAN端口的吞吐率V w,所述根據所述吞吐 率參數(shù),判斷所述緩存裝置的緩存功能的實際加速效果是否達到目標加速效果,包括: 若所述 '大于或等于所述AVW,則所述緩存裝置的緩存功能的實際加速效果達到目標 加速效果;其中,所述A大于或等于1 ; 若所述\小于或等于所述AVW,則所述緩存裝置的緩存功的優(yōu)化效果能未達到目標加 速效果; 或者,
若所述K大于或等于第一預設閾值,則所述緩存裝置的緩存功能的實際加速效果達到 目標加速效果;其中,第一預設閾值大于或等于1 ; 若所述K小于或等于第一預設閾值,則所述緩存裝置的緩存功能的實際加速效果未達 到目標加速效果。
4. 根據權利要求2所述的緩存方法,其特征在于,若所述吞吐率參數(shù)包括所述緩存裝 置的廣域網WAN端口的吞吐率Vw、所述緩存裝置自身的吞吐率V H,所述根據所述吞吐率參 數(shù),判斷所述緩存裝置的緩存功能的實際加速效果是否達到目標加速效果,包括: 若VW/VH小于或等于第二預設閾值,則所述緩存裝置的緩存功能的實際加速效果達到 目標加速效果; 若所述VW/VH大于或等于第二預設閾值,則所述緩存裝置的緩存功能的實際加速效果 未達到目標加速效果。
5. 根據權利要求2所述的緩存方法,其特征在于,若所述吞吐率參數(shù)包括所述緩存裝 置廣域網WAN端口的吞吐率Vw、所述緩存裝置自身的吞吐率V H及SF ;其中,所述SF = 1-FW/ ^ ;所述FWS所述緩存裝置WAN端數(shù)據流量;所述^為所述緩存裝置LAN端數(shù)據流量;所述 根據所述吞吐率參數(shù),判斷所述緩存裝置的緩存功能的實際加速效果是否達到目標加速效 果,包括: 若所述SF大于或等于
,則所述緩存裝置的緩存功能的實際加速效果達到目標加 速效果;其中,所述B大于或等于0 ; 若所述SF小于或等于所述
,則所述緩存裝置的緩存功能的實際加速效果未達到 目標加速效果; 或者,
若所述K大于或等于第三預設閾值,則所述緩存裝置的緩存功能的實際加速效果達到 目標加速效果;其中,第三預設閾值大于或等于1 ; 若所述K小于或等于第三預設閾值,則所述緩存裝置的緩存功能的實際加速效果未達 到目標加速效果。
6. 根據權利要求1-5任一項所述的緩存方法,其特征在于,所述接收緩存客戶機發(fā)送 的訪問請求,包括: 接收所述客戶機發(fā)送的所述訪問請求;其中,所述訪問請求包括所述客戶機請求的訪 問信息的標識; 解析所述訪問請求,獲取所述客戶機請求的訪問信息的標識; 根據所述訪問信息的標識,判斷所述訪問信息是否可以被緩存; 若所述訪問信息不能被緩存,則從服務器獲取所述訪問信息發(fā)送至所述客戶機; 若所述訪問信息可以被緩存,根據所述訪問信息的標識,查找緩存索引判斷所述訪問 信息是否緩存命中;其中,所述緩存索引包括本地磁盤已經保存的訪問信息的標識及與所 述訪問信息的標識--對應的響應內容;所述響應內容包括訪問信息或訪問信息及時效信 息; 若所述訪問信息緩存命中,則判斷本地磁盤已經保存的所述訪問信息是否過期; 若所述訪問信息緩存命中且未過期,則從本地磁盤獲取所述訪問信息發(fā)送至所述客戶 機; 若所述訪問信息緩存命中且已過期或者所述訪問信息緩存未命中,則從所述服務器 獲取所述訪問信息發(fā)送至所述客戶機,并將所述訪問信息的標識及響應內容添加至緩存索 引。
7. 根據權利要求1-5任一項所述的緩存方法,其特征在于,在所述停止緩存僅接收轉 發(fā)所述客戶機發(fā)送的所述訪問請求之后,所述方法還包括: 啟動計時; 當計時預設時間段后,繼續(xù)接收緩存客戶機發(fā)送的訪問請求并統(tǒng)計獲取N次接收緩存 客戶機發(fā)送的訪問請求過程中的吞吐率參數(shù)。
8. -種緩存裝置,其特征在于,所述緩存裝置包括: 接收處理單元,用于接收緩存客戶機發(fā)送的訪問請求; 統(tǒng)計獲取單元,用于統(tǒng)計獲取所述接收處理單元N次接收緩存客戶機發(fā)送的訪問請求 過程中的吞吐率參數(shù);其中,所述N大于或等于2 ; 所述接收處理單元還用于,根據所述統(tǒng)計獲取單元統(tǒng)計獲取的吞吐率參數(shù),繼續(xù)接收 緩存客戶機發(fā)送的訪問請求;或者,停止緩存僅接收轉發(fā)所述客戶機發(fā)送的所述訪問請求。
9. 根據權利要求8所述的緩存裝置,其特征在于,所述接收處理單元具體包括: 判斷模塊,用于根據所述統(tǒng)計獲取單元獲取的吞吐率參數(shù),判斷所述緩存裝置的緩存 功能的實際加速效果是否達到目標加速效果; 接收處理模塊,用于若所述判斷模塊判斷所述緩存裝置的緩存功能的實際加速效果達 到目標加速效果,則繼續(xù)接收緩存客戶機發(fā)送的訪問請求并統(tǒng)計獲取N次接收緩存客戶機 發(fā)送的訪問請求過程中的吞吐率參數(shù); 所述接收處理模塊還用于,若所述判斷模塊判斷所述緩存裝置的緩存功能的實際加速 效果未達到目標加速效果,則停止緩存僅接收轉發(fā)所述客戶機發(fā)送的所述訪問請求。
10. 根據權利要求9所述的緩存裝置,其特征在于,若所述吞吐率參數(shù)包括所述緩存裝 置局域網LAN端吞吐率\及所述緩存裝置廣域網WAN端口的吞吐率V w,所述判斷模塊具體 用于: 若所述 '大于或等于所述AVW,則所述緩存裝置的緩存功能的實際加速效果達到目標 加速效果;其中,所述A大于或等于1 ; 若所述\小于或等于所述AVW,則所述緩存裝置的緩存功能的實際加速效果未達到目 標加速效果; 或者,
若所述K大于或等于第一預設閾值,則所述緩存裝置的緩存功能的實際加速效果達到 目標加速效果;其中,所述第一預設閾值大于或等于1 ; 若所述K小于或等于第一預設閾值,則所述緩存裝置的緩存功能的實際加速效果未達 到目標加速效果。
11. 根據權利要求9所述的緩存裝置,其特征在于,若所述吞吐率參數(shù)包括所述緩存裝 置的廣域網WAN端口的吞吐率Vw、所述緩存裝置自身的吞吐率V H,所述判斷模塊具體用于: 若VW/VH小于或等于第二預設閾值,則所述緩存裝置的緩存功能的實際加速效果達到 目標加速效果; 若所述VW/VH大于或等于第二預設閾值,則所述緩存裝置的緩存功能的實際加速效果 未達到目標加速效果。
12. 根據權利要求9所述的緩存裝置,其特征在于,若所述吞吐率參數(shù)包括所述緩存裝 置廣域網WAN端口的吞吐率Vw、所述緩存裝置自身的吞吐率V H及SF ;其中,所述SF = 1-FW/ ^ ;所述FWS所述緩存裝置WAN端數(shù)據流量;所述^為所述緩存裝置LAN端數(shù)據流量;所述 判斷模塊具體用于: 若所述SF大于或等于
,則所述緩存裝置的緩存功能的實際加速效果達到目標加 速效果;其中,所述B大于或等于0 ; 若所述SF小于或等于所述
,則所述緩存裝置的緩存功能的實際加速效果未達到 目標加速效果; 或者,
若所述K大于或等于第三預設閾值,則所述緩存裝置的緩存功能的實際加速效果達到 目標加速效果;其中,所述第三預設閾值大于或等于1 ; 若所述K小于或等于第三預設閾值,則所述緩存裝置的緩存功能的實際加速效果未達 到目標加速效果。
13. 根據權利要求8-12任一項所述的緩存裝置,其特征在于,所述接收處理單元具體 用于: 接收所述客戶機發(fā)送的所述訪問請求;其中,所述訪問請求包括所述客戶機請求的訪 問信息的標識; 解析所述訪問請求,獲取所述客戶機請求的訪問信息的標識; 根據所述訪問信息的標識,判斷所述訪問信息是否可以被緩存; 若所述訪問信息不能被緩存,則從服務器獲取所述訪問信息發(fā)送至所述客戶機; 若所述訪問信息可以被緩存,根據所述訪問信息的標識,查找緩存索引判斷所述訪問 信息是否緩存命中;其中,所述緩存索引包括本地磁盤已經保存的訪問信息的標識及與所 述訪問信息的標識--對應的響應內容;所述響應內容包括訪問信息或訪問信息及時效信 息; 若所述訪問信息緩存命中,則判斷本地磁盤已經保存的所述訪問信息是否過期; 若所述訪問信息緩存命中且未過期,則從本地磁盤獲取所述訪問信息發(fā)送至所述客戶 機; 若所述訪問信息緩存命中且已過期或者所述訪問信息緩存未命中,則從所述服務器 獲取所述訪問信息發(fā)送至所述客戶機,并將所述訪問信息的標識及響應內容添加至緩存索 引。
14. 根據權利要求8-12任一項所述的緩存裝置,其特征在于,所述緩存裝置還包括: 計時器,用于在所述接收處理單元停止緩存僅接收轉發(fā)所述客戶機發(fā)送的所述訪問請 求之后開始計時; 所述接收處理單元還用于,當所述計時器運行預設時間段后,繼續(xù)接收緩存客戶機發(fā) 送的訪問請求。
15. -種代理服務器,其特征在于,包括: 如權利要求8-14任一項所述的緩存裝置。
【文檔編號】H04L29/08GK104113599SQ201410350562
【公開日】2014年10月22日 申請日期:2014年7月22日 優(yōu)先權日:2014年7月22日
【發(fā)明者】陳晨星 申請人:北京星網銳捷網絡技術有限公司