WEB服務(wù)器處理。
[0085]a)WEB服務(wù)器接收匹配失敗信號和請求，并基于該請求向后臺服務(wù)發(fā)送內(nèi)部請求；
[0086]b) WEB服務(wù)器接收后臺服務(wù)基于內(nèi)部請求響應(yīng)的內(nèi)部服務(wù)數(shù)據(jù)，并根據(jù)內(nèi)部服務(wù)數(shù)據(jù)發(fā)送外部服務(wù)數(shù)據(jù)，即響應(yīng)用戶請求。
[0087]5、如果令牌桶匹配成功，檢查令牌桶剩余令牌數(shù)是否大于危險閾值:
[0088]a)如果令牌桶的剩余令牌數(shù)大于危險閾值，判斷是否設(shè)置了過載處理函數(shù):
[0089]1.若設(shè)置了過載處理函數(shù)，調(diào)用所述過載處理函數(shù)對所述請求進行處理；
[0090]i1.若未設(shè)置過載處理函數(shù)，將請求返還給WEB服務(wù)器；
[0091]b)如果令牌桶的剩余令牌數(shù)未大于危險閾值，
[0092]1.使令牌桶申請令牌(令牌數(shù)減一);
[0093]i1.基于請求向后臺服務(wù)發(fā)送內(nèi)部請求；
[0094]ii1.接收后臺服務(wù)基于內(nèi)部請求響應(yīng)的內(nèi)部服務(wù)數(shù)據(jù)或超時數(shù)據(jù)；
[0095]iv.使令牌桶歸還令牌(令牌數(shù)加一)；
[0096]V.將內(nèi)部服務(wù)數(shù)據(jù)或超時數(shù)據(jù)發(fā)送給WEB服務(wù)器，WEB服務(wù)器發(fā)送外部服務(wù)數(shù)據(jù)，即響應(yīng)用戶請求。
[0097]通過上述流量限制方法，對令牌桶算法進行了改造，對應(yīng)每一種不可靠的后臺服務(wù)配置令牌桶，并限定了令牌桶的容量以及所有令牌桶的總?cè)萘?，不同于傳統(tǒng)令牌桶算法，本發(fā)明中的令牌不以恒定速率注入，而是由令牌桶自己歸還，克服了 WEB服務(wù)器接受請求的速率變慢的問題，進而使本發(fā)明的流量限制方法和系統(tǒng)能夠通過多令牌桶隔離不可靠的后臺服務(wù)，在后端響應(yīng)時間不確定的情況下，保障WEB服務(wù)器的穩(wěn)定運行，堆積的請求不會令服務(wù)器出現(xiàn)掛死或者宕機的現(xiàn)象，從而更好的控制WEB服務(wù)器的并發(fā)請求數(shù)，使得服務(wù)器更加穩(wěn)定可靠。
[0098]基于上述流量限制方法，本發(fā)明還提供了一種流量限制系統(tǒng)實施例1:
[0099]圖7為本發(fā)明流量限制系統(tǒng)實施例1的結(jié)構(gòu)示意圖；如圖7所示，流量限制系統(tǒng)實施例1包括連接WEB服務(wù)器的匹配單元100，
[0100]匹配單元100用于根據(jù)匹配規(guī)則將請求與配置給當前后臺服務(wù)的令牌桶進行匹配；并在匹配成功時，基于該請求向該令牌桶申請令牌；
[0101]匹配單元100還用于在匹配失敗時，返回空值，并判斷配置給各后臺服務(wù)的令牌桶是否均已匹配完畢:在判斷未匹配完畢時，將下一個配置有令牌桶的后臺服務(wù)作為當前后臺服務(wù)，并根據(jù)匹配規(guī)則將請求與配置給當前后臺服務(wù)的令牌桶進行匹配；在判斷匹配完畢時，反饋匹配失敗信號。
[0102]本發(fā)明流量限制系統(tǒng)實施例1能夠通過匹配單元100，根據(jù)匹配規(guī)則將請求與配置給當前后臺服務(wù)的令牌桶進行匹配，從而通過多令牌桶隔離不可靠的后臺服務(wù)，保護WEB服務(wù)器的穩(wěn)定性。
[0103]WEB服務(wù)器接收到一個請求后，匹配單元100會根據(jù)該請求的特征，如URI (Uniform Resource Identifier:統(tǒng)一資源標識符)或者請求中包含的JSON(JavaScript Object Notat1n:輕量級的數(shù)據(jù)交換格式)數(shù)據(jù)等，來匹配令牌桶，即根據(jù)匹配規(guī)則對請求與令牌桶進行循環(huán)匹配，具體而言，請求到來時，依次匹配，只要請求與其中一個令牌桶匹配成功，就對該請求進行下一步處理。
[0104]在其中一個實施例中，如圖8所示，圖8為本發(fā)明流量限制系統(tǒng)實施例1中匹配單元的系統(tǒng)結(jié)構(gòu)示意圖，本發(fā)明流量限制系統(tǒng)實施例1的匹配單元100包括:
[0105]自定義函數(shù)模塊10，用于設(shè)置自定義匹配函數(shù)；
[0106]參數(shù)調(diào)用模塊20，用于在匹配失敗時，使用請求作為參數(shù)調(diào)用自定義匹配函數(shù)繼續(xù)進行匹配。
[0107]即可以通過自定義函數(shù)模塊10預(yù)設(shè)自定義匹配函數(shù)，如果用戶未設(shè)置自定義匹配函數(shù)，按照傳統(tǒng)技術(shù)中已有的匹配規(guī)則進行處理。
[0108]具體如下:
[0109]如果系統(tǒng)對令牌桶設(shè)置了默認URI，匹配單元100比較請求包含的URI和默認URI，
[0110]若相同，匹配成功；
[0111]若不同，如果自定義函數(shù)模塊10設(shè)置了自定義匹配函數(shù)；參數(shù)調(diào)用模塊20使用請求作為參數(shù)調(diào)用該自定義匹配函數(shù):如果成功，匹配成功；如果失敗，匹配單元100返回空值；如果自定義函數(shù)模塊10沒有設(shè)置自定義匹配函數(shù)，匹配單元100返回空值；
[0112]如果系統(tǒng)沒有對令牌桶設(shè)置默認URI，
[0113]若自定義函數(shù)模塊10設(shè)置了自定義匹配函數(shù)；參數(shù)調(diào)用模塊20使用請求作為參數(shù)調(diào)用該自定義匹配函數(shù):如果成功，匹配成功；如果失敗，匹配單元100返回空值；若自定義函數(shù)模塊10沒有設(shè)置所述自定義匹配函數(shù)，匹配單元100返回空值。
[0114]綜上，匹配單元100通過自定義函數(shù)模塊10和參數(shù)調(diào)用模塊20，根據(jù)URI和自定義匹配函數(shù)，與請求包中的數(shù)據(jù)匹配不同的令牌桶，能夠達到一定程度的QoS(Quality ofService，服務(wù)質(zhì)量)，保障Web服務(wù)器中接收到的關(guān)鍵服務(wù)得到及時處理。
[0115]具體而言，傳統(tǒng)技術(shù)中使用URI匹配是一種常見的方法。而本申請的流量限制系統(tǒng)實施例1可以達到一定程度的QoS，原因在于匹配單元100能夠通過自定義函數(shù)模塊10為非關(guān)鍵請求設(shè)置并調(diào)用自定義匹配函數(shù)來定義令牌桶，限制非關(guān)鍵請求的數(shù)量，保障關(guān)鍵請求可以得到服務(wù)。例如，在一個具體實施例中，用戶查詢屬于非關(guān)鍵請求，用戶訂購屬于關(guān)鍵請求，匹配單元100可以定義一個容量較小的令牌桶來限制用戶查詢請求的流量，從而保障用戶訂購請求的流量。
[0116]多令牌桶的流量限制系統(tǒng)作為一個單元運行在WEB服務(wù)器內(nèi)部，令牌桶匹配是由匹配單元100提供的接口，由WEB服務(wù)器調(diào)用這個接口得到令牌桶匹配接口，匹配成功將請求返回給匹配成功的令牌桶進行處理，匹配失敗由匹配單元100返回空值，匹配單元100繼續(xù)使用該請求與下一個令牌桶進行匹配。
[0117]圖9為本發(fā)明流量限制系統(tǒng)實施例1中基于請求向匹配成功的令牌桶申請令牌的結(jié)構(gòu)示意圖；如圖9所示，本發(fā)明流量限制系統(tǒng)實施例1還包括連接匹配單元100的令牌檢查單元110，以及連接令牌檢查單元110的函數(shù)調(diào)用單元120和令牌處理單元130:
[0118]令牌檢查單元110，用于在匹配成功時，檢查令牌桶的剩余令牌數(shù)是否大于危險閾值；
[0119]函數(shù)調(diào)用單元120，用于在令牌檢查單元110的檢查結(jié)果為是時，調(diào)用預(yù)設(shè)的過載處理函數(shù)對請求進行處理；
[0120]令牌處理單元130，用于在令牌檢查單元110的檢查結(jié)果為否時，發(fā)出申請指令使令牌桶申請令牌；并在接收到后臺服務(wù)基于內(nèi)部請求響應(yīng)的內(nèi)部服務(wù)數(shù)據(jù)或超時數(shù)據(jù)時，發(fā)出歸還指令使令牌桶歸還令牌。
[0121]在一個具體的實施例中:
[0122]1、WEB服務(wù)器接收并通過令牌桶匹配接口發(fā)送請求給匹配單元100 ;
[0123]2、匹配單元100循環(huán)匹配令牌桶，匹配過程如上文所述，此處不贅述。
[0124]3、如果令牌桶匹配失敗，該請求不受任何令牌桶限制，匹配單元100反饋匹配失敗信號，并將該請求返回給WEB服務(wù)器，由WEB服務(wù)器發(fā)送內(nèi)部請求給后臺服務(wù):
[0125]a)后臺服務(wù)基于內(nèi)部請求響應(yīng)內(nèi)部服務(wù)數(shù)據(jù)；
[0126]b)WEB服務(wù)器基于內(nèi)部服務(wù)數(shù)據(jù)發(fā)送外部服務(wù)數(shù)據(jù)，即響應(yīng)用戶請求。
[0127]4、如果匹配單元100的令牌桶匹配成功，由令牌檢查單元110檢查令牌桶剩余令牌數(shù)是否大于危險閾值:
[0128]a)若檢查結(jié)果為是:
[0129]1.設(shè)置了過載處理函數(shù)，函數(shù)調(diào)用單元120調(diào)用過載處理函數(shù)。
[0130]i1.若未設(shè)置過載處理函數(shù)，匹配單元100將請求返還給WEB服務(wù)器，由WEB服務(wù)器反饋系統(tǒng)繁忙的外部服務(wù)數(shù)據(jù)。
[0131]b)若檢查結(jié)果為否，