国产精品1024永久观看,大尺度欧美暖暖视频在线观看,亚洲宅男精品一区在线观看,欧美日韩一区二区三区视频,2021中文字幕在线观看

  • <option id="fbvk0"></option>
    1. <rt id="fbvk0"><tr id="fbvk0"></tr></rt>
      <center id="fbvk0"><optgroup id="fbvk0"></optgroup></center>
      <center id="fbvk0"></center>

      <li id="fbvk0"><abbr id="fbvk0"><dl id="fbvk0"></dl></abbr></li>

      業(yè)務(wù)數(shù)據(jù)匯總方法及其系統(tǒng)與流程

      文檔序號:11620595閱讀:871來源:國知局
      業(yè)務(wù)數(shù)據(jù)匯總方法及其系統(tǒng)與流程

      本申請涉及信息技術(shù)領(lǐng)域,尤其涉及一種業(yè)務(wù)數(shù)據(jù)匯總方法及其系統(tǒng)。



      背景技術(shù):

      分布式存儲場景下,數(shù)據(jù)匯總會面臨很多問題,其中時效與成本是兩個矛盾的因素。如果匯總頻率高,則時效性也高,但是增加了網(wǎng)絡(luò)傳輸成本以及存儲的成本;如果匯總頻率低,則時效性無法得到滿足,且數(shù)據(jù)產(chǎn)生過快時,反而會加大匯總的成本。

      在大數(shù)據(jù)場景下,隨著匯總粒度的不斷增長,數(shù)據(jù)匯總的成本也會隨之增長,最終導(dǎo)致無法承受其匯總成本。綜上所述,現(xiàn)有技術(shù)中缺少對于分布式存儲的大數(shù)據(jù)的數(shù)據(jù)匯總的有效的解決方案,因此有必要提出改進(jìn)的技術(shù)手段解決上述問題。



      技術(shù)實現(xiàn)要素:

      本申請實施例提供了一種業(yè)務(wù)數(shù)據(jù)匯總方法及其系統(tǒng),以解決現(xiàn)有技術(shù)中的分布式存儲的數(shù)據(jù)匯總成本較高的問題。

      為了解決上述問題,根據(jù)本申請實施例提供一種業(yè)務(wù)數(shù)據(jù)匯總方法,其包括:通過分布式存儲方式存儲多個客戶端產(chǎn)生的各業(yè)務(wù)數(shù)據(jù);針對各業(yè)務(wù)數(shù)據(jù),判斷該業(yè)務(wù)數(shù)據(jù)是否屬于熱點數(shù)據(jù),其中根據(jù)該業(yè)務(wù)數(shù)據(jù)對應(yīng)的客戶端的屬性判斷該業(yè)務(wù)數(shù)據(jù)是否屬于熱點數(shù)據(jù);若是,則根據(jù)預(yù)設(shè)的第一數(shù)據(jù)匯總方式對所述熱點數(shù)據(jù)進(jìn)行業(yè)務(wù)數(shù)據(jù)匯總。

      其中,在第一存儲單元存儲所述熱點數(shù)據(jù);所述根據(jù)預(yù)設(shè)的第一數(shù)據(jù)匯總方式對所述熱點數(shù)據(jù)進(jìn)行業(yè)務(wù)數(shù)據(jù)匯總,具體包括:待預(yù)設(shè)時間后,對所述第一存儲單元存儲的熱點數(shù)據(jù)執(zhí)行第一階段數(shù)據(jù)匯總處理得到第一階段匯總數(shù)據(jù);將所述第一階段匯總數(shù)據(jù)發(fā)送至第二存儲單元進(jìn)行存儲;對所述第二存儲單元存儲的各第一階段匯總數(shù)據(jù)執(zhí)行第二階段數(shù)據(jù)匯總處理。

      其中,還包括:若判斷所述業(yè)務(wù)數(shù)據(jù)屬于非熱點數(shù)據(jù),則根據(jù)預(yù)設(shè)的第二數(shù)據(jù)匯總方式對所述非熱點數(shù)據(jù)進(jìn)行業(yè)務(wù)數(shù)據(jù)匯總。

      其中,在第一存儲單元存儲所述非熱點數(shù)據(jù);所述根據(jù)預(yù)設(shè)的第二數(shù)據(jù)匯總方式對所述非熱點數(shù)據(jù)進(jìn)行業(yè)務(wù)數(shù)據(jù)匯總,具體包括:將所述非熱點數(shù)據(jù)發(fā)送至第二存儲單元進(jìn)行存儲;對所述第二存儲單元存儲的各非熱點數(shù)據(jù)執(zhí)行數(shù)據(jù)匯總處理。

      其中,還包括:根據(jù)近期最少使用算法lru識別客戶端是否屬于熱點客戶端,若是則判斷該熱點客戶端產(chǎn)生的業(yè)務(wù)數(shù)據(jù)屬于熱點數(shù)據(jù)。

      其中,還包括:設(shè)置所述熱點客戶端的熱點時段,所述熱點客戶端在熱點時段產(chǎn)生的業(yè)務(wù)數(shù)據(jù)屬于熱點數(shù)據(jù)。

      根據(jù)本申請實施例提供一種業(yè)務(wù)數(shù)據(jù)匯總系統(tǒng),其包括:存儲模塊,用于通過分布式存儲方式存儲多個客戶端產(chǎn)生的各業(yè)務(wù)數(shù)據(jù);熱點數(shù)據(jù)判斷模塊,用于針對各業(yè)務(wù)數(shù)據(jù),判斷該業(yè)務(wù)數(shù)據(jù)是否屬于熱點數(shù)據(jù),其中根據(jù)該業(yè)務(wù)數(shù)據(jù)對應(yīng)的客戶端的屬性判斷該業(yè)務(wù)數(shù)據(jù)是否屬于熱點數(shù)據(jù);第一匯總處理模塊,用于若判斷所述業(yè)務(wù)數(shù)據(jù)屬于熱點數(shù)據(jù),則根據(jù)預(yù)設(shè)的第一數(shù)據(jù)匯總方式對所述熱點數(shù)據(jù)進(jìn)行業(yè)務(wù)數(shù)據(jù)匯總。

      其中,所述存儲模塊包括:第一存儲單元,用于存儲熱點數(shù)據(jù);第二存儲單元,用于存儲匯總數(shù)據(jù);所述第一匯總處理模塊還用于,待預(yù)設(shè)時間后,對所述第一存儲單元存儲的熱點數(shù)據(jù)執(zhí)行第一階段數(shù)據(jù)匯總處理得到第一階段匯總數(shù)據(jù);將所述第一階段匯總數(shù)據(jù)發(fā)送至第二存儲單元進(jìn)行存儲;對所述第二存儲單元存儲的各第一階段匯總數(shù)據(jù)執(zhí)行第二階段數(shù)據(jù)匯總處理。

      其中,還包括:第二匯總處理模塊,用于若判斷所述業(yè)務(wù)數(shù)據(jù)屬于非熱點數(shù)據(jù),則根據(jù)預(yù)設(shè)的第二數(shù)據(jù)匯總方式對所述非熱點數(shù)據(jù)進(jìn)行業(yè)務(wù)數(shù)據(jù)匯總。

      其中,所述第一存儲單元,還用于存儲非熱點數(shù)據(jù);第二存儲單元,還用于存儲非熱點數(shù)據(jù)及匯總數(shù)據(jù);所述第二匯總處理模塊,還用于將所述非熱點數(shù)據(jù)發(fā)送至第二存儲單元進(jìn)行存儲;對所述第二存儲單元存儲的各非熱點數(shù)據(jù)執(zhí)行數(shù)據(jù)匯總處理。

      其中,所述熱點數(shù)據(jù)判斷模塊還用于,根據(jù)lru算法識別客戶端是否屬于熱點客戶端,若是則判斷該熱點客戶端產(chǎn)生的業(yè)務(wù)數(shù)據(jù)屬于熱點數(shù)據(jù)。

      其中,所述熱點數(shù)據(jù)判斷模塊還用于,設(shè)置所述熱點客戶端的熱點時段,所述熱點客戶端在熱點時段產(chǎn)生的業(yè)務(wù)數(shù)據(jù)屬于熱點數(shù)據(jù)。

      根據(jù)本申請的技術(shù)方案,通過判斷業(yè)務(wù)數(shù)據(jù)是否屬于熱點數(shù)據(jù),并根據(jù)判斷結(jié)果使用對應(yīng)的數(shù)據(jù)匯總方式,通過本申請能夠有效降低分布式存儲的大數(shù)據(jù)的數(shù)據(jù)匯總的成本。

      附圖說明

      此處所說明的附圖用來提供對本申請的進(jìn)一步理解,構(gòu)成本申請的一部分,本申請的示意性實施例及其說明用于解釋本申請,并不構(gòu)成對本申請的不當(dāng)限定。在附圖中:

      圖1是根據(jù)本申請一個實施例的業(yè)務(wù)數(shù)據(jù)匯總方法的流程圖;

      圖2是根據(jù)本申請另一實施例的業(yè)務(wù)數(shù)據(jù)匯總方法的流程圖;

      圖3是根據(jù)本申請一個實施例的數(shù)據(jù)匯總的示意圖;

      圖4是根據(jù)本申請一個實施例的業(yè)務(wù)數(shù)據(jù)匯總系統(tǒng)的結(jié)構(gòu)框圖。

      具體實施方式

      為使本申請的目的、技術(shù)方案和優(yōu)點更加清楚,下面將結(jié)合本申請具體實施例及相應(yīng)的附圖對本申請技術(shù)方案進(jìn)行清楚、完整地描述。顯然,所描述的實施例僅是本申請一部分實施例,而不是全部的實施例?;诒旧暾堉械膶嵤├绢I(lǐng)域普通技術(shù)人員在沒有做出創(chuàng)造性勞動前提下所獲得的所有其他實施例,都屬于本申請保護的范圍。

      以下結(jié)合附圖,詳細(xì)說明本申請各實施例提供的技術(shù)方案。

      圖1是根據(jù)本申請一個實施例的業(yè)務(wù)數(shù)據(jù)匯總方法的流程圖,如圖1所示,該方法包括以下步驟:

      步驟s102,通過分布式存儲方式存儲多個客戶端產(chǎn)生的各業(yè)務(wù)數(shù)據(jù)。

      其中,所述客戶端可以是指電子商務(wù)平臺的客戶端,這些客戶端產(chǎn)生大量的業(yè)務(wù)數(shù)據(jù)。在本申請實施例中,這些大量的業(yè)務(wù)數(shù)據(jù)通過分布式存儲方式存儲在不同的存儲單元。具體地,存儲單元可以是一個存儲分區(qū)、一塊磁盤、一臺計算機、一個數(shù)據(jù)庫實例、一個數(shù)據(jù)庫集群、一個機房等,本申請對存儲單元的應(yīng)用范圍并不進(jìn)行限制。

      步驟s102,針對各業(yè)務(wù)數(shù)據(jù),判斷該業(yè)務(wù)數(shù)據(jù)是否屬于熱點數(shù)據(jù),其中根據(jù)該業(yè)務(wù)數(shù)據(jù)對應(yīng)的客戶端的屬性判斷該業(yè)務(wù)數(shù)據(jù)是否屬于熱點數(shù)據(jù)。

      在本申請實施例中,判斷所存儲的業(yè)務(wù)數(shù)據(jù)是否屬于熱點數(shù)據(jù)。其中,可以根據(jù)對應(yīng)客戶端的屬性判斷該客戶端是否屬于熱點客戶端,也就是說熱點客戶端在單位時間內(nèi)產(chǎn)生的業(yè)務(wù)數(shù)據(jù)量大于預(yù)設(shè)值。進(jìn)一步,熱點客戶端產(chǎn)生的業(yè)務(wù)數(shù)據(jù)屬于熱點數(shù)據(jù)。

      步驟s104,若判斷業(yè)務(wù)數(shù)據(jù)屬于熱點數(shù)據(jù),則根據(jù)預(yù)設(shè)的第一數(shù)據(jù)匯總方式對所述熱點數(shù)據(jù)進(jìn)行業(yè)務(wù)數(shù)據(jù)匯總。

      下面詳細(xì)描述第一數(shù)據(jù)匯總方式:首先在第一存儲單元存儲所述熱點數(shù)據(jù),待預(yù)設(shè)時間后,對所述第一存儲單元存儲的熱點數(shù)據(jù)執(zhí)行第一階段數(shù)據(jù)匯總處理,得到第一階段匯總數(shù)據(jù);然后將所述第一階段匯總數(shù)據(jù)發(fā)送至第二存儲單元進(jìn)行存儲,并對所述第二存儲單元存儲的各第一階段匯總數(shù)據(jù)執(zhí)行第二階段數(shù)據(jù)匯總處理。簡單來說,第一數(shù)據(jù)匯總方式對判斷屬于熱點數(shù)據(jù)的業(yè)務(wù)數(shù)據(jù)執(zhí)行二次數(shù)據(jù)匯總,其中第一次是在第一存儲單元執(zhí)行,第二次是在第二存儲單元執(zhí)行。

      在本申請的一個實施例中,若判斷所述業(yè)務(wù)數(shù)據(jù)屬于非熱點數(shù)據(jù),則根據(jù)預(yù)設(shè)的第二數(shù)據(jù)匯總方式對所述非熱點數(shù)據(jù)進(jìn)行業(yè)務(wù)數(shù)據(jù)匯總。下面詳細(xì)描述第二數(shù)據(jù)匯總方式:首先在第一存儲單元存儲所述非熱點數(shù)據(jù),將所述非熱點數(shù)據(jù)發(fā)送至第二存儲單元進(jìn)行存儲,并對所述第二存儲單元存儲的各非熱點數(shù)據(jù)執(zhí)行數(shù)據(jù)匯總處理。簡單來說,第二數(shù)據(jù)匯總方式對判斷屬于非熱點數(shù)據(jù)的業(yè)務(wù)數(shù)據(jù)只執(zhí)行一次數(shù)據(jù)匯總,即僅在第二存儲單元執(zhí)行一次數(shù)據(jù)匯總,而不在第一存儲單元執(zhí)行數(shù)據(jù)匯總,因此在第一存儲單元處不產(chǎn)生匯總成本。

      下面結(jié)合圖2詳細(xì)描述上述處理的細(xì)節(jié)。圖2是根據(jù)本申請另一實施例的業(yè)務(wù)數(shù)據(jù)匯總方法的流程圖,如圖2所示,該方法包括以下步驟:

      步驟s202,存儲多個客戶端產(chǎn)生的業(yè)務(wù)數(shù)據(jù)。

      在本申請實施例中,通過分布式存儲方式存儲多個客戶端產(chǎn)生的業(yè)務(wù)數(shù)據(jù)。在實際實施中,可以根據(jù)地域劃分存儲方式,例如,在北京產(chǎn)生的業(yè)務(wù)數(shù)據(jù)存儲在設(shè)置在北京的存儲單元,在上海產(chǎn)生的業(yè)務(wù)數(shù)據(jù)存儲在設(shè)置在上海的存儲單元。此外,還可以按照其他維度進(jìn)行分布式存儲,此處不再贅述。

      步驟s204,判斷所存儲的業(yè)務(wù)數(shù)據(jù)是否屬于熱點數(shù)據(jù),若判斷是則執(zhí)行步驟s206,否則執(zhí)行步驟s208。

      在本申請實施例中,在判斷所存儲的業(yè)務(wù)數(shù)據(jù)是否屬于熱點數(shù)據(jù)時,可以根據(jù)對應(yīng)客戶端的屬性判斷該客戶端是否屬于熱點客戶端,也就是說熱點客戶端在單位時間內(nèi)產(chǎn)生的業(yè)務(wù)數(shù)據(jù)量大于預(yù)設(shè)值。并且,還可以進(jìn)一步設(shè)置所述熱點客戶端的熱點時段,即熱點客戶端在熱點時段產(chǎn)生的業(yè)務(wù)數(shù)據(jù)屬于熱點數(shù)據(jù),而熱點客戶端在非熱點時段產(chǎn)生的業(yè)務(wù)數(shù)據(jù)屬于非熱點數(shù)據(jù)。此外,對于突發(fā)性活動,熱點數(shù)據(jù)識別可能會滯后,可以采用提前人工預(yù)測的方式,人工識別并設(shè)置熱點客戶端。由此,熱點客戶端產(chǎn)生的業(yè)務(wù)數(shù)據(jù)屬于熱點數(shù)據(jù)。在本申請的其他實施例中,還可以通過設(shè)置熱點活動、熱點商品等方式識別熱點數(shù)據(jù)。需要說明,本申請對于熱點數(shù)據(jù)的判斷方式不進(jìn)行限制。

      步驟s206,按照第一數(shù)據(jù)匯總方式對熱點數(shù)據(jù)進(jìn)行業(yè)務(wù)數(shù)據(jù)匯總。

      具體來說,如果識別業(yè)務(wù)數(shù)據(jù)屬于熱點數(shù)據(jù)后,將熱點數(shù)據(jù)進(jìn)行標(biāo)記,等待進(jìn)行第一階段數(shù)據(jù)匯總。待預(yù)設(shè)時間后,根據(jù)標(biāo)記對熱點數(shù)據(jù)進(jìn)行第一階段數(shù)據(jù)匯總,第一階段數(shù)據(jù)匯總也可稱為單元匯總。單元匯總完成之后,將單元數(shù)據(jù)發(fā)送到匯總點裝置執(zhí)行第二階段匯總。在本申請中,所述匯總點裝置是指執(zhí)行最終匯總處理的裝置。一般地,處理單元匯總的裝置與存儲熱點數(shù)據(jù)的裝置設(shè)置在同一系統(tǒng)或同一地域,而匯總點裝置與處理單元匯總的裝置設(shè)置在不同的地域。例如,在北京產(chǎn)生的熱點數(shù)據(jù)在北京執(zhí)行第一階段數(shù)據(jù)匯總,在上海產(chǎn)生的熱點數(shù)據(jù)在上海執(zhí)行第一階段數(shù)據(jù)匯總,在北京單元匯總的第一階段匯總數(shù)據(jù)和在上海單元匯總的第一階段匯總數(shù)據(jù)發(fā)送至匯總點裝置(可以設(shè)置在第三地),并由匯總點裝置執(zhí)行第二階段匯總。

      步驟s208,按照第二數(shù)據(jù)匯總方式對非熱點數(shù)據(jù)進(jìn)行業(yè)務(wù)數(shù)據(jù)匯總。

      具體來說,如果識別業(yè)務(wù)數(shù)據(jù)屬于非熱點數(shù)據(jù),則直接將交易數(shù)據(jù)復(fù)制到匯總點裝置,由匯總點裝置進(jìn)行數(shù)據(jù)匯總。也就是說,對非熱點數(shù)據(jù)的業(yè)務(wù)數(shù)據(jù)并不執(zhí)行單元匯總,僅在匯總點裝置執(zhí)行一次數(shù)據(jù)匯總。例如,在北京產(chǎn)生的非熱點數(shù)據(jù)復(fù)制后直接發(fā)送到匯總點裝置(可以設(shè)置在第三地),在上海產(chǎn)生的熱點數(shù)據(jù)復(fù)制后直接發(fā)送到匯總點裝置,由匯總點裝置執(zhí)行一次數(shù)據(jù)匯總。

      需要說明,數(shù)據(jù)匯總的匯總粒度可以根據(jù)多種維度進(jìn)行設(shè)置,以交易數(shù)據(jù)為例,如果以商家維度進(jìn)行數(shù)據(jù)匯總,假設(shè)有100萬商家,則匯總粒度為100萬;如果以商品維度進(jìn)行數(shù)據(jù)匯總,假設(shè)商品有1億種,則匯總粒度為1億。匯總粒度不隨交易數(shù)據(jù)的增加而增加,匯總粒度根據(jù)匯總維度的顆粒數(shù)決定。

      下面結(jié)合圖3描述本申請實施例。在本實施例中,將業(yè)務(wù)數(shù)據(jù)以交易數(shù)據(jù)為例進(jìn)行描述。如圖3所示,對電子商務(wù)平臺的交易過程中產(chǎn)生的交易數(shù)據(jù)采用分布式存儲方式進(jìn)行存儲,交易數(shù)據(jù)根據(jù)一定的存儲規(guī)則分別存儲在多個第一存儲單元301中(為簡明起見,圖3中僅示出一個第一存儲單元)。其中,可以根據(jù)數(shù)據(jù)產(chǎn)生的地域或其他規(guī)則分布式存儲數(shù)據(jù),本申請對此不進(jìn)行限定。

      判斷第一存儲單元301存儲的交易數(shù)據(jù)是否屬于熱點數(shù)據(jù),具體的判斷過程請參考本說明書之前的描述,此處不再贅述。若判斷第一存儲單元301存儲的交易數(shù)據(jù)屬于熱點數(shù)據(jù),則為該熱點數(shù)據(jù)進(jìn)行標(biāo)記,待預(yù)設(shè)時間后,將第一存儲單元301存儲的一或多個(筆、批)熱點數(shù)據(jù)在本地執(zhí)行第一次數(shù)據(jù)匯總(單元匯總),然后將單元匯總數(shù)據(jù)發(fā)送至第二存儲單元302進(jìn)行存儲,并在第二存儲單元302進(jìn)行第二次匯總(匯總點裝置匯總)。若判斷第一存儲單元301存儲的交易數(shù)據(jù)屬于非熱點數(shù)據(jù),則復(fù)制一份相同的數(shù)據(jù)到第二存儲單元302進(jìn)行存儲,并在第二存儲單元302進(jìn)行一次數(shù)據(jù)匯總(匯總點裝置匯總)。需要說明,第二存儲單元302接收到的數(shù)據(jù)可以是多個第一存儲單元301發(fā)送的數(shù)據(jù),這些數(shù)據(jù)可以是熱點數(shù)據(jù)(即經(jīng)過第一次數(shù)據(jù)匯總處理),也可以是非熱點數(shù)據(jù)(未經(jīng)過第一次數(shù)據(jù)匯總處理)。

      下面舉例說明數(shù)據(jù)匯總的成本。假設(shè)商戶數(shù)量為m,每分鐘產(chǎn)生的交易數(shù)據(jù)為n,匯總頻率為1分鐘,每次匯總僅有20%的商戶存在數(shù)據(jù),交易數(shù)據(jù)和商戶數(shù)據(jù)離散度(即存儲單元的數(shù)量)均為100。

      對于非熱點數(shù)據(jù),其數(shù)據(jù)匯總的每分鐘的成本為:數(shù)據(jù)傳輸成本n,存儲成本為n,匯總成本為m*20%;

      對于熱點數(shù)據(jù),其數(shù)據(jù)匯總的每分鐘的成本為:第一次匯總成本m*20%*100,數(shù)據(jù)傳輸成本m*20%*100,存儲成本為m*20%*100,第二次匯總成本為m*20%。

      根據(jù)本申請的上述實施例,判斷業(yè)務(wù)數(shù)據(jù)是否屬于熱點數(shù)據(jù),并使用對應(yīng)業(yè)務(wù)數(shù)據(jù)類型的數(shù)據(jù)匯總方法,有效降低了匯總成本。

      圖4是根據(jù)本申請實施例的業(yè)務(wù)數(shù)據(jù)匯總系統(tǒng)的結(jié)構(gòu)框圖,如圖4所示,該系統(tǒng)包括:

      存儲模塊41,用于通過分布式存儲方式存儲多個客戶端產(chǎn)生的各業(yè)務(wù)數(shù)據(jù)。

      熱點數(shù)據(jù)判斷模塊42,用于針對各業(yè)務(wù)數(shù)據(jù),判斷該業(yè)務(wù)數(shù)據(jù)是否屬于熱點數(shù)據(jù),其中根據(jù)該業(yè)務(wù)數(shù)據(jù)對應(yīng)的客戶端的屬性判斷該業(yè)務(wù)數(shù)據(jù)是否屬于熱點數(shù)據(jù)。

      第一匯總處理模塊43,用于若判斷所述業(yè)務(wù)數(shù)據(jù)屬于熱點數(shù)據(jù),則根據(jù)預(yù)設(shè)的第一數(shù)據(jù)匯總方式對所述熱點數(shù)據(jù)進(jìn)行業(yè)務(wù)數(shù)據(jù)匯總。

      在本申請的實施例中,所述存儲模塊41包括:第一存儲單元(未示出),用于存儲熱點數(shù)據(jù);第二存儲單元(未示出),用于存儲匯總數(shù)據(jù);所述第一匯總處理模塊43還用于,待預(yù)設(shè)時間后,對所述第一存儲單元存儲的熱點數(shù)據(jù)執(zhí)行第一階段數(shù)據(jù)匯總處理得到第一階段匯總數(shù)據(jù);將所述第一階段匯總數(shù)據(jù)發(fā)送至第二存儲單元進(jìn)行存儲;對所述第二存儲單元存儲的各第一階段匯總數(shù)據(jù)執(zhí)行第二階段數(shù)據(jù)匯總處理。

      繼續(xù)參考圖4,所述系統(tǒng)還包括:

      第二匯總處理模塊44,用于若判斷所述業(yè)務(wù)數(shù)據(jù)屬于非熱點數(shù)據(jù),則根據(jù)預(yù)設(shè)的第二數(shù)據(jù)匯總方式對所述非熱點數(shù)據(jù)進(jìn)行業(yè)務(wù)數(shù)據(jù)匯總。

      在本申請的一個實施例中,所述第一存儲單元還用于存儲非熱點數(shù)據(jù);第二存儲單元,還用于存儲非熱點數(shù)據(jù)及匯總數(shù)據(jù);所述第二匯總處理模塊44還用于將所述非熱點數(shù)據(jù)發(fā)送至第二存儲單元進(jìn)行存儲;對所述第二存儲單元存儲的各非熱點數(shù)據(jù)執(zhí)行數(shù)據(jù)匯總處理。

      在本申請的一個實施例中,所述熱點數(shù)據(jù)判斷模塊42還用于,根據(jù)lru算法識別客戶端是否屬于熱點客戶端,若是則判斷該熱點客戶端產(chǎn)生的業(yè)務(wù)數(shù)據(jù)屬于熱點數(shù)據(jù)。

      在本申請的一個實施例中,所述熱點數(shù)據(jù)判斷模塊42還用于,設(shè)置所述熱點客戶端的熱點時段,所述熱點客戶端在熱點時段產(chǎn)生的業(yè)務(wù)數(shù)據(jù)屬于熱點數(shù)據(jù)。

      本申請的方法的操作步驟與裝置的結(jié)構(gòu)特征對應(yīng),可以相互參照,不再一一贅述。

      綜上所示,根據(jù)本申請的上述技術(shù)方案,通過判斷業(yè)務(wù)數(shù)據(jù)是否屬于熱點數(shù)據(jù),并根據(jù)判斷結(jié)果使用對應(yīng)的數(shù)據(jù)匯總方式,通過本申請能夠有效降低分布式存儲的大數(shù)據(jù)的數(shù)據(jù)匯總的成本。

      本領(lǐng)域內(nèi)的技術(shù)人員應(yīng)明白,本發(fā)明的實施例可提供為方法、系統(tǒng)、或計算機程序產(chǎn)品。因此,本發(fā)明可采用完全硬件實施例、完全軟件實施例、或結(jié)合軟件和硬件方面的實施例的形式。而且,本發(fā)明可采用在一個或多個其中包含有計算機可用程序代碼的計算機可用存儲介質(zhì)(包括但不限于磁盤存儲器、cd-rom、光學(xué)存儲器等)上實施的計算機程序產(chǎn)品的形式。

      本發(fā)明是參照根據(jù)本發(fā)明實施例的方法、設(shè)備(系統(tǒng))、和計算機程序產(chǎn)品的流程圖和/或方框圖來描述的。應(yīng)理解可由計算機程序指令實現(xiàn)流程圖和/或方框圖中的每一流程和/或方框、以及流程圖和/或方框圖中的流程和/或方框的結(jié)合。可提供這些計算機程序指令到通用計算機、專用計算機、嵌入式處理機或其他可編程數(shù)據(jù)處理設(shè)備的處理器以產(chǎn)生一個機器,使得通過計算機或其他可編程數(shù)據(jù)處理設(shè)備的處理器執(zhí)行的指令產(chǎn)生用于實現(xiàn)在流程圖一個流程或多個流程和/或方框圖一個方框或多個方框中指定的功能的裝置。

      這些計算機程序指令也可存儲在能引導(dǎo)計算機或其他可編程數(shù)據(jù)處理設(shè)備以特定方式工作的計算機可讀存儲器中,使得存儲在該計算機可讀存儲器中的指令產(chǎn)生包括指令裝置的制造品,該指令裝置實現(xiàn)在流程圖一個流程或多個流程和/或方框圖一個方框或多個方框中指定的功能。

      這些計算機程序指令也可裝載到計算機或其他可編程數(shù)據(jù)處理設(shè)備上,使得在計算機或其他可編程設(shè)備上執(zhí)行一系列操作步驟以產(chǎn)生計算機實現(xiàn)的處理,從而在計算機或其他可編程設(shè)備上執(zhí)行的指令提供用于實現(xiàn)在流程圖一個流程或多個流程和/或方框圖一個方框或多個方框中指定的功能的步驟。

      在一個典型的配置中,計算設(shè)備包括一個或多個處理器(cpu)、輸入/輸出接口、網(wǎng)絡(luò)接口和內(nèi)存。

      內(nèi)存可能包括計算機可讀介質(zhì)中的非永久性存儲器,隨機存取存儲器(ram)和/或非易失性內(nèi)存等形式,如只讀存儲器(rom)或閃存(flashram)。內(nèi)存是計算機可讀介質(zhì)的示例。

      計算機可讀介質(zhì)包括永久性和非永久性、可移動和非可移動媒體可以由任何方法或技術(shù)來實現(xiàn)信息存儲。信息可以是計算機可讀指令、數(shù)據(jù)結(jié)構(gòu)、程序的模塊或其他數(shù)據(jù)。計算機的存儲介質(zhì)的例子包括,但不限于相變內(nèi)存(pram)、靜態(tài)隨機存取存儲器(sram)、動態(tài)隨機存取存儲器(dram)、其他類型的隨機存取存儲器(ram)、只讀存儲器(rom)、電可擦除可編程只讀存儲器(eeprom)、快閃記憶體或其他內(nèi)存技術(shù)、只讀光盤只讀存儲器(cd-rom)、數(shù)字多功能光盤(dvd)或其他光學(xué)存儲、磁盒式磁帶,磁帶磁磁盤存儲或其他磁性存儲設(shè)備或任何其他非傳輸介質(zhì),可用于存儲可以被計算設(shè)備訪問的信息。按照本文中的界定,計算機可讀介質(zhì)不包括暫存電腦可讀媒體(transitorymedia),如調(diào)制的數(shù)據(jù)信號和載波。

      還需要說明的是,術(shù)語“包括”、“包含”或者其任何其他變體意在涵蓋非排他性的包含,從而使得包括一系列要素的過程、方法、商品或者設(shè)備不僅包括那些要素,而且還包括沒有明確列出的其他要素,或者是還包括為這種過程、方法、商品或者設(shè)備所固有的要素。在沒有更多限制的情況下,由語句“包括一個……”限定的要素,并不排除在包括所述要素的過程、方法、商品或者設(shè)備中還存在另外的相同要素。

      以上所述僅為本申請的實施例而已,并不用于限制本申請。對于本領(lǐng)域技術(shù)人員來說,本申請可以有各種更改和變化。凡在本申請的精神和原理之內(nèi)所作的任何修改、等同替換、改進(jìn)等,均應(yīng)包含在本申請的權(quán)利要求范圍之內(nèi)。

      當(dāng)前第1頁1 2 
      網(wǎng)友詢問留言 已有0條留言
      • 還沒有人留言評論。精彩留言會獲得點贊!
      1