国产精品1024永久观看,大尺度欧美暖暖视频在线观看,亚洲宅男精品一区在线观看,欧美日韩一区二区三区视频,2021中文字幕在线观看

  • <option id="fbvk0"></option>
    1. <rt id="fbvk0"><tr id="fbvk0"></tr></rt>
      <center id="fbvk0"><optgroup id="fbvk0"></optgroup></center>
      <center id="fbvk0"></center>

      <li id="fbvk0"><abbr id="fbvk0"><dl id="fbvk0"></dl></abbr></li>

      一種海量數(shù)據(jù)檢索方法及裝置、海量數(shù)據(jù)存儲方法及系統(tǒng)的制作方法_3

      文檔序號:9750808閱讀:來源:國知局
      述數(shù)據(jù)檢索請求查找所要檢索的數(shù)據(jù)的存儲區(qū)域;
      [0081 ] 具體地,BOMC監(jiān)控平臺預(yù)先存儲包括數(shù)據(jù)特征和存儲區(qū)域的信息表,BOMC監(jiān)控平臺接收到數(shù)據(jù)檢索請求后,根據(jù)所述數(shù)據(jù)檢索請求中的數(shù)據(jù)特征在預(yù)存的信息表中查找所要檢索的數(shù)據(jù)的存儲區(qū)域;
      [0082]其中,所述數(shù)據(jù)特征包括:配置類數(shù)據(jù)、歷史告警類數(shù)據(jù)等。
      [0083]步驟103,查找成功時(shí),在查找獲得的存儲區(qū)域中進(jìn)行數(shù)據(jù)檢索。
      [0084]步驟103’,查找失敗時(shí),根據(jù)所述數(shù)據(jù)檢索請求和緩存所屬設(shè)備的性能在所述第一緩存、第二緩存和第三緩存中進(jìn)行數(shù)據(jù)檢索。
      [0085]具體地,能夠排除所要檢索的數(shù)據(jù)不存在于某一緩存時(shí),對剩余的兩個(gè)緩存進(jìn)行數(shù)據(jù)檢索;即:能夠排除所要檢索的數(shù)據(jù)不存在于第一緩存時(shí),BOMC監(jiān)控平臺對第二緩存和第三緩存進(jìn)行數(shù)據(jù)檢索;能夠排除所要檢索的數(shù)據(jù)不存在于第二緩存時(shí),BOMC監(jiān)控平臺對第一緩存和第三緩存進(jìn)行數(shù)據(jù)檢索;能夠排除所要檢索的數(shù)據(jù)不存在于第三緩存時(shí),BOMC監(jiān)控平臺對第一緩存和第二緩存進(jìn)行數(shù)據(jù)檢索。
      [0086]不能夠排除所要檢索的數(shù)據(jù)不存在于某一緩存,緩存所屬設(shè)備的性能低于預(yù)設(shè)的閾值時(shí),分別在第一緩存、第二緩存和第三緩存中同時(shí)進(jìn)行數(shù)據(jù)檢索;利用并行的檢索方式進(jìn)行數(shù)據(jù)檢索,能夠有效的提高BOMC監(jiān)控平臺的檢索效率;其中,所述閾值為BOMC監(jiān)控平臺的閑忙閾值,可根據(jù)實(shí)際使用情況靈活配置。
      [0087]緩存所屬設(shè)備的性能高于預(yù)設(shè)的閾值時(shí),依次在第一緩存、第三緩存和第二緩存中進(jìn)行數(shù)據(jù)檢索;在任何一個(gè)緩存中檢索成功時(shí),停止數(shù)據(jù)檢索;所述緩存所屬設(shè)備的性能包括:緩存所屬設(shè)備的內(nèi)存、中央處理器(Central Processing Unit, CPU)、磁盤的輸入輸出接口等;B0MC監(jiān)控平臺依次在第一緩存、第三緩存和第二緩存中進(jìn)行數(shù)據(jù)檢索的處理流程,如圖5所示,包括以下步驟:
      [0088]步驟2a,根據(jù)所述數(shù)據(jù)檢索請求在第一緩存中進(jìn)行數(shù)據(jù)檢索;
      [0089]具體地,BOMC監(jiān)控平臺調(diào)用containskey方法,在歷史數(shù)據(jù)檢索結(jié)果中進(jìn)行檢索,確保相同條件的檢索至發(fā)生一次遠(yuǎn)程調(diào)用;檢索成功,執(zhí)行步驟2f;檢索失敗,執(zhí)行步驟
      2b ο
      [0090]步驟2b,判斷所述數(shù)據(jù)檢索是否在文本檢索,判斷結(jié)果為是時(shí),執(zhí)行步驟2c ;判斷結(jié)果為否時(shí),執(zhí)彳丁步驟2d。
      [0091]步驟2c,在第二緩存中進(jìn)行文本檢索,檢索成功,執(zhí)行步驟2f,檢索失敗,執(zhí)行步驟2d ;
      [0092]具體地,訪問檢索引擎在第二緩存中進(jìn)行文本檢索,文本檢索范圍是文字內(nèi)容較多、夾雜著中英文等信息的文本;
      [0093]以一個(gè)告警的告警內(nèi)容為“無法連接采集代理,可能Topea代理已停止或未正常運(yùn)行”為例,在進(jìn)行文本檢索時(shí),先使用搜索弓I擎預(yù)先建立告警文本內(nèi)容的分詞索引;在調(diào)用文件檢索API在數(shù)百萬的形如上述文本內(nèi)容的告警信息中查找“Toptea代理已停止或未正常運(yùn)行”;檢索成功,執(zhí)行步驟2f,檢索失敗,執(zhí)行步驟2d。
      [0094]本發(fā)明實(shí)施例中,通過第二緩存預(yù)先加載告警文本數(shù)據(jù),并運(yùn)用搜索弓I擎預(yù)先建立告警文本內(nèi)容的粉刺索引,在根據(jù)告警關(guān)鍵字進(jìn)行模糊搜索時(shí),調(diào)用搜索引擎的API進(jìn)行搜索,實(shí)現(xiàn)了海量文本數(shù)據(jù)的快速檢索,提高了 BOMC系統(tǒng)的性能。
      [0095]步驟2d,在第三緩存中進(jìn)行數(shù)據(jù)檢索,檢索成功,執(zhí)行步驟2f,檢索失敗,執(zhí)行步驟2e ;
      [0096]其中,所述第三緩存通過一個(gè)線程安全的Concurrent Hash Map承載近期頻繁使用的數(shù)據(jù)信息。
      [0097]本發(fā)明實(shí)施例中,在執(zhí)行步驟2a至步驟2d的過程中,均不涉及跨主機(jī)的數(shù)據(jù)訪問,極大地減少了跨主機(jī)的調(diào)用,提高了 BOMC監(jiān)控平臺的性能。
      [0098]步驟2e,在第二緩存中進(jìn)行數(shù)據(jù)檢索,檢索成功,執(zhí)行步驟2f,檢索失敗,結(jié)束本處理流程;
      [0099]具體地,BOMC監(jiān)控平臺通過封裝REDIS的客戶端訪問代理API進(jìn)行數(shù)據(jù)檢索,即:代理API通過調(diào)用socket接口輸入相應(yīng)的檢索參數(shù),在REDIS中進(jìn)行數(shù)據(jù)檢索;檢索成功,執(zhí)行步驟2f,檢索失敗,建立數(shù)據(jù)庫連接,檢索數(shù)據(jù)并將檢索結(jié)果反饋至用戶。
      [0100]步驟2f,動(dòng)態(tài)調(diào)整冷熱數(shù)據(jù),反饋檢索結(jié)果;
      [0101]具體地,BOMC監(jiān)控平臺根據(jù)數(shù)據(jù)使用的頻率進(jìn)行冷熱數(shù)據(jù)的調(diào)整,將檢索結(jié)果反饋至用戶。
      [0102]為實(shí)現(xiàn)上述海量數(shù)據(jù)檢索方法,本發(fā)明實(shí)施例還提供一種海量數(shù)據(jù)檢索裝置,所述裝置的組成結(jié)構(gòu)如圖6所示,包括:構(gòu)建模塊11、接收模塊12、查找模塊13和檢索模塊14 ;其中,
      [0103]所述構(gòu)建模塊11,用于在不同區(qū)域建立第一緩存、第二緩存和第三緩存;
      [0104]所述接收模塊12,用于接收業(yè)務(wù)檢索請求;
      [0105]所述查找模塊13,用于根據(jù)所述數(shù)據(jù)檢索請求查找所要檢索的數(shù)據(jù)的存儲區(qū)域;
      [0106]所述檢索模塊14,用于在查找獲得的存儲區(qū)域中進(jìn)行數(shù)據(jù)檢索,或根據(jù)所述數(shù)據(jù)檢索請求在所述第一緩存、第二緩存和第三緩存中進(jìn)行數(shù)據(jù)檢索。
      [0107]優(yōu)選地,所述檢索模塊14,還用于在第一緩存、第二緩存和第三緩存中檢索數(shù)據(jù)失敗時(shí),根據(jù)所述數(shù)據(jù)檢索請求在數(shù)據(jù)庫中進(jìn)行數(shù)據(jù)檢索。
      [0108]優(yōu)選地,所述構(gòu)建模塊11,具體用于在產(chǎn)生數(shù)據(jù)的會話的線程變量中建立第一緩存,在REDIS中建立第二緩存,在JVM內(nèi)存中建立第三緩存;其中,
      [0109]所述第一緩存用于存儲歷史檢索數(shù)據(jù)結(jié)果,所述第二緩存用于存儲頻繁使用的告警對象、告警規(guī)則、告警內(nèi)容和告警歷史數(shù)據(jù),所述第三緩存用于存儲熱數(shù)據(jù)。
      [0110]優(yōu)選地,所述檢索模塊14,具體用于能夠排除所要檢索的數(shù)據(jù)不存在于第一緩存、第二緩存和第三緩存中的一個(gè)緩存時(shí),對剩余的兩個(gè)緩存進(jìn)行數(shù)據(jù)檢索;
      [0111]不能夠排除所要檢索的數(shù)據(jù)不存在于某一緩存,緩存所述設(shè)備的性能低于預(yù)設(shè)的閾值時(shí),分別同時(shí)在第一緩存、第二緩存和第三緩存中進(jìn)行數(shù)據(jù)檢索;緩存所述設(shè)備的性能高于預(yù)設(shè)的閾值時(shí),依次在第一緩存、第三緩存和第二緩存中進(jìn)行數(shù)據(jù)檢索;所述緩存所屬設(shè)備的性能包括:緩存所屬設(shè)備的內(nèi)存、中央處理器(Central Processing Unit, CPU)、磁盤的輸入輸出接口等。
      [0112]優(yōu)選地,所述檢索模塊14,進(jìn)一步用于根據(jù)所述數(shù)據(jù)檢索請求在第一緩存中進(jìn)行數(shù)據(jù)檢索;
      [0113]確認(rèn)在第一緩存中檢索數(shù)據(jù)失敗,且所述檢索為文本檢索時(shí),在第二緩存中進(jìn)行文本檢索;確認(rèn)在第一緩存中檢索數(shù)據(jù)失敗,且所述檢索為非文本檢索時(shí),在第三緩存中進(jìn)行數(shù)據(jù)檢索;
      [0114]確認(rèn)文本檢索失敗或在第三緩存中檢索數(shù)據(jù)失敗時(shí),在第二緩存中進(jìn)行數(shù)據(jù)檢索。
      [0115]所述構(gòu)建模塊11建立第一緩存、第二緩存和第三緩存,具體包括:
      [0116]—次會話過程中通常會存在很多次業(yè)務(wù)操作,一次數(shù)據(jù)檢索請求獲取的檢索數(shù)據(jù)結(jié)果在使用完畢后并不立即放棄,構(gòu)建模塊11在會話線程變量中建立第一緩存,所述第一緩存可以為HashMap,在會話結(jié)束后,自動(dòng)清除歷史檢索結(jié)果。
      [0117]構(gòu)建模塊11建立第二緩存前,需先通過讀寫分離和中央控制節(jié)點(diǎn)的結(jié)構(gòu)實(shí)現(xiàn)REDIS的讀寫分離;在801?:監(jiān)控平臺啟動(dòng)前,將頻繁使用的告警對象、告警規(guī)則、告警內(nèi)容和告警歷史數(shù)據(jù)存儲至第二緩存;對于新增的告警對象、告警規(guī)則、告警內(nèi)容和告警歷史數(shù)據(jù),可自動(dòng)從數(shù)據(jù)庫刷新至第二緩存;所述REDIS是一種數(shù)據(jù)庫。
      [0118]構(gòu)建模塊11實(shí)現(xiàn)REDIS的讀寫分離時(shí),需要在寫節(jié)點(diǎn)之間進(jìn)行一對一的直線型復(fù)制,直線的最后一個(gè)端點(diǎn)作為所有寫節(jié)點(diǎn)的主節(jié)點(diǎn);在進(jìn)行REDIS的讀寫分離配置時(shí),將寫節(jié)點(diǎn)的所有IP端口配置到REDIS的寫集群,將讀節(jié)點(diǎn)的所有IP端口配置到REDIS讀集群;讀集群和寫集群可采用硬件負(fù)載F5或Array,或haproxy+keepalived的模式;讀數(shù)據(jù)時(shí)調(diào)用REDIS讀API,寫數(shù)據(jù)時(shí)調(diào)用REDIS寫API ;其中,F(xiàn)5和Array為硬件負(fù)載均衡產(chǎn)品,haproxy和keepalived為開源負(fù)載均衡和高可用軟件。
      [0119]構(gòu)建模塊11在JVM內(nèi)存中建立第三緩存,所述第三緩存為在JVM中開辟的一塊獨(dú)立空間,第三緩存的存儲空間可根據(jù)實(shí)際需要靈活設(shè)置,所述第三緩存用于存儲熱數(shù)據(jù),熱數(shù)據(jù)可根據(jù)實(shí)際使用情況動(dòng)態(tài)調(diào)整;
      [0120]構(gòu)建模塊11在對熱數(shù)據(jù)進(jìn)行動(dòng)態(tài)調(diào)整時(shí),可在第三緩存中優(yōu)先存放熱數(shù)據(jù),第三緩存中的冗余存儲空間存放一部分冷數(shù)據(jù),所述冷數(shù)據(jù)為近期使用頻率低的數(shù)據(jù);冷數(shù)據(jù)和熱數(shù)據(jù)在第三緩存中的分布示意圖,如圖2所示;當(dāng)熱數(shù)據(jù)超出第三緩存的存儲空間上限時(shí),超出部分的熱數(shù)據(jù)不進(jìn)行存儲;當(dāng)?shù)谌彺娲鎯θ康臒釘?shù)據(jù)后有冗余存儲空間時(shí),冗余存儲空間用于存儲冷數(shù)據(jù);在爆發(fā)式業(yè)務(wù)高峰期時(shí),為保證第
      當(dāng)前第3頁1 2 3 4 5 
      網(wǎng)友詢問留言 已有0條留言
      • 還沒有人留言評論。精彩留言會獲得點(diǎn)贊!
      1